Genos wprowadza GenGuard, rozwiązanie do tworzenia barier ochronnych dla sztucznej inteligencji
29 października 2026 · Czas czytania: 2 min
Firma Genos, specjalizująca się w rozwiązaniach z zakresu generatywnej sztucznej inteligencji, wprowadziła na rynek GenGuard. Jest to rozwiązanie do tworzenia barier ochronnych dla sztucznej inteligencji, które pozwala przedsiębiorstwom systematycznie zarządzać politykami bezpieczeństwa i reagować na zagrożenia w usługach sztucznej inteligencji.
GenGuard został opracowany w oparciu o doświadczenia z funkcjami barier ochronnych zintegrowanymi z platformą GenOS. Narzędzie to ocenia i blokuje zapytania wejściowe oraz generowane odpowiedzi zgodnie z politykami ustalonymi przez firmę. Rozwiązanie może być wykorzystywane w różnych środowiskach korporacyjnych, niezależnie od tego, czy dana organizacja korzysta z platformy GenOS.
Kluczową cechą systemu jest możliwość definiowania polityk bezpieczeństwa dla poszczególnych usług za pomocą języka naturalnego, co eliminuje potrzebę złożonego ponownego trenowania modeli. System przeciwdziała treściom szkodliwym, próbom jailbreaku oraz atakom typu prompt. Przykładowo, w usługach finansowych można wprowadzić kryteria blokowania rekomendacji konkretnych instrumentów finansowych.
Rozwiązanie oferuje funkcje ochrony danych osobowych, wykrywając zarówno informacje ustrukturyzowane, takie jak numery kart czy kont, jak i nieustrukturyzowane, na przykład imiona i adresy, poprzez analizę kontekstu. System identyfikuje próby obejścia zabezpieczeń, takie jak modyfikacje cyfr lub wstawianie niewidocznych znaków, a następnie blokuje lub maskuje dane osobowe przesyłane do zewnętrznych usług sztucznej inteligencji.
Przedmioty wdrożenia obejmują tryb obserwacji do analizy błędnych detekcji, zarządzanie wersjami polityk oraz możliwość pracy w środowisku on-premises w sieciach zamkniętych. Genos udostępnił również lekki model otwarty GenGuard 1.0 Light na licencji Apache 2.0 oraz zestaw danych KSPG-Bench do oceny polityk usług w języku koreańskim. Model ten wykazał wysoką wydajność w porównaniu z pięcioma innymi otwartymi modelami barier ochronnych.
Konieczność takich systemów podkreśla raport IBM z 2026 roku dotyczący kosztów wycieku danych, z którego wynika, że ponad jedna czwarta firm, które doświadczyły wycieku danych w wyniku złośliwych ataków, wskazała na wykorzystanie sztucznej inteligencji przez napastników.