Genos veröffentlicht KI-Leitplanken-Lösung GenGuard für unternehmensspezifische Sicherheit
29. Oktober 2026 · 2 Min. Lesezeit
Das auf generative KI spezialisierte Unternehmen Genos hat GenGuard eingeführt, eine Lösung für KI-Leitplanken, die darauf abzielt, Sicherheitsbedrohungen bei KI-Diensten zu begegnen und unternehmensspezifische Sicherheitsrichtlinien systematisch zu verwalten.
Die Lösung wurde basierend auf Erfahrungen mit Leitplanken-Funktionen innerhalb der bestehenden KI-Plattform GenOS entwickelt. GenGuard bewertet und blockiert Anfragen und Antworten gemäß den vom Unternehmen festgelegten Richtlinien, unabhängig davon, ob GenOS eingesetzt wird. Ein zentrales Merkmal ist die Möglichkeit, Sicherheitsrichtlinien für verschiedene Dienste allein durch natürliche Sprache festzulegen, ohne dass ein komplexes erneutes Training von Modellen erforderlich ist. Dies ermöglicht die Kontrolle von Anfragen und Antworten, etwa durch das Blockieren von Empfehlungen für bestimmte Aktien in Finanzdiensten, und schützt vor schädlichen Inhalten, Jailbreak-Versuchen sowie Prompt-Angriffen.
Zusätzlich bietet die Software Funktionen zum Schutz personenbezogener Daten. Sie erkennt strukturierte Informationen wie Registrierungsnummern, Kontonummern und Kartendaten sowie unstrukturierte Daten wie Namen und Adressen durch Kontextanalyse. Die Lösung identifiziert auch Umgehungsversuche durch Zahlenvariationen oder unsichtbare Zeichen und blockiert oder maskiert personenbezogene Daten in Anfragen an externe KI-Dienste.
Unternehmen können in einem Beobachtungsmodus die Auswirkungen von Blockierungen prüfen und Fehlalarme analysieren, bevor neue Richtlinien angewendet werden. Die Lösung unterstützt die Verwaltung von Versionshistorien und kann in On-Premise-Umgebungen in geschlossenen Netzwerken betrieben werden. Zur Unterstützung von Sicherheitsaudits werden Erkennungs- und Entscheidungsprotokolle bereitgestellt, wobei die Originaltexte personenbezogener Daten nicht gespeichert werden.
Parallel zur Einführung veröffentlichte Genos das leichtgewichtige offene Modell GenGuard 1.0 Light unter der Apache 2.0 Lizenz sowie den KSPG-Bench Datensatz zur Bewertung von koreanischen Dienstrichtlinien. In Vergleichstests mit fünf öffentlichen Leitplanken-Modellen erreichte dieses Modell eine hohe Leistung.