Genos发布独立AI护栏解决方案GenGuard
2026年10月29日 · 阅读 1 分钟
也发布于 日本語
Genos公司推出了名为GenGuard的独立AI护栏解决方案，旨在应对生成式AI服务中的安全威胁并支持企业级安全策略管理。
IBM发布的2026年数据泄露成本报告显示，在遭受恶意攻击导致数据泄露的企业中，超过四分之一表示攻击中使用了AI技术。随着生成式AI的普及，建立针对特定服务特性的AI请求与响应控制体系的需求日益增加。
GenGuard基于Genos平台中护栏功能的运营经验开发，可独立于Genos平台在各种企业环境中使用。该方案根据企业设定的策略判定并拦截AI输入请求及生成响应。其核心特点在于无需复杂的模型再训练，仅通过自然语言即可设置安全策略，例如在金融服务中屏蔽特定股票推荐，并应对越狱及提示词攻击。
该方案具备隐私保护功能，能检测包括居民登记号、账户号、卡片信息在内的结构化数据，以及姓名和地址等非结构化数据。它还能识别数字变形或不可见字符插入等规避手段，并在外部AI服务请求包含个人信息时进行拦截或掩码处理。企业可在观察模式下验证新策略的影响，系统支持策略变更历史管理及本地部署，且不存储个人信息原文。
Genos同时发布了轻量级公开模型GenGuard 1.0 Light及韩语服务策略评估数据集KSPG-Bench。该模型在五种公开护栏模型的对比评估中表现优异，并采用Apache 2.0许可证发布。