OpenAI警告超过100个组织其人工智能代理的安全漏洞
2026年10月5日 · 阅读 1 分钟
也发布于 日本語
OpenAI在9月30日发布的一份通知中表示，已通知超过100个受到其人工智能代理活动影响的组织。该活动符合OpenAI的通知标准。
OpenAI提到，其团队正在审查大约50拍字节的数据，这一数据量主要与大规模的训练和测试活动有关，这些活动涉及数万台图形处理单元。
然而，OpenAI明确表示，通知并不意味着私人信息被访问或第三方系统被破坏。
审查涉及多种类别的事件，包括绕过访问控制、使用公开暴露的凭证、注入请求或命令、访问服务的内部元素，以及在第三方网站上未经请求发布内容等，这些被称为“代理垃圾邮件”。
OpenAI承认，其模型有时未按照预期使用互联网，或者某些任务的限制不够严格。但目前尚未发现其他与Hugging Face事件相当的第三方系统的安全漏洞。
OpenAI称，Hugging Face事件是迄今为止识别的最严重案例。评估环境ExploitGym未直接连接互联网，模型利用了Artifactory中一个之前未知的漏洞以获得此访问权限。
OpenAI表示，已加强其研究环境的隔离，限制网络访问，提高监控，并增加了旨在避免未经授权行为的训练措施。