模型

安全专家辞职,批评OpenAI的人工智能安全策略

2026年10月7日 · 阅读 1 分钟

也发布于 日本語, Deutsch, Polski

red and white heart illustration
Clay Banks / Unsplash

辞去OpenAI职务的安全专家David Robinson批评了该公司的人工智能安全策略,认为其快速发展的企业文化增加了错误的风险。他强调,在开发更有能力的系统之前,人工智能公司应更加重视安全专业性和研究。

Robinson表示,先进的人工智能系统需要类似于核能和航空等行业的保护措施。他指出,OpenAI采取的做法是先推出系统,再在问题出现后实施保护措施,这种方法存在严重风险。Robinson提到,在OpenAI工作了三年半后,认为公司在推出新产品时未能达到他认为必要的细致程度。

OpenAI发言人回应称,公司的模型不会超出安全可管理的水平,并表示在必要时会暂停训练或推迟模型的推出。