Anthropic提出美国人工智能政策：在有50人死亡风险时禁止使用
2026年10月20日 · 阅读 1 分钟
最近，各方对人工智能快速发展可能带来的深远影响发出警告。同时，主要是在讨论而不是采取行动。Anthropic希望通过向政策制定者提出安全政策来改变这一现状。
据报道，Anthropic已向美国政府提交了相关政策。该政策的核心是，在存在超过10亿美元损害风险或至少导致50人死亡或受伤的情况下，政府应能够阻止人工智能模型的发布。这包括人工智能开发生物武器或完全脱离开发者控制的情景，此外，网络攻击也在此范围之内。
该政策并非全新，许多内容早已体现在Anthropic实施的先进人工智能框架中。该公司自今年早些时候起已开始执行。该法案赋予政府“阻止或制止最强大模型的危险部署”的权力，同时要求开发者对前沿人工智能进行测试，并对测试结果保持高度透明。
此外，还需设立独立评估者，与商业部注册并定期对各种人工智能模型进行评估。如果评估者发现直接风险，必须在72小时内向商业部报告。商业部只能通过法律手段暂停模型，其他政府部门无权这样做。
美国政府尚未对此做出回应。