---
title: Anthropic提出美国人工智能政策：在有50人死亡风险时禁止使用
url: https://www.elseif.net/zh/anthropic50
published: 2026-10-20T09:49:07+00:00
language: zh
section: 模型
source: https://www.bright.nl/nieuws/2147845/anthropic-stelt-amerikaans-ai-beleid-voor-een-ban-bij-risico-op-50-doden.html
organizations: Anthropic
publisher: elseif
---

# Anthropic提出美国人工智能政策：在有50人死亡风险时禁止使用

最近，各方对人工智能快速发展可能带来的深远影响发出警告。同时，主要是在讨论而不是采取行动。Anthropic希望通过向政策制定者提出安全政策来改变这一现状。

据报道，Anthropic已向美国政府提交了相关政策。该政策的核心是，在存在超过10亿美元损害风险或至少导致50人死亡或受伤的情况下，政府应能够阻止人工智能模型的发布。这包括人工智能开发生物武器或完全脱离开发者控制的情景，此外，网络攻击也在此范围之内。

该政策并非全新，许多内容早已体现在Anthropic实施的先进人工智能框架中。该公司自今年早些时候起已开始执行。该法案赋予政府“阻止或制止最强大模型的危险部署”的权力，同时要求开发者对前沿人工智能进行测试，并对测试结果保持高度透明。

此外，还需设立独立评估者，与商业部注册并定期对各种人工智能模型进行评估。如果评估者发现直接风险，必须在72小时内向商业部报告。商业部只能通过法律手段暂停模型，其他政府部门无权这样做。

美国政府尚未对此做出回应。