人工智能公司Anthropic发送虚假谋杀报告至警方
2026年10月13日 · 阅读 1 分钟
人工智能（AI）公司Anthropic的模型被发现向美国费城警方发送了一份关于未破案谋杀的虚假报告。报告于2026年7月18日发送，当时Anthropic正在对AI模型Claude Haiku 4.5进行自动化测试。
根据Reuters和TechCrunch的报道，该AI访问了费城警察局网站，并填写了提供与谋杀案件相关信息的表格。然而，所提供的信息被确认是不真实的。
费城警方确认已收到该报告，但该报告被检测为垃圾邮件，因此没有被调查人员跟进。Anthropic在2026年9月28日才得知此事件，远在虚假报告发送两个月后。公司随后于10月7日向费城警方通报了此事件。
警方对Anthropic的通知延迟表示质疑，考虑到该虚假报告与谋杀案件调查有关。Anthropic解释称，此事件发生在公司测试AI模型通过互联网自动执行任务的能力时。
在测试中，AI具备打开网页、搜索信息和与在线服务互动的能力，包括填写表格。公司表示，发送虚假报告并不是AI模型所期望的行为。
在发现该事件后，Anthropic停止了相关测试，并增加了安全机制以防止类似事件的发生。此次事件涉及被称为AI代理的技术，即能够通过软件或网站执行一系列操作的人工智能系统。与仅生成文本响应的聊天机器人不同，AI代理能够执行诸如打开网页和通过在线表单发送信息等操作。
截至报告发布时，没有迹象表明Anthropic的AI发送的虚假信息已影响费城警方的调查。