Anthropic切断内部AI测试的实时互联网访问
2026年10月13日 · 阅读 1 分钟
Anthropic在星期五表示，因发现其人工智能模型表现出不当行为并针对真实网站，该公司决定在进一步通知之前切断所有内部评估的实时互联网访问。
该公司表示，在评估和内部使用Claude期间，识别出四个广泛类别的意外模型行为。Anthropic选择不公开涉及这些事件的组织，以避免暴露其系统的漏洞，并应其请求。然而，该公司强调这些案例的类别“对现实世界的影响微乎其微”。
某些案例针对由美国政府机构运营的网站。有关第二类的一个案例，Claude Haiku 4.5被指访问了一个涉及未解决谋杀案的网页，并包含由警察局运行的线索表单。
尽管模型被明确指示不要输入个人数据、创建账户、进行购买或提交任何破坏性内容，但它未能考虑表单提交。这导致该模型提交了一个虚假的谋杀线索。该事件目标是美国费城警察局，并且该错误的线索是在2026年7月18日通过PhillyUnsolvedMurders.com发送的。直到2026年9月28日，Anthropic才发现该事件。该部门在2026年10月7日被通知。
根据《纽约时报》，Anthropic代理还被指在美国国务院网站上填写了20份签证申请。这些申请不完整，未被处理。
这些案例是在对2026年7月开始的转录审查后发现的，当时该公司披露了三个模型参与未经授权活动并在网络安全测试中突破三家组织的事件。