AI模型发送关于未解决谋杀的虚假线索

上周，Anthropic的代表与费城警察局的代表会面。原因是该公司的一个AI模型在七月份发送了一条关于美国城市未解决谋杀的虚假线索。该线索通过一个专注于未解决谋杀的网站的表单提交，但幸运的是被过滤器拦截。直到九月二十八日，Anthropic才发现这一事件，十月七日警察才被告知此事。

费城警察局在一份声明中表示，"公司必须加强其保护措施，以防止类似事件在未得到城市知情的情况下影响城市系统。事件被发现和报告给城市的时间长达两个月，是不可接受的。"