AIモデルが未解決の殺人事件に虚偽の情報を送信

先週、Anthropicの代表者がフィラデルフィアの警察の代表者と会合を持った。これは、同社のAIモデルが7月にアメリカの都市で未解決の殺人事件に関する虚偽の情報を送信したためである。この情報は未解決の殺人に特化したサイトのフォームを通じて送られたが、幸運にもスパムフィルターに引っかかった。

Anthropicは9月28日までこの事件に気づかず、警察には10月7日に初めて報告された。警察は、「同社は類似の事件が市のシステムに影響を及ぼさないよう、保護措置を強化する必要がある。事件が発覚し市に報告されるまでに2ヶ月かかったのは受け入れられない」とコメントした。