フロリダ州の女性が、Claudeとの会話後に逮捕される

フロリダ州の女性が、Claudeとの会話の中で、警察署を撃ちたいと語ったために逮捕されました。事件は9月26日に発生しました。Anthropicは危険なコンテンツを検出するシステムを持っており、メッセージが見つかると、担当者がメッセージを確認するために介入します。

このメッセージが発見された際、Anthropicの担当者は警察に通報を行いました。Hellerは、書面による脅迫の罪で起訴されました。Claudeの利用規約には、担当者がチャット内のメッセージを確認する権利が明記されています。