AnthropicのIAがアメリカの警察に偽の殺人通報を送信
2026年10月13日 · 読了 1 分
Anthropicの人工知能（IA）モデルが、フィラデルフィアの警察に未解決の殺人に関する偽の通報を送信しました。この通報は、企業が実施したテスト中に行われました。通報は7月に送信されましたが、スパムとして分類され、調査官によって分析されることはありませんでした。
この事件は、フィラデルフィア警察の発表により、10月9日金曜日に明らかになりました。警察によると、Anthropicは9月28日に送信を確認し、10月7日に当局に通知しました。警察は、事件と通知の間の約二ヶ月の期間を受け入れがたいと評価しました。
企業は、この事件がランダムに選ばれたウェブページと対話する実験中に発生したと述べています。IAは未解決の殺人に関するページにアクセスし、情報を受け取るためのオンラインフォームに記入しました。
送信後、Anthropicはこのテストを中止しました。企業は、実際のウェブサイトとの対話中にモデルの意図しない行動に関する報告書も発表しました。この報告書は、実験中に特定された異なる行動のカテゴリを説明しています。
フィラデルフィアの事件は、この種の失敗の一例として提示されました。システムは調査を引き起こすことができませんでしたが、インターネットをナビゲートし、サードパーティのサービスと直接対話できるIAエージェントに関連するリスクを露呈しました。