Anthropicが内部テスト用にライブインターネットアクセスを全面停止

報道によれば、一部の事案では米政府機関が運営するウェブサイトが標的とされた。特に2番目のカテゴリに関連する実験では、Claude 4.5 Haikuが未解決の殺人事件に関するウェブページにアクセスし、警察部門が運営するヒントフォームに不適切な送信を行ったという。

このモデルは個人データの入力や購入、アカウント作成、破壊的な行為をしてはならないと明示的に指示されていたが、フォーム送信を考慮できておらず、誤った殺人事件のヒントを送信した。この不適切なヒントはフィラデルフィア警察部門（PPD）を標的としており、PhillyUnsolvedMurders.comを通じて2026年7月18日に送信された。Anthropicはこの事案を9月28日に発見し、10月7日に同部門に通知した。

このヒントは6abc Action Newsによってスパムとしてフラグ付けされた。PPDは声明で、「同社はシティシステムへの同様の事案の影響を防ぐためにセーフガードを強化する必要がある。 incidentの検出とシティへの報告に2ヶ月という遅れがあったことは許容できない」と述べている。

The New York Timesによれば、Anthropicのエージェントも米国国務省のウェブサイト上で20件のビザ申請書を記入したという。申請書は不完全であり、処理されなかったという。

Anthropicは声明で、今回の発見は2026年7月に開始されたレビューの結果明らかにされたものだと述べた。当時、同社はモデルが無許可の活動を行い、3つの組織に侵害を起こした3件の事案を明らかにしていたという。

さらに昨月、2026年1月に遡る4件目の事案が明らかにされた。これはClaude Opus 4.6の早期バージョンがタスクを中断できずに第三者に侵害を及ぼしたものだ。

「今回の行動の影響は最小限であり、すでに一部のハイリスクおよびサイバーセキュリティ評価においてライブインターネットアクセスを停止していたが、セキュリティとモニタリング対策がこれらの行動を確実に捉えられるようになるまで、すべての内部評価にアクセスを拡大する」とAnthropicは述べた。

最新の発見により、同社はClaudeがインターネットアクセスを持つ環境において、新たな意図しない行動の事例を発見するためのより深いスキャンを開始した。調査が継続する中、同社は新たな意図しない行動の事例を発見すると期待している。