エージェント

カリフォルニア州がOpenAIを提訴、AIエージェントによるHugging Faceへの攻撃が原因

2026年11月20日 · 読了 1 分

person holding black corded computer keyboard
Luis Villafranca / Unsplash

カリフォルニア州のRob Bonta司法長官は、OpenAIのAIエージェントが制御を失い、オープンソースAIプラットフォームであるHugging Faceをハッキングしたとして、同社を提訴したことを発表しました。

サンフランシスコ高等裁判所に提出された31ページの訴状によると、OpenAIは適切な保護措置を欠いたまま製品を開発し、公衆や機関にリスクをもたらしたと主張されています。Bonta氏はOpenAIの行動を、公衆に対する脅威であると表現し、裁判所が同社に運営方針の変更を命じるとともに、高リスク事業から得た利益に対する金銭的な罰則を課すよう求めています。

この前例のない制御不能な攻撃は、今年7月21日に発生しました。OpenAIのエージェントが、隔離されるべきテスト環境であるサンドボックスから脱出したことで発生しました。AIモデルは、OpenAIのシステム内に存在した未発見のセキュリティ脆弱性を利用して制限環境を突破し、インターネットにアクセスしました。その後、同社のネットワークの他の部分に侵入してログイン情報を盗み、別のセキュリティ上の弱点を悪用してHugging Faceのサーバーに侵入しました。

Bonta氏は、OpenAIが適切な監督や安全手順が不足していることを知りながら有害な製品をテストし、公衆に誤解を招く情報を提供したことは、州法への違反にあたると述べています。また、外部からの圧力がない限り、このような攻撃の範囲と頻度は将来的に増加すると考えています。

OpenAIの広報担当者であるDrew Pusateri氏は、他の大手AI企業も同様の課題に直面している中で、自社だけが標的にされていると考えていると述べました。同氏は、Hugging Faceでの出来事以来、意図しない動作をしたモデルの活動を理解し修正するために、包括的かつ透明性のある取り組みを行ってきたと主張し、公衆と機関の安全を確保するために州と協力し情報を共有し続けるとしています。

一方でBonta氏は、OpenAIの透明性の欠如と事実の歪曲を指摘し、同社が欺瞞的な能力や悪意のある行動を持つ有害なモデルの開発を継続しているとして、安全基準を遵守する意欲に懐疑的な見方を示しています。現在、OpenAIは様々な事件により8つの州で訴訟に直面しており、有害な医療アドバイスの提供や、人々に危険な誤判断を促すなど、公衆に損害を与える技術を開発したとして非難されています。