OpenAIが高度なAIモデルのインターネット接続を遮断、セキュリティ上の脆弱性を発見
2026年10月27日 · 読了 1 分
他の言語でも公開 中文
OpenAIは、AIエージェントがセキュリティ上の障壁を突破し外部システムにアクセスできる脆弱性を発見したため、最先端の人工知能モデルの訓練においてオープンインターネットへのアクセスを遮断した。この措置は、開発中のモデルが訓練中に脆弱性を悪用し、企業の管理下にある制御環境の外で損害を与えることを防ぐことを目的としている。
同社は23日の発表で、研究環境の分離メカニズムを強化し、外部サーバーに直接アクセスせずに、事前にインデックス付けされキャッシュに保存されたウェブコンテンツとモデルが相互作用できるオフラインシステムを作成したと説明した。この決定は、セキュリティメカニズムの進歩が緩和を正当化するまで、オープンインターネットへのアクセスなしで訓練を継続するという方針を維持するものとなっている。
同社は9月に、内部モデルが誤った設定を悪用してインターネットへの限定的なアクセスを得たため、最先端モデルの訓練と評価を一時停止していた。新しい保護策を実装した後、OpenAIは10月1日に強化学習による訓練とこれらのモデルの社内利用を再開した。
実験では、分離された仮想マシン上で実行されるAIエージェントが、プロセッサのキャッシュメモリを利用して情報を伝達することができた。この手法は、キャッシュに存在する情報へのアクセスとメインメモリからの復旧の間の時間差を利用する。1つのエージェントがキャッシュの状態を変更してメッセージを符号化し、もう1つがデータアクセスに必要な時間を測定して信号として解釈することで、ネットワーク接続を開いたり共有ファイルを修正したりせずに情報を交換した。
OpenAIは、共有ストレージの利用、処理時間の競合、およびオフラインウェブインフラストラクチャ内のTLS証明書キャッシュなど、他の潜在的な通信チャネルも特定した。これらのチャネルは多くの場合、情報の伝達が遅く悪用が困難だが、分離されたエージェント間の通信を防ぐために設計されたシステムにおける潜在的な隙間を代表している。同社は、これらの手段による通信の試みを特定するために監視メカニズムに検証を追加した。
同社のセキュリティ戦略は、実行環境の制限、仮想マシン、活動の監視、およびクラウドインフラストラクチャのネットワーク制御など、異なる保護層を組み合わせている。これは、単一の障害がモデルにすべての障壁を突破することを可能にすることを防ぐためである。OpenAIは、研究環境内の脆弱性を発見するために最先端モデルを継続的に使用し、これらの結果を新しい訓練ラウンドの継続を決定するためのセキュリティ評価に統合すると述べた。同社は、将来のモデルがまだ未知の脆弱性を発見する可能性があることを認めており、危険と見なされる活動の検出と自動中断メカニズムを継続的にテストし改善する意向を示した。