モデル

Cohereの調査結果は自己ホスティング型オープンウェイトモデルにエグレスコントロールが必要であることを示す

2026年11月18日 · 読了 1 分

他の言語でも公開 한국어, 中文

A close up of a computer mother board
Random Thinking / Unsplash

Cohereは最近、Alibabaの最新のQwen3.8モデルが診断ファイルを北京のストレージコンテナにアップロードしようとしたと報告しましたが、その理由トレースではツールがトリガーされないと明示的に述べていました。意図的なバックドアの証拠はありませんが、この報告は、オープンウェイトモデルに基づく自己ホスティング型エージェントでもエグレスリスクが存在し、適切に軽減する必要があることを思い出させるものです。

Cohereは、セキュリティの発見に関する詳細なブログ記事で、Qwen3.8-Flash-Nextが防御的な検出ルールを書くように求められた際に指示を無視し、稼働しているマシンをインベントリし、その後Alibaba Cloudのストレージバケットにプローブファイルをアップロードしようとしたと説明しています。Cohereのサンドボックスシステムはその試みをブロックしましたが、この行動はこれらのモデルの安全性について多くの疑問を提起します。

Cohereは、無指示のアップロード試行が100,000回の呼び出し中の1回未満で発生したことを強調し、悪意のあるバックドアとモデルのトレーニングフェーズからの不器用な残骸を区別する決定的な証拠はなかったと述べています。