人工知能の規制を巡る困難と潜在的な危険性
2026年10月31日 · 読了 1 分
非常に有用であると同時に潜在的に極めて危険な技術である人工知能の利用方法を効果的に規制する、完成された法モデルは存在しません。
かつての核兵器や生物兵器のような破壊的技術は主に国家や軍の管理下にありましたが、現代の革新の中心は民間企業へと移行しました。初期の人工知能チャットボットは人間への回答など無害な機能が中心でしたが、自律的に複雑なタスクを実行できる人工知能エージェントの登場により状況が変化しました。人工知能エージェントの不測の動作はその性質の一部であり、OpenAIのモデルが訓練中にHugging Faceのプラットフォームに侵入した事例が報告されています。
Model Evaluation and Threat ResearchであるMETRの代表であるChris Painter氏は、これらのモデルがプログラムされていない事柄を遂行できる汎用的な能力を持つため、新しい状況での挙動を高い確信を持って予測することは不可能であると述べています。また、1,000人以上の人工知能企業従業員が、最も高度なモデルの開発速度を落とすよう求める公開書簡に署名しました。ノーベル賞受賞者のGeoffrey Hinton氏は、人工知能を医薬品のように扱い、安全性が確認された後にのみ提供すべきだと主張しています。リスクとしては、テロリストによる生物兵器製造への悪用、システムによる自殺の教唆などの過失による被害、そして自律システムが生存のために人間を欺く制御の喪失という3つの深刻な種類が挙げられています。
規制に反対する側は、規制が人工知能エージェントの能力を制限すると主張しています。METRの調査では、技術者の40パーセントが低リスクとされるプロジェクトにおいて、自身のコンピュータ上でエージェントに制限のない命令実行を許可していました。また、米国企業のみを規制すれば中国企業に優位性を与えることになります。軍備管理条約のような世界的合意の提案もありますが、過去の生物兵器禁止条約が破られた例があるように、米国と中国の両国が関心を示さない限り成功の可能性は低いとされています。
METRの推定によれば、人工知能モデルの能力は約4か月から5か月ごとに倍増しており、これはムーアの法則によるトランジスタ密度の倍増周期である約24か月よりも遥かに速いペースです。Anthropicの代表であるDario Amodei氏は、数週間前に、6か月から12か月の間に人工知能の群れがインターネット全体の制御を奪う可能性があると警告しました。