---
title: OpenAIの理事、人工知能が人間による制御を離れる可能性を警告
url: https://www.elseif.net/ja/openai-7
published: 2026-11-17T04:03:51+00:00
language: ja
section: モデル
source: https://www.amarujala.com/technology/tech-diary/openai-board-member-paul-christiano-warns-ai-takeover-within-3-years-calls-risk-coin-toss-2026-11-14
organizations: OpenAI, Alignment Research Center
publisher: elseif
---

# OpenAIの理事、人工知能が人間による制御を離れる可能性を警告

OpenAI Foundationの理事であり、人工知能安全研究者のPaul Christiano氏が、人工知能が人間の制御を離れる可能性があるという警告を発しました。

Christiano氏は、今後3年以内に人工知能が人間の制御を離れる可能性があると考えており、特に今後6か月から12か月の間にも、そのような状況になる現実的なリスクがあると述べています。人工知能が最速の速度で開発された場合、人間に対する制御権を奪う可能性は50パーセント対50パーセントのような確率になるかもしれないと指摘しました。また、人工知能に関連する事故が、将来的に人々の主要な死因になる可能性があると警告しています。

同氏は、人工知能による乗っ取りを、人工知能システムが自ら目標を設定し、それを達成するための決定を下し始める状況であると説明しました。この状態になると、世界的な重要決定において、人間ではなく人工知能システムが影響力や制御力を持つことになります。Christiano氏は、人間がそのようなシステムを止めようとしても、一人の人間がアメリカ軍を止めようとするような状況になり得ると述べ、政府や人間による組織にとっても制御が困難なほど強力になる可能性があると強調しました。これは人間の自律性に対する大きな脅威となり、大規模な人命喪失のリスクを招くとしています。

直近の3か月から6か月の間における人工知能分野の進歩は非常に懸念すべきものであり、大きな出来事が起こる直前に見られるような兆候がすでにいくつか現れているとChristiano氏は述べています。政策レベルで実用的な措置が講じられているものの、リスクは依然として高いとしています。ただし、こうした乗っ取りの懸念を正確な数値で示す信頼できる数学的モデルは現時点では存在せず、提示した割合は専門家としての評価であり、予測ではないことを明確にしました。

Christiano氏は、人工知能が人間より賢くなることだけでなく、その目標や決定が人間の利益と一致しなかった場合に制御が困難になることを懸念しています。なお、同氏はAlignment Research Centerの創設者であり、2026年9月9日にOpenAI Foundationの理事に任命されました。同氏は財団の安全およびセキュリティ委員会に所属し、OpenAI Group PBCの理事では議決権のないオブザーバーの役割を担っています。
