OpenAI、AIエージェント時代に向けて行動原則を改定し人間の意図理解を重視
2026年11月2日 · 読了 1 分
OpenAIは、AIモデルの行動原則を大幅に改定し、人間の意図を理解して自ら判断する能力を核心的な基準として提示しました。
同社は現地時間29日、公式ブログを通じてAIモデルの行動を規定する公開行動指針であるModel Specの改訂版を公開しました。2024年5月に初めて発表されたこの指針は、AIが単なる質疑応答を超えて複雑な業務を自律的に遂行するエージェントへと発展し、利用者の指示だけでは全ての状況を制御することが困難になったことを受けて再整備されました。
今回の改定では、詳細な行動指針を、人間の意図への忠実性、被害の最小化、正直性と透明性、人間の自律性の支援、配慮という5つの核心的価値に再構成しました。特に人間の意図への忠実性が最も重要な原則として掲げられています。OpenAIは、モデルが現実世界で重要な行動を遂行するにつれ、具体的な指示の解釈だけでは不十分であり、明示的な指示がない状況でも人間の意図と価値を理解して適切に判断し、監督に忠実である必要があると述べています。
また、AIに自律性を付与しつつ人間の統制権を維持することに焦点を当て、許可された権限と作業範囲の遵守や、人間の監督および中断指示を回避しないようにする方針です。利用者の実際の目的を把握するために、対話履歴やメモリなどの文脈情報を活用する指針を設ける一方で、文体や表現方式に関する詳細な規則は大幅に削減しました。
OpenAIは、この改定をAIモデルの行動を人間の価値と一致させる整列研究の一環であると説明しています。ただし、これらの指針が現在の全てのモデルに完全に実装されているわけではなく、新しい状況でも核心的価値を適用できるよう学習方法を研究しており、今後の成果に基づき指針を改善していく計画です。