Anthropic、企業による使用AIモデルの隠蔽を防止する技術を開発
2026年11月7日 · 読了 1 分
Anthropicは、企業が利用していると主張する人工知能モデルによって回答が実際に生成されたかを確認できる技術を開発しています。
FlashProveと名付けられたこのシステムは、暗号化を用いて、特定の出力に責任を持つモデルの身元に関する数学的な証明書を作成します。これにより、利用者は提供者が公表したAIと実際にやり取りしているのか、あるいは異なるバージョンや低性能なモデルが使用されているのかを確認できるようになります。
この仕組みは、企業がコスト削減のために高度なAIを宣伝しながら、密かに安価な代替モデルに置き換える行為や、使用した技術と一致しない性能結果を提示することを困難にするとAnthropicは述べています。また、サイバーセキュリティモデルによるソフトウェアライブラリの脆弱性検査や、適切なAIによる事業計画の承認など、AI企業以外のサービスにおいても暗号学的な検証への応用が期待されています。
同社は火曜日にこのプロジェクトを発表し、他の研究者が検証および改善を行えるよう、技術仕様書とコードの一部をオープン形式で公開しました。ただし、FlashProveは依然として研究プロジェクトの段階にあり、自社サービスや他のプラットフォームへの導入計画は発表されていません。研究者は、今回の公開は研究計画の完了ではなく、中間的な進展であり、他チームによる分析や貢献を促すことが目的であると述べています。