デルが自律型人工知能のセキュリティ強化に向けた五つの実践的措置を提案

二つ目の重点事項は、将来の人工知能が作用するデータの保護である。自律型人工知能はデータを分析するだけでなく、取得、結合、およびそれに基づくワークフローの活性化を行うため、データガバナンスの重要性が増している。実践的なアプローチとして、継続的なアクセス検証、最小権限の原則の適用、およびユーザーやシステム間の露出制限を含むゼロトラスト原則をデータフローに適用することが推奨される。

三つ目に、エンドポイントを人工知能の制御点として扱うことが挙げられる。デルの二千二十六年現代企業準備度報告書では、調査対象のITリーダーの九〇パーセントが、人工知能を搭載した最新デバイスが将来の組織戦略において重要な役割を果たすことに同意している。従業員が機密データと共に人工知能と対話する際、これらのデバイスは単なる生産性ツールではなく、厳格なセキュリティと管理機能を備えた制御点として扱われなければならない。

四つ目の措置は、人工知能エージェントの運用開始前のガバナンス確立である。データへのアクセス、システムとの相互作用、自律的な行動実行など、非人間的な行為者に対して明確な限界を設ける必要がある。これには、限定された権限、監査ログ、承認ポイント、監視された活動、および緊急停止スイッチなどの具体的な制御が含まれる。エージェントが予期せぬ動作をした場合、組織はワークフローを一時停止し、封じ込め、復旧できる必要がある。

最後に、人工知能の行動を追跡可能かつ責任の所在を明確にすることが求められる。組織は、人工知能が何にアクセスし、何を変更し、どのシステムと相互作用したかを可視化し説明できる環境を設計しなければならない。監査ログ、活動監視、ポリシー適用、および明確な所有権モデルを初期段階からワークフローに統合することで、自律性が高まる人工知能に対する信頼を確保できる。