サイバーセキュリティにおける信頼性のあるAI構築の方法

サイバー空間において、現在は最大の警戒が必要な時期であり、人工知能（AI）がその警戒の中心に位置しています。一方では、攻撃者がAIを利用しており、正当な通信と区別がつかないフィッシングキャンペーンや、経営者を模倣する音声のディープフェイク、自動化されたインフラの認識が行われています。もう一方では、サイバーセキュリティ産業が同じ技術で防御を行うことを約束しています。

しかし、この両者の間には、不快な疑問があります。それは、全ての知識がどのデータに基づいているのかということです。データが不完全な状態で適用されたモデルは、その隙間を埋めることになります。システムが部分的にしか観察していないセッションの適切な要約は情報ではなく、報告書の形式を持つフィクションです。安全チームがその報告書を信頼することは、適切な質問をしなくなることを意味します。