Box warnt vor kritischer Sicherheitslücke durch KI-Agenten

Das Unternehmen Box warnt vor einer neuen kritischen Sicherheitslücke im Zusammenhang mit KI-Agenten, die die Daten von Organisationen gefährdet.

Laut einer aktuellen Studie von Box experimentieren bereits 83 Prozent der Organisationen mit Agenten für künstliche Intelligenz. Diese Agenten agieren autonom und können Daten sowie Dateien innerhalb eines Informationssystems lesen, ändern und verschieben.

Die Gefahr hat sich von der Infrastruktur auf das Verhalten der virtuellen Assistenten verlagert, da diese legitimen Zugriff auf Inhalte haben. Ein besonders heimtückisches Risiko ist die sogenannte Prompt-Injection. Bei dieser Technik werden illegitime Befehle in Unternehmensdaten eingefügt, wenn ein Agent mit diesen interagiert. Dies kann zu einem übermäßigen Teilen von Informationen zwischen Mitarbeitern führen und das Risiko von Datenlecks sowie dem Verlust von geistigem Eigentum erhöhen, was wiederum den Ruf eines Unternehmens schädigen kann.

Ein weiteres Problem ist die mangelnde Überprüfbarkeit. Derzeit gibt es kaum Möglichkeiten, die Aktivitäten dieser Agenten zu prüfen. Im Falle eines Datenlecks ist es daher extrem komplex, den Vorfall zu rekonstruieren, die gelesenen Inhalte zu identifizieren oder festzustellen, was mit den Daten geschehen ist.

Da ein Verbot dieser Technologien unrealistisch sei, plädiert Box für einen Wechsel in der Governance. Anstatt den Zugriff perimetrisch zu steuern, müsse die Information selbst intrinsisch geschützt werden. Dies sei notwendig, da künftig eine Vielzahl von Agenten auf dieselben Daten zugreifen könnte. Box arbeitet an Lösungen, um die Sicherheit von Daten, insbesondere von Dokumentendaten, zu gewährleisten, indem Anwendungen den Datenzugriff basierend auf der Art des zugreifenden Individuums oder Roboters steuern.