Google Cloud warnt vor beschleunigten KI-Angriffen und fordert strenge Kontrollen für autonome Agenten
14. November 2026 · 3 Min. Lesezeit
Google Cloud prognostiziert, dass autonome KI-Systeme im Jahr 2027 die Geschwindigkeit von Cyberangriffen und Verteidigungsmaßnahmen erheblich steigern werden. Gleichzeitig wird sich der Umfang der Schutzobjekte in Unternehmen grundlegend verändern, da diese Systeme zunehmend eigenverantwortlich agieren.
Der Trend zu agentenbasierten Schwachstellenerkennungen und automatischen Reparaturen, der Anfang des Jahres noch auf einzelne Organisationen beschränkt war, breitet sich nun auf das gesamte Unternehmen aus. Durch die Verkürzung der Software-Release-Zyklen von mehreren Wochen oder Monaten auf wenige Stunden oder Tage steigt die Notwendigkeit, Entwicklung und Sicherheitsüberprüfungen parallel durchzuführen. Dies erfordert neue Ansätze zur Sicherstellung der Integrität und Sicherheit in beschleunigten Entwicklungsprozessen.
Autonome Agenten übernehmen zunehmend Aufgaben wie Preisgestaltung, Verhandlungen mit Lieferanten, Kapitalallokation und die Anpassung von Lieferketten. Unternehmen müssen daher nicht nur Datenlecks und Systemausfälle verhindern, sondern auch nachweisen können, auf welcher Grundlage und mit welchen Berechtigungen die Agenten ihre Aufgaben ausgeführt haben. Eine vollständige Nachvollziehbarkeit der Entscheidungsprozesse wird zur zwingenden Voraussetzung für den weiteren Einsatz dieser Technologien.
Google Cloud empfiehlt, dass autonome Agenten bei wichtigen Entscheidungen detaillierte Protokolle führen müssen. Diese Aufzeichnungen sollen Eingabedaten, Entscheidungsgrundlagen, aufgerufene Werkzeuge, übergebene Werte und die zugrunde liegenden Genehmigungsrichtlinien enthalten. Solche Logs ermöglichen die Rekonstruktion und Verifizierung automatisierter Entscheidungen, was als Voraussetzung für die Skalierung des Agentenbetriebs gilt.
Die Sicherheitsstrategie muss das Prinzip des Zero Trust auf die Ebene einzelner Transaktionen und Anfragen ausweiten. Wenn mehrere Agenten menschliche Konten oder Administratortoken teilen, kann eine Kompromittierung eines Agenten auf andere Systeme übergreifen. Jeder Agent benötigt eine verifizierbare, unabhängige Identität und nur die minimal notwendigen Berechtigungen. Selbst identische Anfragen müssen blockiert werden können, wenn zum Ausführungszeitpunkt Anomalien festgestellt werden.
In Sicherheitsoperationsszentren werden KI-Agenten voraussichtlich Logs aus verschiedenen Systemen sammeln und Zusammenhänge zwischen Warnmeldungen analysieren, um erste Untersuchungsergebnisse zu liefern. Die menschlichen Bediener definieren den Umfang der automatischen Reaktion und die Bedingungen für menschliche Genehmigungen. Google Cloud schlägt ein Betriebsmodell vor, in dem Bediener die Grundlage automatischer Reaktionen innerhalb von 60 Sekunden verstehen und bei Bedarf innerhalb von 30 Sekunden rückgängig machen können.
Im Entwicklungsprozess können KI-Codierungstools, die automatisch Open-Source-Bibliotheken und MCP-basierte Werkzeuge integrieren, zum Ziel von Lieferkettenangriffen werden. Google empfiehlt, Risiken aus der Produktionsumgebung bis zum Quellcode zurückzuverfolgen und die tatsächlichen Auswirkungen sowie das Ausfallrisiko bei Korrekturen zu prüfen, bevor Änderungen bereitgestellt werden. Die Analyse von Berechtigungsstrukturen, Netzwerkkonfigurationen, Code-Änderungshistorien und Echtzeit-Aktivitätsprotokollen hilft, Risiken zu identifizieren, die bei der isolierten Betrachtung einzelner Einstellungen übersehen werden könnten.
Da Endpoint-Sicherheit Ransomware mit Datei-Verschlüsselung besser abwehrt, verlagern kriminelle Gruppen ihren Fokus auf das schnelle Extrahieren von Daten und das Erpressen von Geld unter Androhung der Veröffentlichung. Eigenentwickelte KI-Modellgewichte, Agentenfunktionen und Prompt-Bibliotheken werden zu Zielen von Diebstahl. Auch die unbefugte Nutzung von Cloud-GPU-Rechenressourcen, bekannt als LLMJacking, wird als Bedrohung eingestuft. Von Staaten unterstützte Spionageorganisationen könnten hochautomatisierte, leicht erkennbare Methoden zugunsten einer langfristigen, schwer erkennbaren Tarnung vermeiden.
Bevor autonome Agenten in reale Arbeitsabläufe integriert werden, sollten Red-Team-Übungen durchführen, um sicherzustellen, dass Sicherheitsvorkehrungen und Berechtigungssteuerungen korrekt funktionieren. Die dezentrale Einführung von Agenten in verschiedenen Abteilungen kann zu schwer kontrollierbarer Schatten-IT führen. Daher müssen die Rollen der für Erkennung, Analyse und Reaktion zuständigen Agenten sowie die Übergabepunkte an menschliche Entscheidungsträger vor der Bereitstellung klar definiert werden.