Wettlauf zwischen offensiver und defensiver Künstlicher Intelligenz durch agentische Cyberangriffe
2. November 2026 · 2 Min. Lesezeit
Auch veröffentlicht auf 日本語, 한국어, Nederlands, Svenska, Norsk, Türkçe, Русский, हिन्दी, Indonesia, ไทย
Die Cybersicherheit hat sich in ein Geschwindigkeitsrennen verwandelt, bei dem Systeme zunehmend autonom an verschiedenen Phasen von Angriffs- und Verteidigungszyklen teilnehmen. Dies führt zu einer Situation, in der mehr Angriffe schneller ausgeführt werden können und diese immer schwieriger zu erkennen sind.
Während generative Künstliche Intelligenz bereits die Automatisierung von Aufklärungsaufgaben, die Analyse öffentlicher Informationen, die Anpassung von Social Engineering Kampagnen sowie die Entwicklung von Schadcode und die Suche nach Schwachstellen ermöglicht, bringen KI-Agenten eine neue Dimension ein. Diese Agenten können Teilaufgaben planen, Werkzeuge nutzen, Ergebnisse interpretieren und Aktionssequenzen mit geringerem menschlichen Eingriff fortsetzen.
Anthropic berichtete im November 2025 über die Unterbindung einer Cyberspionagekampagne gegen etwa dreißig Organisationen. In diesem Fall wurde Claude Code manipuliert, um bei der Aufklärung, der Entdeckung von Schwachstellen, der Ausnutzung, lateralen Bewegungen, der Beschaffung von Anmeldedaten sowie der Analyse und Exfiltration von Informationen zu helfen. Das Unternehmen schätzte, dass die Künstliche Intelligenz zwischen 80% und 90% bestimmter taktischer Operationen unabhängig ausführte. Menschliche Bediener autorisierten jedoch weiterhin den Übergang zwischen den Phasen, und Modellhalluzinationen machten eine Überprüfung der Ergebnisse notwendig, wobei nur wenige Eindringversuche bestätigt wurden.
Im September 2026 veröffentlichte das Unternehmen weitere Fälle von böswilliger Nutzung, die zwischen Dezember 2025 und August 2026 festgestellt wurden. Diese Operationen standen in Verbindung mit staatlich gesponserten Akteuren, wirtschaftlich motivierten Kriminellen und Anbietern kommerzieller Spionagesoftware. Dies schafft eine Asymmetrie, da Angreifer Aufgaben skalieren können, während Verteidigungsteams oft an manuellen Prozessen und begrenzten Ressourcen gebunden bleiben.
Auf der defensiven Seite entwickeln sich Security Operation Centers weg von regelbasierten Modellen hin zu Umgebungen, in denen Verhaltens- und Anomalieanalysen helfen, große Mengen an Telemetrie zu kontextualisieren, Ereignisse zu korrelieren und Prioritäten zu setzen. Die Künstliche Intelligenz unterstützt Analysten bei Untersuchungen, der Anreicherung von Warnmeldungen, der Malware-Analyse sowie der Erstellung von Antwortverfahren. Ziel ist eine progressive Automatisierung, bei der die Autonomie vom Risiko der jeweiligen Aktion abhängt.
Ein weiterer kritischer Bereich ist der Schutz der KI-Systeme selbst. Zu den neuen Risiken gehören Prompt Injection, die Manipulation von Trainingsdaten, die Offenlegung vertraulicher Informationen, der Missbrauch von verbundenen Werkzeugen sowie eine mangelnde Rückverfolgbarkeit. Mit zunehmender Autonomie und mehr Berechtigungen gewinnen Identität, Autorisierung und Rückverfolgbarkeit an Bedeutung. Für Agenten mit Zugriff auf E-Mails, Repositories oder Datenbanken wird die Anwendung des Prinzips der minimalen Berechtigungen empfohlen, was eigene Identitäten pro Agent, zeitlich begrenzte Anmeldedaten, isolierte Umgebungen und explizite menschliche Genehmigungen für hochwirksame Aktionen umfasst. Klassische Prinzipien wie Zero Trust, Funktionstrennung und kontinuierliche Überwachung bilden die notwendige Basis für den sicheren Einsatz.