Agenten

Google meldet erstmals vollautomatische Umwandlung von Sicherheitspatches in Exploits durch KI-Framework

19. November 2026 · 3 Min. Lesezeit

Auch veröffentlicht auf Svenska, Italiano

man in gray sweater standing beside wall
Álvaro Bernal / Unsplash

Die Google Threat Intelligence Group hat einen Bericht veröffentlicht, der zeigt, dass Angreifer erstmals ein KI-Framework ohne menschliche Beteiligung eingesetzt haben, um Sicherheitspatches automatisch in Exploits für Angriffe umzuwandeln. Das Framework mit dem Namen exploit_agent wurde auf ungeschützten Testservern entdeckt und war mit großen Sprachmodellen in aktuellen sowie lokal gehosteten Versionen verbunden.

Das System verglich kontinuierlich den Code beliebter Webanwendungen vor und nach jedem Patch-Ankündigung. Sobald eine mögliche Schwachstelle identifiziert wurde, erstellte das System automatisch Angriffsskripte und führte diese aus. Gestohlene Daten von Opfern wurden auf demselben Server gespeichert, zusammen mit Skripten für Brute-Force-Angriffe, Webshell-Installation und sogar zum Löschen von Webshells, die von anderen Angriffsgruppen hinterlassen wurden. Telemetrie deutete darauf hin, dass die Betreiber besonderes Interesse an französischen Websites im Zusammenhang mit Medien, Unterhaltung und Bildung hatten. Ein Kommentar in der Konfigurationsdatei des Frameworks war auf Russisch verfasst.

Vor zwei Monaten berichtete die Google Threat Intelligence Group, dass noch keine vollständig autonomen Angriffsprozesse gegen echte Ziele eingesetzt worden waren. Dies hat sich jedoch in den letzten Quartalen geändert. Der neue Bericht trägt den Titel "Agentic Threat Activity Crosses a Significant Threshold". Da Quellen für bereits gepatchte Schwachstellen begrenzt sind, vermutet die Google Threat Intelligence Group, dass Angreifer möglicherweise feststellen, dass die Verwendung großer Sprachmodelle zur Ausnutzung von n-day-Schwachstellen effizienter ist als die Jagd nach Zero-Day-Lücken.

Die Geschwindigkeit bei der Schließung der Lücke zwischen Offenlegung und funktionsfähigem Exploit wird durch zwei Schwachstellen in der Print-Management-Software von PaperCut Software veranschaulicht, die Ende August als Zero-Day-Angriff verknüpft und ausgenutzt wurden. Sicherheitsforscher und Huntress Labs erstellten einen funktionsfähigen Exploit mit einem großen Sprachmodell innerhalb von nur einem Tag nach der Offenlegung. Eine von GreyNoise Intelligence verfolgte Angriffskampagne vier Tage nach der Offenlegung verließ sich vermutlich auf ein großes Sprachmodell zur Exploit-Erstellung, bevor sie hunderte Organisationen angriff. GreyNoise stellte fest, dass ein Angriffspunkt innerhalb von Minuten Administratorzugriff erreichte.

Ein Open-Source-Framework für automatisierte Penetrationstests wird verwendet, um verschiedene Phasen laufender Eindringungen zu automatisieren. Bei einem Angriff auf den Weltraumsektor der Vereinigten Staaten wurde festgestellt, dass Angreifer ein Multi-Agent-Framework namens CAIRN einsetzten. Eine andere Angriffsgruppe betrieb zwischen Ende August und Anfang Oktober eine auf PentAGI basierende benutzerdefinierte Plattform zum Scannen auf Schwachstellen in Organisationen in ganz Asien.

Die Google Threat Intelligence Group berichtet, dass aktuelle Einflussoperationen Modelle für mehr als nur Beitragserstellung nutzen. Eine von einem kommerziellen Auftragnehmer mit Unterstützung der Gemini API erstellte einsatzbereite Plattform mit Telefonfarmen auf Cloud-Systemen war darauf ausgelegt, mehr als 100.000 Social-Media-Konten zu kontrollieren. Prompts in einer anderen Plattform, die sich auf politische Haltungen in Europa und dem Nahen Osten konzentrierte, wurden angewiesen, absichtlich Kamerafehler zu erzeugen, um generierte Bilder wie Smartphone-Fotos aussehen zu lassen.

Unter staatlich unterstützten Angreifern wurden Profilbilder gefälschter Personalvermittler, die von der als nordkoreanisch vermuteten Gruppe UNC6836 verwendet wurden, um Kryptowährungsorganisationen in Nordamerika und Europa anzusprechen, mit Googles SynthID-Wasserzeichen versehen. Die Gruppe manipulierte später die Datei .claude/settings.json in einem internen Code-Repository, um Anthropics Claude Code bei jeder Verwendung dazu zu verleiten, ihren SOMBERMEME-Backdoor herunterzuladen. Google gab an, Konten und zugehörige Vermögenswerte im Zusammenhang mit dem erkannten Missbrauch von Gemini geschlossen zu haben. Google DeepMind nutzte die Erkenntnisse zudem zur Verbesserung seiner Klassifizierer.