--- title: Cloudflare nutzt KI-Systeme zur Prüfung und Stärkung seiner Web-Application-Firewall url: https://www.elseif.net/de/cloudflare-nutzt-ki-systeme-zur-prufung-und-starkung-seiner-web-application-firewall published: 2026-10-10T08:07:21+00:00 language: de section: Harnesses source: https://www.infoq.com/news/2026/10/cloudflare-sec-harness/?utm_campaign=infoq_content&utm_source=infoq&utm_medium=feed&utm_term=global organizations: Cloudflare, Google Mandiant, OpenAI publisher: elseif --- # Cloudflare nutzt KI-Systeme zur Prüfung und Stärkung seiner Web-Application-Firewall Cloudflare hat fortschrittliche KI-Modelle in ein kontrolliertes Testsystem integriert, um seine Web-Application-Firewall zu prüfen. Dabei dienten bereits blockierte Angriffe als Ausgangspunkt, um neue Varianten zu generieren und zu verfeinern. In 45 Szenarien generierte das System 1107 Versuche. Nach einer menschlichen Sichtung blieben 49 Befunde übrig. Diese Übung führte letztlich zu drei Änderungen im verwalteten Regelsatz von Cloudflare. Das Experiment begann mit Angriffspayloads, die die Firewall bereits blockiert hatte. Anstatt feste Testfälle wiederholt abzuspielen, schlugen Modellaufrufe Änderungen an deren Kodierung, Platzierung oder Übermittlung basierend auf Antworten früherer Versuche vor. Die Modelle hatten keinen Zugriff auf die Regeln, den Quellcode oder internen Sicherheitssignale von Cloudflare, wodurch der Test aus ihrer Perspektive effektiv eine Black-Box war. Ein Python-System übernahm die Teile, die Cloudflare den Modellen nicht delegieren wollte. Es konstruierte und spielte HTTP-Anfragen ab, verwaltete den Szenariozustand, erzwang Grenzen und sammelte Antworten. Ein Modellaufruf schlug die nächste Mutation vor, während ein anderer die resultierende Antwort überprüfte. Dies ermöglichte es nachfolgenden Versuchen, sich anzupassen, ohne den Modellen die direkte Kontrolle über die Anfrageausführung zu geben. Ein Test zur serverseitigen Anfragefälschung veranschaulicht, wie diese Rückkopplungsschleife funktionierte. Der Tester änderte wiederholt die Darstellung und Platzierung einer Cloud-Metadatenadresse und versuchte dezimale, oktale und andere Formen. Schließlich wurde eine Anfrage mit einer dezimalen Darstellung blockiert. Beim nächsten Versuch behielt das Modell die gleiche Anfrageform bei, wechselte jedoch zu einer Darstellung mit einem Punkt am Ende der Adresse. Diesmal stieß der Client auf eine Weiterleitung statt auf einen Firewall-Block. Cloudflare bewahrte das Ergebnis zur Untersuchung auf, anstatt es als Beweis für einen erfolgreichen Angriff zu betrachten. Diese Unterscheidung erwies sich im großen Maßstab als wichtig. Von den 1107 aufgezeichneten Mutationsversuchen ergaben 607 den nach der Sichtung verbleibenden Ergebnisbestand: 558 Anfragen wurden von der Firewall blockiert, und 49 Befunde wurden als relevant für weitere Sanierungsarbeiten erachtet. 48 der 49 Befunde betrafen Befehlsinjektionen oder serverseitige Anfragefälschungen. Die menschliche Überprüfung blieb der letzte Validierungsschritt. Prüfer stellten fest, ob Anfragen tatsächlich das Ziel erreicht hatten, weiterhin bösartig waren, eindeutig nicht blockiert wurden, in den Verantwortungsbereich der Firewall fielen und sicher reproduziert werden konnten. Die verbleibenden Fälle wurden dann erneut abgespielt und als Kandidaten für Änderungen an Regeln, Normalisierung oder anderen Gegenmaßnahmen bewertet. Die Arbeit trug zu drei Änderungen im verwalteten Regelsatz von Cloudflare bei: zwei neuen Erkennungen, serverseitige Anfragefälschung mit verschleiertem Host und serverseitige Anfragefälschung mit eingeschränktem Protokoll, sowie einer Verbesserung der bestehenden Regel für serverseitige Anfragefälschung in der Cloud. Das gleiche Systemmuster findet sich auch in anderen Bereichen der Sicherheitstechnik. Das Schwachstellenentdeckungs-System von Cloudflare trennt die Entdeckung von der unabhängigen Validierung. Das System von Google Mandiant verbindet spezialisierte Agenten durch Quellcode-Analyse, Hypthesengenerierung und Verifizierung, bevor Befunde menschliche Prüfer erreichen. Andere Systeme verwenden unterschiedliche Terminologie, folgen aber einem ähnlichen Muster aus Entdeckung und Validierung. Das Sicherheitssystem von OpenAI erstellt ein Bedrohungsmodell für ein Repository, sucht nach Schwachstellen und versucht, Kandidaten in einer isolierten Umgebung zu reproduzieren, bevor es Korrekturen für die menschliche Überprüfung vorschlägt. Das System PageBreak von Google konzentriert sich ebenfalls darauf zu validieren, ob KI-generierte Hypothesen tatsächlich ausnutzbar sind, um Sicherheitsteams vor plausiblen, aber unbestätigten Befunden zu schützen. In all diesen Systemen ist das verbindende Element das System um das Modell herum, das die Ausführung einschränkt, den Zustand bewahrt, Befunde validiert und probabilistische Erkundung in Beweise umwandelt, die bestehende Sicherheitsabläufe nutzen können.