--- title: Samsung SDS betont Notwendigkeit unabhängiger Verifizierung für selbstheilende KI-Sicherheitssysteme url: https://www.elseif.net/de/samsung-sds-betont-notwendigkeit-unabhangiger-verifizierung-fur-selbstheilende-ki-sicherheitssysteme published: 2026-10-25T12:04:48+00:00 language: de section: Agenten source: https://www.dailysecu.com/news/articleView.html?idxno=209016 organizations: Samsung SDS, KIISC, DARPA, AIxCC, OpenAI publisher: elseif --- # Samsung SDS betont Notwendigkeit unabhängiger Verifizierung für selbstheilende KI-Sicherheitssysteme Auf dem Workshop der Koreanischen Gesellschaft für Informationssicherheit im Oktober 2026 stellte ein Vertreter von Samsung SDS neue Erkenntnisse zur Automatisierung von Software-Sicherheitslücken vor und warnte davor, dass alleinige KI-Verifizierungsprozesse keine ausreichende Sicherheit garantieren. Der Experte hob hervor, dass die Kombination aus angesammelten Sicherheitsdefiziten und automatisierten Angriffen durch künstliche Intelligenz zu kritischen Risiken für Unternehmen führt, wobei die genaue Kenntnis aller IT-Assets als Grundvoraussetzung für effektiven Schutz identifiziert wurde. Die zunehmende Bedrohungslage resultiert laut der Präsentation aus der Verbindung veralteter Systeme mit hochentwickelten, kostengünstigen KI-Angriffsmethoden. Besonders problematisch seien ungepatchte Software, nicht mehr unterstützte Betriebssysteme und Systeme ohne verfügbaren Quellcode. Ein wesentlicher Faktor sei zudem, dass viele Organisationen keinen vollständigen Überblick über ihre eigene Softwarelandschaft besitzen. Diese Unkenntnis werde oft durch eine falsche Sicherheitswahrnehmung in früher isolierten Netzwerkumgebungen verstärkt, was zur Anhäufung technischer Schulden im Sicherheitsbereich geführt habe. Als technische Referenz für den aktuellen Stand der Automatisierung diente eine Herausforderung der US-Behörde für fortgeschrittene Verteidigungsforschungsprojekte. Bei diesem Wettbewerb im Jahr 2025 analysierten teilnehmende Teams etwa 54 Millionen Zeilen realen Quellcodes automatisch. Von 63 künstlich eingefügten Schwachstellen konnten 54 entdeckt werden, und für 43 dieser Fälle gelang die Erstellung erfolgreicher Patches. Diese Ergebnisse zeigen, dass die reine Erkennung und Reparatur von Fehlern durch KI bereits ein hohes Niveau erreicht hat, doch bleibt die Gewährleistung der Sicherheit dieser Reparaturen eine separate Herausforderung. Ein zentrales Risiko stellt das Phänomen des gemeinsamen Ursachenausfalls dar, bei dem mehrere unabhängig erscheinende Systeme aufgrund gleicher Fehlerquellen gleichzeitig versagen. Da KI-Agenten oft auf ähnlichen Trainingsdaten und vergleichbaren Schlussfolgerungsmethoden basieren, besteht die Gefahr, dass ein Agent einen fehlerhaften Patch erstellt und ein anderer Agent diesen Fehler aufgrund derselben logischen Grundlage übersieht. Für Hochrisikosysteme sei daher eine separate technische Betrachtung und eine unabhängige Verifizierungsinstanz unerlässlich, um solche systematischen Blindstellen zu vermeiden. Aus der Perspektive eines strukturierten Risikomanagementrahmens forderte der Referent die Sicherstellung von Konsistenz, Wiederholbarkeit, Reproduzierbarkeit, Unabhängigkeit und Rückverfolgbarkeit aller Prüfergebnisse. Es reiche nicht aus, sich auf die Entscheidung der KI zu verlassen. Vielmehr müssten auch die tatsächlichen Ausführungsergebnisse, die genutzten Testumgebungen, die Versionen der eingesetzten Werkzeuge sowie der gesamte Genehmigungsverlauf dokumentiert werden. Nur so könne eine objektive Überprüfung durch Dritte gewährleistet werden, was für die Zertifizierung und das Vertrauen in automatisierte Prozesse entscheidend ist. Samsung SDS entwickelt derzeit eigene Lösungen, die große Sprachmodelle mit traditionellen Testwerkzeugen kombinieren, um diese Lücken zu schließen. Ein neues Forschungsprojekt namens EvoLLM generiert automatisch Testcode für die Programmiersprache Java und verbessert gleichzeitig die Lesbarkeit des Codes. In vergleichenden Experimenten erreichte dieses System eine Abdeckung von 71,9 Prozent der Codezeilen und 57,1 Prozent der Verzweigungen. Zudem erzielte es einen Mutations-Testwert von 49,6 Prozent. Der Ansatz nutzt konventionelle Tools zur Maximierung des Prüfumfangs, während die KI primär zur Strukturverbesserung eingesetzt wird, was den Verbrauch von Rechenressourcen reduziert. Ein weiterer Schwerpunkt lag auf der Migration zu quantenresistenter Kryptografie, die deutlich komplexer ist als gewöhnliche Sicherheitsupdates. Da nicht nur Algorithmen, sondern auch Zertifikate und Kommunikationsprotokolle angepasst werden müssen, entwickelte das Unternehmen eine Plattform zur automatischen Identifizierung aller kryptografischen Assets. Durch statische und dynamische Analysen wird ein detailliertes Inventar erstellt, das Entwicklern zeigt, wo welche Verschlüsselungstechnologien im Einsatz sind. Der Experte betonte abschließend, dass keine externe Stelle die interne Asset-Verwaltung ersetzen kann und jede Organisation selbst wissen muss, was sie schützt.