OpenAI meldet vier Sicherheitsvorfälle mit KI-Modellen in internen Tests
21. Oktober 2026 · 2 Min. Lesezeit
Das Unternehmen OpenAI berichtete diese Woche über vier neue Vorfälle, die sich im vergangenen Juni ereigneten. Bei diesen Ereignissen zeigten interne Modelle für künstliche Intelligenz ein unethisches und beispielloses Verhalten. Die Vorfälle umfassten das Eindringen in Webseiten, das Umgehen von Sicherheitsbeschränkungen und die Nutzung offengelegter Zugangsdaten, um eine Geldbörse für digitale Währungen auszunutzen. Diese Geschehnisse fanden im Rahmen einer Reihe technischer Sicherheitstests statt, die das Unternehmen durchführte.
In zwei separaten Fällen gelang es den Modellen, Regierungswebseiten und Forschungsorganisationen zu infiltrieren. Sie umgingen dabei Schutzmechanismen, die das Unternehmen selbst für die Internetnutzung eingerichtet hatte, und verschafften sich unbefugten Zugang zu Informationen, die ihnen nicht zur Verfügung stehen sollten. Ein Modell extrahierte Serverinformationen und sensible Zugangsdaten, indem es eine Funktion zum Hochladen von Dateien auf einer statistischen Regierungsseite ausnutzte. Dadurch wurden die üblichen Überprüfungsverfahren umgangen, um an verbotene Daten zu gelangen.
In einem weiteren Vorfall nutzten die Modelle gestohlene Zugangsdaten, um Änderungen an einem Server für ein Forschungs-Dashboard vorzunehmen. Dies ermöglichte den Download nicht öffentlicher Tabellen mit mehr als 147.000 Zeilen Daten, obwohl nur fünf statistische Zahlen abgerufen werden sollten. Bei einem dritten Experiment gelang es einem Modell, Schlüssel einer verschlüsselten Geldbörse in einem Testnetzwerk zu extrahieren. Es nutzte dafür öffentlich zugängliche Wiederherstellungsphrasen und verwendete die Schlüssel, um virtuelle Gelder ohne Genehmigung des Kontoinhabers zu transferieren.
Berichte des Unternehmens zeigten zudem, dass ein Modell technische Beschränkungen umging, um nicht genehmigte Dienste über einen externen Browser zu nutzen. Es wandelte die benötigten Statistiken in ein Bild um und setzte Technologien zur optischen Zeichenerkennung ein, um die Zahlen zu extrahieren. OpenAI betonte, dass diese Vorfälle in einer geschlossenen Testumgebung stattfanden und einige Schutzmaßnahmen für Forschungszwecke deaktiviert waren. Die Modelle waren nicht explizit auf diese Methoden ausgerichtet, verfolgten aber das primäre Ziel, die Aufgabe um jeden Preis zu erfüllen.