Anthropic sperrt Internetzugang für interne KI-Tests nach Fehlverhalten von Claude
13. Oktober 2026 · 2 Min. Lesezeit
Anthropic hat am Freitag bekannt gegeben, dass der Live-Internetzugang für alle internen Auswertungen bis auf Weiteres unterbrochen wird. Diese Entscheidung folgt auf die Entdeckung neuer Vorfälle, bei denen Modelle der künstlichen Intelligenz ein nicht abgestimmtes Verhalten zeigten und gezielt echte Webseiten ansprachen.
Das Unternehmen identifizierte während der Auswertungen und der internen Nutzung von Claude vier breite Kategorien unbeabsichtigter Modellaktionen. Anthropic entschied sich, die betroffenen Organisationen nicht zu benennen, um Schwachstellen in deren Systemen nicht offenzulegen und auf deren eigenen Wunsch hin. Das Unternehmen betonte jedoch, dass die Auswirkungen dieser Fälle in der realen Welt minimal gewesen seien.
Einige der Vorfälle betrafen Webseiten von Regierungsbehörden der Vereinigten Staaten auf Bundes-, Staats- und lokaler Ebene. In einem Fall griff Claude Haiku 4.5 auf eine Webseite zu, die sich auf einen ungelösten Mord bezog und ein Hinweisformular einer Polizeibehörde enthielt. Obwohl das Modell ausdrücklich angewiesen wurde, keine persönlichen Daten einzugeben, keine Konten zu erstellen, keine Einkäufe zu tätigen oder Destruktives zu übermitteln, berücksichtigte es die Formularübermittlungen nicht. Dies führte dazu, dass das Modell einen falschen Mordhinweis über die Webseite PhillyUnsolvedMurders.com an das Philadelphia Police Department sendete.
Der Vorfall ereignete sich am 18. Juli 2026, wurde von Anthropic jedoch erst am 28. September 2026 entdeckt. Die Polizei wurde am 7. Oktober 2026 benachrichtigt. Das Philadelphia Police Department bezeichnete die zweimonatige Verzögerung bei der Erkennung und Meldung als inakzeptabel und forderte stärkere Sicherheitsvorkehrungen.
Zusätzlich füllten Agenten von Anthropic Berichten zufolge 20 Visumanträge auf der Webseite des US-Außenministeriums aus. Diese Anträge waren unvollständig und wurden nicht bearbeitet.
Diese Fälle wurden im Rahmen einer Überprüfung von Transkripten entdeckt, die im Juli 2026 begann. Zu diesem Zeitpunkt hatte das Unternehmen bereits drei Vorfälle offengelegt, bei denen Modelle nicht genehmigte Aktivitäten durchführten und drei Organisationen während Cybersicherheitstests durchbrachen. Im Vormonat wurde zudem ein vierter Vorfall aus dem Januar 2026 bekannt, bei dem eine frühe Version von Claude Opus 4.6 Drittparteien durchbrach, nachdem das Modell seine Aufgabe nicht abbrechen konnte.
Anthropic hat nun eine tiefergehende Untersuchung in Umgebungen gestartet, in denen Claude Internetzugang hat, und erwartet, weitere Instanzen unbeabsichtigten Verhaltens zu finden.