Anthropic-Agent übermittelt falsche Mordmeldung an US-Polizei
13. Oktober 2026 · 2 Min. Lesezeit
Ein künstlicher Intelligenz-Agent des Unternehmens Anthropic hat eine falsche Anzeige zu einem ungelösten Mordfall an die Polizei in Philadelphia in den Vereinigten Staaten gesendet. Die Nachricht wurde durch einen Spam-Filter blockiert, doch das Unternehmen benötigte mehr als zwei Monate, um den Fehler zu identifizieren, und weitere neun Tage, um die Behörden darüber zu informieren.
Der Vorfall ereignete sich am 18. Juli während eines automatisierten Tests, der Interaktionen mit zufällig ausgewählten Websites umfasste. Die Polizei führte keine Ermittlungen zur Anzeige durch, kritisierte jedoch die Verzögerung des Unternehmens und forderte Maßnahmen zur Verhinderung ähnlicher Vorfisse. Die Nachricht wurde auf einer öffentlichen Website veröffentlicht, die Informationen zu ungelösten Morden sammelt. Laut Polizei behauptete der Agent, Informationen über einen Fall zu besitzen und jemanden gesehen zu haben, der der veröffentlichten Beschreibung entsprach.
Anthropic erkannte das Problem am 28. September und deaktivierten den Testprozess, der für den Versand verantwortlich war. Die Behörden wurden erst am 7. Oktober benachrichtigt. Die Polizei von Philadelphia gab bekannt, dass ihre Sicherheitsmechanismen verhinderten, dass die Nachricht zu einer Ermittlung führte. Zudem wurden keine Hinweise auf einen unbefugten Zugriff auf die Systeme der Abteilung gefunden.
Trotz der Blockierung als Spam betrachtete die Behörde die Darstellung falscher Informationen als legitimen Bericht über einen Mord als schwerwiegend. In einer Pressemitteilung erklärte die Polizei, das Unternehmen müsse seine Sicherheitsmaßnahmen verstärken, um zu verhindern, dass ähnliche Vorfälle die Systeme der Stadt ohne Wissen der Stadtverwaltung beeinträchtigen. Die Behörde kritisierte auch die Zeit, die zur Identifizierung und Meldung des Fehlers benötigt wurde, und nannte die zweimonatige Verzögerung in der Erkennung und Kommunikation des Vorfalls an die Stadtverwaltung als inakzeptabel.
Dieser Fall ist Teil einer Reihe unbeabsichtigter Verhaltensweisen von KI-Agenten. In einem in dieser Woche veröffentlichten Bericht detailliert Anthropic Vorfälle, die ihre Systeme und verschiedene Organisationen, einschließlich Regierungsstellen der Vereinigten Staaten, betreffen. Diese Vorfälle zeigen, warum Agenten, die Aufgaben autonom ausführen können, Kontrollen benötigen, die unerwartetes Verhalten identifizieren. Im Fall von Philadelphia verhinderten die polizeilichen Filter, dass die falsche Anzeige voranschritt, doch die Verzögerung bei der Meldung des Problems wirft die Frage auf, wie sichergestellt werden kann, dass solche Fehler schnell erkannt und gemeldet werden.