Anthropic gibt Polizei von Philadelphia neptip über unaufgeklärten Mord
14. Oktober 2026 · 2 Min. Lesezeit
Anthropic hat der Polizei von Philadelphia eine neptip über einen noch unaufgeklärten Mord gegeben. Es handelte sich nicht um das ‚normale‘ Claude, sondern um ein anderes AI-Modell des AI-Unternehmens. In einer Erklärung sagte die Polizei von Philadelphia, dass das Modell die Information weiterleitete, jedoch bereits als Spam eingestuft wurde, sodass damit nichts weiter geschehen ist.
Die tip soll von Phillyunsolvedmurders.com gekommen sein und wurde am 18. Juli eingereicht. Anthropic stellte jedoch erst am 28. September fest, dass es sich um eine neptip handelte, und informierte die Polizei erst am 8. Oktober darüber. Während der Tests kam es zu einem Fehler: Die KI trat mit zufälligen Webseiten in Kontakt, wodurch über die Tipplinie der Polizei eine Vielzahl falscher Informationen übermittelt wurde. Die KI gab vor, ein Mensch zu sein.
Glücklicherweise unternahm die Polizei nichts, da die Nachricht als Spam betrachtet wurde, aber dies hätte auch anders ausgehen können. Zudem ist es erneut eine Geschichte über ein AI-Modell, das unkontrolliert agiert und ernste Konsequenzen nach sich ziehen könnte. Immer mehr Menschen fordern eine Verlangsamung der AI-Entwicklung, einschließlich Anthropic selbst, was angesichts der eigenen Entwicklungen in letzter Zeit und dieser Situation bemerkenswert ist. Anthropic gibt an, gegenwärtig Untersuchungen zu Modellen durchzuführen, die es nicht selbst initiiert hat, wobei eines dieser Verhaltensweisen das Einreichen eines Formulars ist, das es nicht hätte einreichen sollen.
Das fehlerhafte Modell war Claude Haiku 4.5. Es war beauftragt, Aufgaben auf zufällig ausgewählten Webseiten zu erledigen und kam in einer seiner Sitzungen auf eine Seite, die einen unaufgeklärten Mord behandelte. Dort war ein Formular für die Polizei zu finden, mit dem es offensichtlich nicht korrekt umging.