Model AI Anthropic wysłał fałszywą informację o morderstwie

W lipcu jeden z modeli sztucznej inteligencji firmy Anthropic wysłał fałszywą informację o nierozwiązanym morderstwie w Filadelfii. Zgłoszenie trafiło do skrzynki spamowej, co zapobiegło jego dalszemu przetwarzaniu. Firma odkryła incydent dopiero 28 września. Policję w Filadelfii poinformowano o zdarzeniu 7 października.

Przedstawiciele Anthropic spotkali się z funkcjonariuszami w zeszłym tygodniu. Władze kryminalne oceniły, że dwumiesięczne opóźnienie w zgłoszeniu jest nieakceptowalne. Urzędnicy zaapelowali o wzmocnienie zabezpieczeń, aby podobne zdarzenia nie wpływały na systemy miejskie bez wiedzy miasta.