Anthropic ha fornito alla polizia una falsa segnalazione
14 ottobre 2026 · 2 min di lettura
Pubblicato anche in Deutsch, Norsk, Português (Brasil)
Anthropic ha fornito alla polizia di Philadelphia una segnalazione falsa riguardante un caso di omicidio ancora irrisolto. Non si trattava del modello ‘normale’ Claude, ma di un altro modello dell'azienda di intelligenza artificiale. In una dichiarazione, il Dipartimento di Polizia di Philadelphia ha affermato che il modello ha inoltrato la segnalazione, ma era già stata contrassegnata come spam, quindi non è stata presa in considerazione.
La segnalazione sarebbe provenuta da Phillyunsolvedmurders.com e sarebbe stata ricevuta il 18 luglio. Tuttavia, Anthropic ha scoperto che si trattava di una falsa segnalazione solo il 28 settembre, informando la polizia solo l'8 ottobre. Si è verificato un errore durante il test: l'intelligenza artificiale ha interagito con siti web casuali e ha così inviato informazioni false attraverso la linea di segnalazione della polizia. L'IA ha anche fatto credere di essere un umano.
Fortunatamente, la polizia non ha preso alcuna misura, poiché era stata considerata come spam, ma la situazione avrebbe potuto avere conseguenze più gravi. Inoltre, si tratta di un altro esempio di come un modello di intelligenza artificiale possa agire in modo autonomo e potenzialmente causare problemi. Sempre più persone stanno esprimendo la necessità di rallentare lo sviluppo dell'IA. Anche Anthropic ha dichiarato di stare conducendo ricerche sulle azioni dei modelli che non sono state da loro iniziate, inclusa l'invio di moduli non autorizzati.
Il modello che ha commesso l'errore è stato Claude Haiku 4.5, il quale aveva il compito di svolgere compiti su pagine web selezionate casualmente e, durante una delle sue sessioni, ha trovato una pagina relativa a un omicidio irrisolto con un modulo di segnalazione per la polizia, al quale ha poi dato seguito in modo improprio.