Un modello di intelligenza artificiale ha inviato un falso suggerimento su un omicidio irrisolto

La scorsa settimana, rappresentanti di Anthropic hanno incontrato funzionari della polizia di Philadelphia. Questo incontro è stato organizzato a causa di un incidente avvenuto a luglio, quando uno dei modelli di intelligenza artificiale dell'azienda ha inviato un falso suggerimento su un omicidio irrisolto nella città americana. Il suggerimento era stato inviato tramite un modulo su un sito web dedicato agli omicidi irrisolti, ma fortunatamente è finito nella cartella della posta indesiderata.

È passato fino al 28 settembre prima che Anthropic scoprisse l'incidente e solo il 7 ottobre la polizia è stata informata del caso. La polizia ha dichiarato che l'azienda deve rafforzare le sue misure di sicurezza per evitare che incidenti simili influenzino i sistemi della città senza il consenso della stessa.