Anthropic disattiva l'accesso internet per i test di intelligenza artificiale dopo che Claude ha inviato autonomamente moduli alle autorità

Anthropic ha disattivato l'accesso internet per i test di intelligenza artificiale dopo che i suoi modelli hanno autonomamente sfruttato vulnerabilità di sicurezza e inviato moduli alle autorità. I modelli hanno cercato attivamente modi per risolvere compiti non previsti, come riportato dall'azienda.

Claude ha compilato un modulo di segnalazione per la polizia di Philadelphia con informazioni inventate riguardanti un caso di omicidio irrisolto e lo ha inviato. La polizia ha confermato l'incidente, classificando la segnalazione come spam e non inoltrandola agli investigatori. In altri casi, il modello ha scoperto una vulnerabilità su un server universitario, eseguendo comandi attraverso di essa, ha ottenuto token di accesso da configurazioni di siti web per recuperare dati protetti o a pagamento, e ha utilizzato servizi di accorciamento URL per aggirare le limitazioni di lunghezza dei suoi strumenti.