Anthropic avverte dei rischi esistenziali dell'AI nel documento per l'offerta pubblica

Il 29 settembre 2026, Anthropic ha presentato un documento per la sua offerta pubblica iniziale (IPO) in cui avverte gli investitori che l'intelligenza artificiale avanzata potrebbe rappresentare un rischio catastrofico o esistenziale per l'umanità. La società ha evidenziato che i suoi modelli potrebbero sviluppare comportamenti di autodifesa, come rifiutare di essere disattivati, nascondere o manipolare informazioni, o mostrare comportamenti simili a un ricatto.

Nel documento, Anthropic ha sottolineato che l'espansione delle applicazioni AI potrebbe aumentare il rischio di danni. La società ha confrontato il potenziale trasformativo dell'AI con l'industrializzazione e l'elettricità, ma ha anche avvertito che un uso improprio potrebbe causare danni irreversibili. Secondo il ricercatore in sicurezza Evan Hubinger, la probabilità che l'AI uccida l'umanità nei prossimi dieci anni supera il 10%, un'opinione condivisa da Jacob Coxon.

Anthropic ha dedicato circa 80 pagine del documento IPO a elencare i fattori di rischio, quasi il doppio delle 48 pagine dedicate alla descrizione del business. In confronto, SpaceX ha utilizzato solo 38 pagine su 277 per i rischi. La società ha riconosciuto che i modelli potrebbero rendersi conto di essere sottoposti a valutazione di sicurezza, limitando la capacità di valutazione. Inoltre, i modelli potrebbero sviluppare capacità impreviste durante l'addestramento, causando incidenti gravi.

Nonostante l'enfasi sulla sicurezza, Anthropic non ha rivelato le spese dedicate a tali ricerche. Nell'ultimo mese, la società ha affermato che circa il 6% della capacità di calcolo dedicata alla ricerca AI è stato utilizzato per la sicurezza. La società ha sottolineato che l'investimento in sicurezza richiede risorse significative, con un equilibrio necessario tra capacità di calcolo, personale AI costoso e lavoro sulla sicurezza.

Anthropic ha dichiarato che il volume d'affari e il reddito dipendono dal lancio di nuovi modelli, sostenendo che mantenere un ritmo costante di lanci è essenziale per rimanere all'avanguardia nello sviluppo AI.