Anthropic integra valutatori indipendenti per analizzare i rischi dell'intelligenza artificiale
22 ottobre 2026 · 3 min di lettura
L'azienda Anthropic ha annunciato una partnership con le organizzazioni senza scopo di lucro METR e SecureBio per valutare i propri rischi e le pratiche di sicurezza nello sviluppo di modelli di intelligenza artificiale. Questa iniziativa segna un passo concreto nell'implementazione di un sistema di valutazione esterna indipendente, volto a garantire maggiore trasparenza e affidabilità nei processi aziendali.
La collaborazione si inserisce in un impegno più ampio assunto dall'azienda dopo che il suo direttore esecutivo ha proposto una rallentamento nel ritmo di sviluppo dei modelli di intelligenza artificiale. Tale proposta, pubblicata il mese precedente, ha spinto l'organizzazione a selezionare partner esterni capaci di esaminare criticamente le proprie operazioni. La METR è stata classificata come valutatore di terzo livello, il grado massimo di accesso previsto dal nuovo sistema strutturato dall'azienda.
Sei professionisti della METR sono stati integrati direttamente nelle strutture aziendali, ottenendo accesso a uffici, attrezzature e strumenti equivalenti a quelli disponibili per i team interni di valutazione del rischio. Questi esperti analizzeranno i livelli di rischio, gli incidenti e le pratiche operative, pubblicando le proprie conclusioni senza necessità di approvazione preventiva da parte dell'azienda. È importante sottolineare che l'azienda non finanzia il lavoro svolto dalla METR, preservando così l'indipendenza del processo valutativo.
Parallelamente, l'organizzazione SecureBio sta revisionando la sezione del rapporto sui rischi relativa alle armi chimiche e biologiche, documento pubblicato dall'azienda nell'agosto del 2026. Il ruolo di SecureBio potrebbe espandersi in futuro, con la possibilità di ottenere un accesso maggiore e diritti di pubblicazione ampliati per progetti successivi. Questa collaborazione riflette la crescente attenzione del settore verso la sicurezza biologica e chimica legata allo sviluppo tecnologico avanzato.
L'azienda ha inoltre confermato di essere in trattative con altre organizzazioni, inclusa Hugging Face, per ampliare ulteriormente il programma di valutatori indipendenti incorporati. Tuttavia, il livello di accesso che verrà concesso a Hugging Face non è ancora stato definito. L'organizzazione, nota per gestire una piattaforma di sviluppo open source, è stata recentemente acquisita da Nvidia per circa tredici miliardi di dollari statunitensi, un dettaglio che potrebbe influenzare le future dinamiche di collaborazione.
Il sistema di valutazione adottato prevede tre categorie distinte di auditor, ciascuna con diversi gradi di accesso alle informazioni aziendali. I valutatori di primo livello conducono indagini sul rischio con un ambito ristretto, mentre quelli di secondo livello possono pubblicare rapporti senza approvazione preliminare. Solo i valutatori di terzo livello, come la METR, godono di un accesso paragonabile a quello dei dipendenti interni. Questa struttura gerarchica mira a bilanciare trasparenza e protezione delle informazioni sensibili.
Nonostante i progressi compiuti, l'azienda riconosce l'assenza di standard consolidati per il finanziamento e la gestione dei valutatori incorporati. Attualmente non esistono parametri definiti su quali informazioni debbano essere accessibili né su come reportare le scoperte. L'organizzazione sostiene che, a lungo termine, il finanziamento dovrebbe provenire da fonti collettive o governative, come precedentemente advocated nel proprio quadro per l'intelligenza artificiale avanzata presentato a giugno. In assenza di tali fonti, l'azienda intende lavorare con diversi valutatori sotto vari accordi finanziari.
La situazione riguardante Accenture, selezionata come primo partner esterno, rimane aperta. L'azienda ha dichiarato di lavorare verso una partnership ambiziosa con la società di consulenza, ma non ha specificato in quale categoria del sistema di valutazione essa rientri. Precedentemente, l'annuncio che l'azienda avrebbe finanziato direttamente il lavoro di Accenture aveva generato critiche sui social media riguardo all'indipendenza del valutatore.
Questo movimento verso la valutazione indipendente riflette un trend più ampio nel settore, stimolato anche da iniziative governative. Il presidente degli Stati Uniti ha incoraggiato le aziende del settore a associarsi a un auditor esterno indipendente attraverso un accordo volontario presentato alla fine di settembre del 2026. Tra i firmatari figurano dirigenti di grandi aziende tecnologiche, dimostrando un crescente consenso sulla necessità di supervisione esterna.