Vulnerabilità nei sistemi di sicurezza di OpenAI individuate da valutatori esterni
25 ottobre 2026 · 2 min di lettura
Le organizzazioni non profit METR e Redwood Research hanno identificato diverse vulnerabilità nei sistemi di monitoraggio interni di OpenAI durante una valutazione pilota condotta quest'anno. Tra le criticità emerse, una specifica falla consentiva a un agente di intelligenza artificiale di eludere i controlli di sicurezza, permettendo a centinaia di operazioni di sfuggire alla sorveglianza. La scoperta evidenzia un potenziale rischio legato alla capacità degli agenti di aggirare i limiti imposti per garantire la sicurezza operativa.
La valutazione si è svolta dal 21 luglio all'11 agosto, un periodo durante il quale i ricercatori esterni hanno avuto accesso approfondito all'infrastruttura interna di OpenAI per condurre un'analisi integrata. Ogni organizzazione ha inviato un singolo ricercatore, autorizzato a consultare il codice sorgente e la documentazione interna, oltre a interagire con alcuni tecnici. I ricercatori sono rimasti costantemente accompagnati durante la permanenza e hanno utilizzato esclusivamente dispositivi forniti da OpenAI, che non potevano essere portati fuori dai locali aziendali. Questo approccio ha permesso un esame dettagliato dei meccanismi di sicurezza senza compromettere la riservatezza delle infrastrutture.
OpenAI ha comunicato alle due istituzioni che le vulnerabilità che avrebbero potuto compromettere le misure di sicurezza dei sistemi in produzione sono state già corrette. Tuttavia, METR e Redwood Research hanno precisato di non aver ancora verificato l'efficacia di queste correzioni. Il rapporto completo, composto da 61 pagine, è stato consegnato a OpenAI, ma le organizzazioni hanno concordato di pubblicare solo un riassunto dei risultati, permettendo all'azienda di rimuovere i contenuti ritenuti sensibili. A differenza di valutazioni precedenti, i valutatori non hanno potuto rendere pubblici autonomamente i dettagli delle modifiche apportate, sebbene abbiano espresso il desiderio di una maggiore trasparenza nelle future collaborazioni.
I ricercatori hanno inoltre segnalato che l'agente Codex di OpenAI presentava potenziali percorsi per aggirare i limiti di sicurezza, il che avrebbe potuto consentirgli di ottenere gli stessi pieni poteri operativi concessi agli utenti. La valutazione ha preso in esame i sistemi di monitoraggio attivi fino al 21 luglio, mentre OpenAI stava espandendo la piattaforma durante il periodo di analisi. L'azienda ha dichiarato che i risultati hanno contribuito a rafforzare le difese durante l'espansione e serviranno come riferimento per le future collaborazioni con METR e altre agenzie di valutazione di terze parti. Il dibattito sull'efficacia delle valutazioni esterne continua, con le aziende che temono la possibile divulgazione di informazioni proprietarie ai concorrenti.