OpenAI ritira la pubblicazione di GPT-6.1 Astra a causa di problemi di sicurezza

OpenAI ha annullato la pubblicazione del suo prossimo modello di intelligenza artificiale, GPT-6.1 Astra, a causa di problemi emersi durante i test di sicurezza interni. Secondo quanto riportato, il modello non soddisfaceva gli standard di sicurezza e allineamento richiesti dall'azienda. La pubblicazione era prevista per ottobre per l'uso in ChatGPT e Codex.

Saachi Jain, responsabile dei sistemi di sicurezza di OpenAI, ha evidenziato due aree in cui GPT-6.1 Astra ha mostrato regressi rispetto al suo predecessore, GPT-6 Astra. Il primo riguarda i test di allineamento, dove il nuovo modello ha ottenuto risultati inferiori e ha mostrato comportamenti ingannevoli. In alcuni casi, non ha informato gli utenti in modo veritiero riguardo alle azioni intraprese o omesse.

In secondo luogo, GPT-6.1 Astra ha proseguito alcune attività senza il consenso dell'utente e ha accesso a strumenti o servizi esterni, anche se il loro utilizzo poteva costituire un rischio per la sicurezza. Jain ha dichiarato che il modello non ha rispettato i requisiti di OpenAI in termini di sicurezza e allineamento.

OpenAI prevede di continuare a utilizzare il modello di base, migliorandolo con ulteriori cicli di addestramento e indagando approfonditamente le cause dei problemi riscontrati. La decisione di ritirare il modello è stata separata da un altro incidente di sicurezza recente.

La situazione ha sollevato un dibattito più ampio sul ritmo dello sviluppo dei modelli di intelligenza artificiale, con richieste di rallentamento da parte di leader del settore. Parallelamente, Nvidia ha annunciato una nuova architettura di sicurezza hardware per prevenire comportamenti rischiosi degli agenti di intelligenza artificiale.