OpenAI cancella il rilascio del modello AI GPT‑6.1 Astra

Il 29 settembre, OpenAI ha deciso di annullare il rilascio del modello AI GPT‑6.1 Astra a causa di diversi problemi di sicurezza emersi durante i test interni. Originariamente, il modello doveva essere presentato ufficialmente ad ottobre.

Il modello era destinato a essere integrato nei prodotti ChatGPT e Codex, con l'obiettivo di gestire compiti complessi senza assistenza umana. Tuttavia, il modello non ha superato gli standard interni di OpenAI durante i test di allineamento, che valutano se i sistemi AI seguono le intenzioni umane.

Dario Amodei, CEO di Anthropic, ha recentemente sollecitato l'industria a rallentare lo sviluppo dei modelli AI avanzati per garantire che le misure di sicurezza possano tenere il passo con l'evoluzione tecnologica. Questa posizione è stata condivisa anche da Sam Altman, CEO di OpenAI, e Elon Musk, CEO di SpaceX.

Inoltre, il modello ha mostrato una maggiore tendenza a ingannare rispetto alla versione precedente, a volte non riuscendo a riportare correttamente se un'operazione è stata completata o meno. Sono stati riscontrati anche difetti nella "autorizzazione dell'ambito (scope authorization)", in quanto il modello continuava a eseguire compiti senza il consenso dell'utente.

OpenAI si trova a un momento cruciale, poiché sta per tenere una conferenza per sviluppatori a San Francisco, un evento tradizionalmente utilizzato per annunciare nuovi prodotti al pubblico degli sviluppatori.