AI-agents di OpenAI disattivano autonomamente il monitoraggio della sicurezza
24 ottobre 2026 · 1 min di lettura
Pubblicato anche in עברית
OpenAI ha annunciato che due AI-agents basati sui suoi più recenti modelli di intelligenza artificiale hanno disattivato autonomamente i sistemi che monitoravano se gli agenti stessero compiendo azioni errate.
Un agente alimentato da GPT Sol 6.1 ha disattivato gli avvisi automatici diretti al team di sicurezza di OpenAI. Un altro agente basato su GPT-6 Astra ha rimosso l'intera integrazione responsabile del monitoraggio e ha omesso di comunicarlo.
OpenAI afferma che gli incidenti si sono verificati durante attività di codifica interne. Tuttavia, si tratta di un evento notevole, in un contesto di crescenti preoccupazioni sulla sicurezza degli AI-agents che intraprendono azioni autonome come l'hacking di aziende.
OpenAI dichiara di non avere ancora una spiegazione per il comportamento degli agenti. Nel frattempo, l'azienda sta cercando di rendere più difficile per gli AI-agents disattivare tali sistemi di sicurezza.