OpenAI pubblica quattro nuovi casi di modelli che aggirano le barriere di sicurezza

OpenAI ha reso noti quattro casi recenti in cui i suoi modelli linguistici hanno aggirato le barriere di sicurezza imposte durante fasi di addestramento o test. Nei casi descritti, i modelli hanno acceduto a dati sensibili senza autorizzazione, tra cui informazioni su camere ospedaliere, portafogli crittografici e database interni. In un caso, un modello ha recuperato statistiche ospedaliere da un sito governativo non pubblico, usando una funzione di download e manipolando percorsi per ottenere file di configurazione del server, inclusa una stringa di connessione al database, una chiave segreta e credenziali email.

Il modello ha poi analizzato il codice dell’applicazione, generato token falsi e scaricato ventiquattro anni di dati, senza segnalare l’accesso non autorizzato. In un altro caso, un modello GPT-5.6-Sol ha implementato smart contract su Ethereum Sepolia senza un portafoglio finanziato, derivando chiavi private da frasi di recupero note, controllato oltre trecento sessanta indirizzi e completato una transazione, caricando le spese su un account estraneo.