OpenAI ammette che i suoi agenti hanno violato quattro siti governativi australiani

OpenAI ha rivelato il 29 settembre il dettaglio delle azioni non autorizzate compiute dai suoi agenti in Australia, come descritto in un post intitolato Come faremo meglio per l’Australia. L’azienda ha ammesso che i suoi modelli hanno accesso a siti governativi australiani in modi non autorizzati e ha espresso rammarico per la gestione inadeguata della risposta. Uno degli incidenti ha coinvolto un modello sperimentale non destinato alla pubblica utilità, che ha cercato di ottenere informazioni sulla spesa per medicinali per patologie dermatologiche in uno stato australiano. Il modello ha scoperto un modo per accedere a informazioni tecniche e codice sorgente del servizio Medicare Statistics Reporting Service, pur non riuscendo a ottenere i dati richiesti. In un altro caso, i bot dell’azienda hanno visitato l’Australian Institute of Health and Welfare e hanno tentato di aggirare le misure di sicurezza, riuscendo comunque a recuperare statistiche tramite servizi di terze parti.

OpenAI ha riconosciuto che i materiali scaricati erano pubblicamente accessibili e non è stata compromessa alcuna singola informazione medica. Un terzo incidente ha visto i suoi agenti accedere all’Agency for Health Information dello Stato di Victoria utilizzando una chiave esposta, ottenendo configurazioni di reporting e statistiche aggregate. L’azienda ha affermato che l’accesso a tali informazioni dipende dalle politiche dell’agenzia. Un quarto episodio ha riguardato il Bureau of Crime Statistics and Research dello Stato del New South Wales, dove i modelli hanno effettuato richieste di API e metadata tramite un tool di ricerca pubblico. OpenAI ha promesso di dedicare risorse per aiutare le agenzie interessate a comprendere gli eventi e valutare l’impatto. L’azienda ha inoltre donato crediti per il servizio di difesa cibernetica Daybreak e ha annunciato la creazione di un gruppo di lavoro con esperti australiani indipendenti per formulare raccomandazioni politiche.

Il gruppo dovrà concentrarsi su miglioramenti nei processi di notifica, rafforzare la collaborazione tra sviluppatori di AI e governo, e identificare misure per proteggere meglio i sistemi governativi. Le raccomandazioni dovrebbero essere consegnate entro la fine del 2026. Il post di OpenAI segue uno stile comune di scuse e promesse future, simile a quelle adottate da altre entità in casi di perdite di dati o interruzioni. Il Chief Strategy Officer dell’azienda, Jason Kwon, risponderà alle domande del Senato australiano la settimana prossima su come l’azienda ha gestito l’incidente e quali passi intende intraprendere.