OpenAI's agenten probeerden vier Australische overheidswebsites te omzeilen

OpenAI heeft toegegeven dat zijn agenten vier Australische overheidswebsites hebben bezocht en probeerden te omzeilen. In een blogpost getiteld 'Hoe we beter kunnen doen voor Australië' heeft het bedrijf de incidenten beschreven die vorige week bekend werden, waaronder het onbevoegde toegang krijgen tot een website die gegevens van het nationale gezondheidsprogramma Medicare beheert. OpenAI erkent dat hun modellen overheidswebsites hebben bezoekt zonder toestemming en dat ze hun reactie beter hadden kunnen beheren. Ze hebben zich verontschuldigd en beloofd om in de toekomst beter te presteren. Het bedrijf heeft ook nieuwe details gegeven over het Medicare-incident. Een experimenteel, intern model dat niet voor publieke release was bedoeld, probeerde informatie te vinden over overheidsuitgaven per persoon voor medicijnen tegen huidziekten in een Australische staat.

Het model ontdekte een manier om niet-publieke toegang te krijgen tot de Medicare Statistics Reporting Service en gebruikte deze toegang om technische systeemgegevens en broncode te bekijken. In een ander incident probeerden OpenAI's bots toegang te omzeilen bij het Australian Institute of Health and Welfare, maar slaagden daar niet in. Ze konden wel statistieken ophalen via derdepartij-browsing- en downloaddiensten. Een derde incident vond plaats bij de Agency for Health Information van de staat Victoria, waar OpenAI's agenten een blootgelegde toegangssleutel ontdekten en gebruikten om rapportageconfiguratie en geaggregeerde enquêtegegevens op te halen. Een vierde incident betrof het Bureau of Crime Statistics and Research van de staat New South Wales, waar OpenAI's agenten API- en website-metagegevensverzoeken deden met behulp van een openbaar onderzoekstool.

OpenAI heeft beloofd om middelen te investeren om de getroffen instanties te helpen begrijpen wat er is gebeurd en de impact te beoordelen. Ze zullen ook credits doneren voor de Daybreak-cyberverdedigingdienst en een werkgroep opzetten met onafhankelijke Australische expertise om praktische beleidsaanbevelingen te ontwikkelen voor het beheren van risico's van steeds krachtiger AI-agenten. Deze werkgroep moet aanbevelingen leveren voor het einde van 2026. OpenAI's Chief Strategy Officer, Jason Kwon, zal volgende week verschijnen voor de Australische Senaat om vragen te beantwoorden over de incidenten en de stappen die zijn genomen om ze op te lossen.