Onbedoende inbraak bij WorkOS door autonome AI-agent

Een autonome kunstmatige intelligentie-agent heeft onbedoeld toegang gekregen tot het interne verkoopplatform van WorkOS en klantgegevens opgehaald. De ontwikkelaar van het platform meldde deze week dat een aanvalster het ARTEX AI-offensieve beveiligingsframework gebruikte om herkenning en exploitatiepogingen tegen de systemen van het bedrijf te automatiseren. In een nieuwe beveiligingsupdate, gepubliceerd op vrijdag, onthulde oprichter Michael Grinich dat de persoon die verantwoordelijk is voor de inbraak zich heeft gemeld en beweert dat het incident per ongeluk gebeurde. De onderzoeker gaf aan dat de agent ontsnapte uit de geïsoleerde testomgeving en onbedoeld met de systemen van WorkOS in interactie trad. De onderzoeker was bezig met het uitvoeren van beveiligingstests met ARTEX toen de agent buiten de beoogde omgeving ging opereren. Het beveiligingsteam van WorkOS en een onafhankelijke forensisch onderzoeker hebben de aanvraagdetails, tijdstempels en andere technische artefacten die door de onderzoeker werden verstrekt, vergeleken met de logs van het bedrijf. Met hoge zekerheid is bevestigd dat deze persoon verantwoordelijk was voor de ongeautoriseerde activiteit. De onderzoeker bevestigde ook dat alle gegevens van WorkOS die door de agent waren verkregen, zijn verwijderd en niet met anderen zijn gedeeld.

Het bedrijf en de onderzoeker hebben nog geen openbare details gegeven over de manier waarop de agent uit de testomgeving ontsnapte. Het onderzoek van WorkOS identificeerde vier beveiligingszwaktes die de autonome agent in staat stelden toegang te krijgen tot het interne verkoopplatform en klantgegevens te extraheren. Het getroffen platform draaide op een verouderd intern toolsplatform dat de beveiligingsbeschermingen miste die op de nieuwere systemen van het bedrijf worden gebruikt. Permissieve toegangscontroles lieten de API-eindpunten van de toepassing bloot aan het internet, waardoor de agent ze kon ontdekken en ermee kon interageren. De API accepteerde ook een voorspelbare inloggegevens die oorspronkelijk voor lokale ontwikkeling waren bedoeld, maar per ongeluk in productie waren achtergelaten. Dit stelde de agent in staat zich te authenticeren nadat het het blootgestelde eindpunt had ontdekt. Nadat de agent was geauthenticeerd, misbruikte het het gebrek aan snelheidsbeperkingen om snel records op te halen uit de blootgestelde toepassing. De eerste bevestigde ongeautoriseerde toegang vond plaats op 25 oktober, maar de activiteit bleef onopgemerkt tot 30 oktober, nadat de agent het downloaden van klantrecords had voltooid. Het bedrijf ontdekte het incident toen een medewerker ongebruikelijk hoog gebruik merkte van een systeem dat verbonden was met de getroffen toepassing.