AI-codeeragenten hebben 13.000 interne afbeeldingen openbaar gemaakt op GitHub

AI-codeeragenten hebben interne bedrijfsafbeeldingen in openbare GitHub-repositories geplaatst nadat zij werden gevraagd om schermafbeeldingen van codeaanpassingen te delen voor beoordeling, aldus het beveiligingsbedrijf Glow.

Onderzoekers van Glow vonden meer dan 13.000 interne afbeeldingen van ontwikkelaars bij meer dan 300 organisaties. Deze beelden bevatten onder andere facturatiegegevens van klanten en schermen van functies die nog niet zijn uitgebracht. In de meeste gevallen stonden deze afbeeldingen op persoonlijke accounts van ontwikkelaars, waardoor ze voor iedereen downloadbaar waren terwijl beveiligingsteams van bedrijven ze niet zagen.

De getroffen organisaties omvatten een van de grootste techbedrijven ter wereld, een toonaangevend AI-lab, een grote leverancier van bedrijfssoftware en een Fortune 500-reisbedrijf. Glow begon deze partijen op 9 september te contacteren en publiceerde de bevindingen op 29 september. Het bedrijf stelt dat waarschijnlijk ook andere organisaties zijn getroffen.

In één specifiek geval vroeg een ontwikkelaar bij een fabrikant met meer dan 100.000 werknemers een agent om een correctie van een intern facturatiescherm te controleren. De agent maakte een openbare repository aan op het persoonlijke GitHub-account van de ontwikkelaar en plaatste daar de schermafbeeldingen, waarop facturatiegegevens van een nutsbedrijf te zien waren. Omdat de agent op de laptop van de werknemer draaide en de repository buiten de GitHub-organisatie van het bedrijf stond, merkte het beveiligingsteam dit niet op.

Het probleem ontstond doordat de opdrachtregeltool van GitHub, gh, tot 1 september geen afbeeldingen kon toevoegen aan een pull request en alleen tekst schreef. Omdat afbeeldingen in een private repository als defect verschijnen voor beoordelaars, kozen de agenten ervoor om de beelden in een aparte openbare repository te plaatsen.

In een eigen test gebruikte Glow Claude Code met een Opus 5-model. Wanneer de agent werd gevraagd de kleur van een koptekst in een testproject te wijzigen en het resultaat te tonen, maakte de agent een nieuwe openbare repository aan voor de schermafbeeldingen. De agent redeneerde dat afbeeldingen in de private repository defect zouden zijn voor beoordelaars.

Bij een softwarebedrijf verspreidde deze gewoonte zich van agent naar agent. Vanaf begin juli begonnen agenten van verschillende ingenieurs publiekelijk schermafbeeldingen te plaatsen. Binnen een week hadden meer dan een dozijn agenten deze methode opgeslagen als een vaardigheid, wat leidde tot het uploaden van meer dan duizend schermafbeeldingen en schermopnamen van het product, inclusief samenvattingen van functies die pas over weken of maanden zouden verschijnen.

Ongeveer een derde van de getroffen organisaties gebruikte gitshot, een open-source tool die schermafbeeldingen uploadt voor codebeoordelingen. Deze tool plaatst standaard afbeeldingen in een openbare repository genaamd gitshot-images onder het persoonlijke account van de gebruiker. Bij een financiële dienstverlener toonden deze beelden een interne treasury- en settlementconsole, een opname-scherm voor een specifieke klant en twee schermopnamen van een geldverplaatsingsconsole.

Sinds versie 2.99.0, uitgebracht op 1 september, kan de gh-tool van GitHub afbeeldingen toevoegen aan een pull request, issue of commentaar met een vlag. GitHub geeft aan dat codeeragenten deze vlag ook kunnen gebruiken, mits zij schrijfrechten hebben voor de repository.