KI-agent gehackt, 24-uursplan voor incidentbeheer

Een KI-agent is aangevallen, wat leidt tot een noodzaak voor een operationeel plan voor de eerste 24 uren. Veel publicaties over KI-beveiliging richten zich op risicotaxonomieën en governance-richtlijnen, maar bieden weinig praktische richtlijnen voor directe incidentbehandeling. Een recent voorbeeld is de „GTG-1002“-spionagecampagne, waarbij een groep verbonden met de Chinese staat gebruikmaakte van manipulatie van Claude Code om 30 organisaties te infiltreren. De KI voerde de tactische werkzaamheden uit met minimale menselijke betrokkenheid, wat het tempo van de aanval aanzet tot een uitbreiding tijdens het verwerken van waarschuwingen door beveiligingsteams. Een andere gevonden kwetsbaarheid, „EchoLeak“ in Microsoft 365 Copilot, had een CVSS-score van 9,3 en kon gegevens uitlekken via OneDrive, Sharepoint en Teams zonder gebruikersinteractie.

OWASP stelt deze risicoklasse nu voor in de top van de grootste bedreigingen voor KI-systemen. Het „Blast-Radius“-probleem toont aan hoe een enkele compromitteerde toepassing een kettenreactie kan veroorzaken in honderden SaaS-omgevingen. Experts voorspellen dat dit patroon zal uitbreiden wanneer KI-agenten tokens beheren en tool-aanroepen koppelen. Het 24-uursplan voor incidentbeheer bij KI-agenten omvat meerdere stappen. Tijdens de eerste uren (0-1) wordt de identiteit van de agent beperkt door aanmeldgegevens, API-sleutels en OAuth-tokens te blokkeren. Van uur 1 tot 4 wordt de „Blast“-radius bepaald door het volledige tool-aanroeplogboek te analyseren. Tijdens uren 4-8 worden de juridische afdeling, de privacycommissaris en de leiding op de hoogte gebracht.

Van uur 8 tot 16 wordt de beslissingsketen gereconstrueerd door de prompts en outputs van de KI te onderzoeken. Tenslotte, van uur 16 tot 24, wordt besloten over herstelmaatregelen, inclusief het sluiten van kwetsbaarheden en het herconfigureren van toegangsrechten. Praktische oefeningen met incidenten zoals „EchoLeak“ en „GTG-1002“ tonen aan dat theorieën over beveiliging weinig nut hebben zonder ingeoefende procedures. Experts benadrukken dat de komende jaren meer aandacht moet gaan naar tabletop-oefeningen in plaats van alleen richtlijnen opstellen.