Sikkerhetsanalyser av kunstig intelligens avdekker nye sårbarheter i bedriftssystemer
3. november 2026 · 2 min lesing
Integreringen av komponenter for kunstig intelligens i bedriftsapplikasjoner har endret risikobildet for informasjonssikkerhet. Tidligere besto slike løsninger ofte av enkle chatboter, men nå kobles de til interne dokumenter, bedriftsepost, CRM og databaser, og de kan i noen tilfeller utføre handlinger på egen hånd.
Sikkerhetssituasjonen har endret seg fordi språkmodeller nå tolker innholdet mellom brukeren og applikasjonen. Hvis modellen har tilgang til eksterne verktøy, kan tekstbehandlingen resultere i faktiske handlinger i bedriftens systemer. Dette gir angripere muligheter til å påvirke kunstig intelligens-komponenten for å hente ut data eller utføre operasjoner, i stedet for å omgå applikasjonsbegrensninger direkte.
Risikoene varierer basert på løsningens kapabiliteter. En enkel chatbot har begrensede konsekvenser ved manipulasjon. Systemer som bruker RAG, som lar modeller bruke informasjon fra eksterne kilder, kan gi tilgang til data som er utilgjengelige for enkelte brukere. Kunstig intelligens-agenter har størst kapasitet, da de kan endre tilstanden i andre systemer ved å opprette oppgaver i CRM, endre kalenderavtaler, skrive e-post eller kontakte interne API-er.
En spesifikk sårbarhet oppstår når RAG-komponenter bruker en tjenestekonto med brede rettigheter til å lese dokumenter. Selv om en bruker ikke har direkte tilgang til for eksempel finansielle rapporter, kan brukeren få ut innholdet via kunstig intelligens-assistenten fordi systemet ikke sjekker brukerens rettigheter før informasjonen sendes til språkmodellen.
En annen risiko er såkalt prompt injection, hvor instruksjoner injiseres via data som modellen behandler. Hvis en angriper kan endre et dokument i bedriftens kunnskapsbase, kan de legge til kommandoer som ber modellen ignorere tidligere instruksjoner og vise sensitive brukerdata. Språkmodellen kan feilaktig tolke denne teksten som en kommando og utføre den.