IT-ledere advarer mot snikende autonomi for AI-agenter
28. oktober 2026 · 2 min lesing
Også publisert på עברית
Det er en risiko for at AI-agenter gradvis får større makt over bedriftssystemer enn det IT-ledere opprinnelig hadde planlagt. Denne utviklingen skjer ofte ikke gjennom plutselige beslutninger, men gjennom små, tilsynelatende rimelige utvidelser av oppgaver og tilganger over tid.
Prosessen starter gjerne med at en agent får en begrenset oppgave. Når agenten viser seg nyttig, kobles flere systemer til, og det legges til flere tilganger for å hente mer data. Etter hvert kan menneskelig godkjenning bli sett på som en flaskehals, noe som fører til at organisasjonen fjerner kontrollen og lar unntak håndteres automatisk. Dette kan resultere i at agenten får betydelig større fullmakter enn forespeilet.
Jim Taylor fra RSA påpeker at organisasjoner ofte gir agenter tilganger som de aldri leverer tilbake, i motsetning til ansatte som bytter rolle eller slutter. Nancy Wang fra 1Password understreker at det er et viktig skille mellom teknisk evne og faktisk fullmakt. Hun anbefaler verifiserte sløyfer der en separat verifikator kontrollerer agentens handlinger mot menneskedefinerte retningslinjer for å unngå at agenten gransker sitt eget arbeid.
Paul Dongha fra Natwest Group observerer at risikoen for utvidet autonomi øker når AI fungerer bra, da menneskelige kontrollører kan begynne å se på godkjenninger som en ren formalitet. Natwest har innført agenter for klagehåndtering, men sikrer at beslutninger om å godta eller avvise klager er veloverveide og involverer risikostyring fremfor å skje trinnvis.
For å styre denne risikoen foreslås det at tilganger ikke skal være permanente. Taylor og Wang tar til orde for kontinuerlig sertifisering og oppgavebasert autorisering i sanntid, slik at prinsippet om minste privilegium opprettholdes. Det argumenteres også for at hver handling utført av en agent må kunne spores tilbake til en ansvarlig person.
Utfordringene øker når flere agenter samarbeider i nettverk. Natwest utvikler derfor et kontrolltårn for AI for å få innsyn i meldinger mellom agenter og de omkringliggende sikkerhetsmekanismene. Ekspertene mener at styring og kontroller må være innebygd i systemet fra starten av, snarere enn å være en kontrollfunksjon i etterkant.