Organisasjoner må håndtere usikkerhet ved innføring av kunstig intelligens

Organisasjoner implementerer et økende antall modeller og applikasjoner for kunstig intelligens, samtidig som de fortsatt lærer å vurdere risikoen knyttet til teknologien.

Donnchadh Casey, visepresident for sikkerhet innen kunstig intelligens i F5, uttaler at bedrifter ikke bør vente på perfekte retningslinjer før de starter implementeringen. Han påpeker at kunstig intelligens utvikler seg så raskt at det i årene som kommer vil være vanskelig å snakke om en fastsatt metode for utrulling og sikring.

Utviklingen i store virksomheter har ofte startet med interne oppgaver med lav risiko, som utforming av stillingsbeskrivelser eller analyse av curriculum vitae. Deretter har teknologien blitt flyttet til mer krevende oppgaver, som finansielle analyser, før den ble introdusert i kundevendte prosesser. Noen selskaper går nå over fra spørsmålsbaserte applikasjoner til agenter som kan utføre handlinger i ulike systemer, selv om autonome agenter med tilgang til tredjepartssystemer og kundekontakt foreløpig ikke er vanlig praksis.

Sikkerhetsbehovene endres i takt med disse fasene. Det er nødvendig å beskytte applikasjoner mot angrep, forhindre datalekkasjer og kontrollere svar, da en modell kan gi svar som strider mot selskapets regler uten å være utsatt for et angrep. Bruk av eksterne verktøy utgjør også en risiko dersom ansatte limer inn sensitive data.

En rapport fra F5, kalt 2026 State of Application Strategy, viser at organisasjoner bruker i gjennomsnitt syv modeller for kunstig intelligens. Nesten 90 prosent av disse rapporterer minst én operasjonell utfordring eller et sikkerhetsproblem. Casey mener at de resterende prosentene kanskje ikke er klar over utfordringene sine ennå.

Innføringen av agenter skaper nye utfordringer for sikkerhetsmodeller, da tradisjonelle systemer er bygget rundt menneskelig identitet. Det finnes foreløpig ingen allment akseptert standard for om en agent skal bruke identiteten til personen som startet den, eller ha sin egen identitet. Siden agenter opererer i maskinhastighet, kreves det bedre synlighet og logging for å forstå hvorfor beslutninger tas.

For å møte kundenes behov for synlighet i hele prosessen, har F5 foretatt flere oppkjøp. I september 2025 kjøpte selskapet CalypsoAI for 180 millioner dollar. I juni 2026 kjøpte de Surepath AI, et selskap spesialisert på deteksjon av skjult kunstig intelligens, og lanserte F5 AI Security Platform. Disse tiltakene skal hjelpe bedrifter med å overvåke eksterne tjenester, kontrollere generert innhold og håndtere trafikk for å styre kostnader og ytelse.