Bedrijven moeten wennen aan onzekerheid bij implementatie van kunstmatige intelligentie

Organisaties implementeren steeds meer modellen en applicaties voor kunstmatige intelligentie, terwijl zij nog steeds leren hoe zij de bijbehorende risico's moeten beoordelen.

Leiders in dit proces begonnen doorgaans met interne toepassingen met een relatief laag risico, zoals het opstellen van functiebeschrijvingen of de eerste analyse van curriculum vitae. Daarna verplaatsten zij de technologie naar complexere taken, waaronder financiële analyses, alvorens klantgerichte toepassingen te introduceren. Deze klantinteracties evolueerden van eenvoudige ondersteuning naar steeds complexere processen.

Sommige bedrijven stappen nu over van applicaties die vragen beantwoorden naar agenten die toegang hebben tot diverse systemen van de organisatie en acties kunnen uitvoeren. Autonome agenten die ook toegang hebben tot systemen van derden en contact hebben met klanten, blijven in grote ondernemingen echter eerder een plan dan een algemene praktijk.

Beveiliging op deze verschillende fasen vereist verschillende benaderingen. Applicaties moeten worden beschermd tegen aanvallen, datalekken moeten worden voorkomen en antwoorden moeten worden gecontroleerd. Een model kan namelijk een antwoord geven dat onjuist is vanuit het perspectief van het bedrijf, de klanten of de geldende regels, zelfs zonder dat het model is aangevallen. Daarnaast is het gebruik van externe hulpmiddelen door werknemers een risico, aangezien een beleidsdocument niet volstaat als er per ongeluk gevoelige gegevens in een tool worden geplakt.

Uit het rapport 2026 State of Application Strategy van F5 blijkt dat organisaties gemiddeld zeven modellen voor kunstmatige intelligentie gebruiken. Bijna 90 procent van deze organisaties meldt ten minste één operationele uitdaging of een uitdaging op het gebied van beveiliging. Volgens Donnchadh Casey, vicepresident AI Security bij F5, zijn dit waarschijnlijk alleen de organisaties die zich bewust zijn van hun problemen.

De overgang naar agenten verandert het beveiligingsmodel ingrijpend. Bedrijven hebben hun toegangssystemen gebouwd rond de identiteit van mensen, maar er is nog geen algemeen aanvaarde standaard of de agent moet werken met de identiteit van de mens die hem activeert of een eigen identiteit moet hebben. Bovendien kunnen agenten beslissingen nemen op machinese snelheid, waardoor inzicht, registratie en analyse van acties noodzakelijk worden.

Om de behoefte aan zichtbaarheid op het hele proces van kunstmatige intelligentie te vervullen, heeft F5 in september 2025 CalypsoAI overgenomen voor 180 miljoen dollar. In juni 2026 kocht het bedrijf Surepath AI, een specialist in het detecteren van schaduw AI, en lanceerde het de F5 AI Security Platform.