---
title: Veel organisaties gebruiken kunstmatige intelligentie agenten maar missen zicht op de werking
url: https://www.elseif.net/nl/veel-organisaties-gebruiken-kunstmatige-intelligentie-agenten-maar-missen-zicht-op-de-werking
published: 2026-10-22T15:26:55+00:00
language: nl
section: Agents
source: https://www.computing.es/inteligencia-artificial/no-se-puede-gobernar-una-ia-que-no-se-puede-ver/
organizations: Veeam
publisher: elseif
---

# Veel organisaties gebruiken kunstmatige intelligentie agenten maar missen zicht op de werking

Een groot deel van de organisaties maakt gebruik van of test momenteel agenten van kunstmatige intelligentie, maar een kleine minderheid vertrouwt op het vermogen om systemen te detecteren die buiten de goedgekeurde parameters werken.

Onderzoek wijst uit dat 88 procent van de organisaties deze agenten inzet of probeert. Slechts 28 procent van deze organisaties heeft echter vertrouwen in hun eigen capaciteit om systemen van kunstmatige intelligentie op te sporen die niet volgens de vastgestelde regels opereren. Er is een groeiende kloof tussen de vermeende controle en het werkelijke zicht op de processen.

Het verkrijgen van dit zicht wordt moeilijker omdat kunstmatige intelligentie verschuift van het geven van aanbevelingen naar het autonoom uitvoeren van acties in zakelijke systemen. Agenten kunnen nu gegevens raadplegen en beslissingen nemen met beperkte menselijke tussenkomst. Hoewel een persoon de implementatie van een agent kan goedkeuren, betekent dit niet dat elke actie die de agent in productie uitvoert, zichtbaar is.

De snelheid en schaal waarmee kunstmatige intelligentie een productieomgeving kan wijzigen, vormen een nieuw risico. Een actie in één systeem kan records of machtigingen elders aanpassen. Tegen de tijd dat een mens merkt dat er iets misgaat, kan de oorspronkelijke actie al naar andere systemen zijn verspreid. Menselijke goedkeuring aan het begin van een proces is daarom onvoldoende als een organisatie achteraf niet kan reconstrueren wat er is gebeurd.

Dit probleem vertoont gelijkenissen met de vroege adoptie van clouddiensten en software als een dienst, waarbij infrastructuurteams applicaties pas ontdekten als ze al in productie waren. Het verschil is dat kunstmatige intelligentie actief interacteert met andere workloads en gegevens op een snelheid die mensen niet zelfstandig kunnen beheren of detecteren.

Effectief bestuur vereist inzicht in waar de kunstmatige intelligentie opereert, welke gegevens het gebruikt, welke machtigingen het heeft en wie verantwoordelijk is voor de resultaten. Omdat werknemers vaak ongeautoriseerde tools blijven gebruiken om hun werk te vergemakkelijken, is het blokkeren van kunstmatige intelligentie onhaalbaar. Het doel is om de systemen zichtbaar en veilig genoeg te maken voor gebruik.

Kunstmatige intelligentie moet worden onderworpen aan dezelfde operationele discipline als productiesoftware, inclusief testen voor implementatie, controle van toegangen, registratie van wijzigingen en documentatie van afhankelijkheden. Modellen en agenten moeten worden gevalideerd met geschikte datasets voordat ze wijzigingen in echte omgevingen mogen aanbrengen.

Bij fouten verandert de definitie van veerkracht. Een agent kan duizenden bestanden wijzigen of records aanpassen terwijl het systeem online blijft. Herstel vereist daarom een bewijsketen die de agent, de acties, de interacties met gegevens en de resulterende wijzigingen verbindt, zodat alleen de getroffen delen hersteld hoeven te worden.