---
title: Panellisten benadrukken stille fouten, engineering van harnessen en governance van agents
url: https://www.elseif.net/nl/panellisten-benadrukken-stille-fouten-engineering-van-harnessen-en-governance-van-agents
published: 2026-10-19T14:17:25+00:00
language: nl
section: Agents
source: https://www.infoq.com/news/2026/10/ai-systems-production/?utm_campaign=infoq_content&utm_source=infoq&utm_medium=feed&utm_term=global
organizations: ThoughtWorks, InfoQ, Model Context Protocol, GitSpawn
publisher: elseif
---

# Panellisten benadrukken stille fouten, engineering van harnessen en governance van agents

Tijdens een recente webinar met de titel "AI in Productie: Wat breekt, wat werkt en wie keurt het goed?" bespraken een panel senior ingenieurs de operationele uitdagingen van het implementeren van agentic systemen. De sessie werd georganiseerd door Hien Luu en omvatte Zichuan Xiong en Prem Chandrasekaran van ThoughtWorks, privacy-expert Katharine Jarmul, en financieel AI-practitioner Lan Chu.

Luu benadrukte drie kernpunten: AI faalt anders dan traditionele software door overtuigende onjuistheden te produceren in plaats van crashen; coding agents genereren productieve code sneller dan mensen kunnen controleren; en gevoelige gegevens kunnen via prompts, contextvensters en opgehaalde documenten lekken.

Xiong beschreef het veelvoorkomende probleem van "semantische drift" in LLM-pijpleidingen. Hij legde uit hoe tekst-naar-SQL vertalers vaak domeinspecifieke concepten platdrukken, zoals het behandelen van "lid" identiek in zowel verkoop- als klantenservice-domeinen, wat leidt tot subtiele fouten in bedrijfsanalyses die standaard monitoring ontwijken.

Chu benadrukte een kritieke fout veroorzaakt door "embedding drift" in financiële compliance-systemen. Na het implementeren van een agent die verboden investeringsadvies blokkeert op basis van vector-ähnlichkeit, veranderde een onverwachte update van de onderliggende embedding-model de vectordistributie. Dit veroorzaakte een piek in false positives en false negatives in live verkeer, terwijl alle infrastructuurgezondheidscontroles volkomen groen bleven.

Chandrasekaran merkte op dat RAG-pijpleidingen per ongeluk gevoelige documenten kunnen ophalen, terwijl Jarmul stelde dat modellen inherent trainingsgegevens memoriseren en kunnen worden gebruikt om anonimiteit te doorbreken of API-sleutels bloot te leggen. Hij wees ook op de GitSpawn-vulnerability, waarbij malicieuze repository-configuraties ongeautoriseerde code kunnen uitvoeren tijdens routinematige commando’s.

Met de groeiende hoeveelheid code die door coding assistants wordt gegenereerd, raken traditionele menselijke code reviews onhoudbaar. Chandrasekaran pleitte voor het automatiseren van tactische stijl- en syntaxiscontroles binnen CI/CD-pijpleidingen, waarbij menselijke toezicht alleen gericht blijft op architectuur, bedrijfsdoelstellingen en niet-functionele eisen.

Xiong stelde dat teams links moeten verschuiven om intentie-evaluatie op harness-niveau te doen voordat pull requests worden aangemaakt. Hij benadrukte ook de terugkeer van mutatie-testen als essentiële praktijk om te controleren of geautomatiseerde test suites daadwerkelijk logica evalueren of alleen oppervlakkige codecoverage meten.

Chu benadrukte dat evaluaties van agentic systemen als permanente, levende infrastructuur moeten worden benaderd, niet als statische pre-release checklists. Continue online tracing op span-niveau en log-filtering zijn noodzakelijk om falenpatronen te categoriseren en productie-gebruikscases terug te koppelen aan offline benchmark suites.

Jarmul waarschuwde tegen het vertrouwen op prompt engineering als enige verdediging. Ze pleitte voor systematisch red teaming, continue bedreigingsmodellering, strikte functionele grenzen voor autonome agents en uitgebreide observabiliteit om grotere eventvolumes te verwerken.

Chandrasekaran adviseerde organisaties om elk AI-agent als een nieuwe ingenieur te behandelen. Dit omvat unieke niet-menselijke identiteiten, tiered access controls die lees-only operaties scheiden van omkeerbare schrijfacties, versiebeheer van derde partij MCP-afhankelijkheden en strikte isolatie van API-sleutels buiten de runtime-omgeving.

Ultimate beslisvalie over implementatie blijft een strategische bedrijfsbeslissing, zelfs wanneer engineering, security en privacy teams veiligheidsmaatregelen valideren.