---
title: Paneler lyfter fram tysta fel och harnes-ingenjörskap i AI-produktion
url: https://www.elseif.net/sv/paneler-lyfter-fram-tysta-fel-och-harnes-ingenjorskap-i-ai-produktion
published: 2026-10-19T14:19:12+00:00
language: sv
section: Agenter
source: https://www.infoq.com/news/2026/10/ai-systems-production/?utm_campaign=infoq_content&utm_source=infoq&utm_medium=feed&utm_term=global
organizations: ThoughtWorks, InfoQ, Model Context Protocol
publisher: elseif
---

# Paneler lyfter fram tysta fel och harnes-ingenjörskap i AI-produktion

Under en nyligen hållen InfoQ-webbsändning om AI i produktion diskuterade seniora ingenjörer de operativa utmaningarna med att distribuera agentiska system. Panelen inkluderade Zichuan Xiong och Prem Chandrasekaran från ThoughtWorks, privathetsexperten Katharine Jarmul och finansiell AI-praktiker Lan Chu, med Hien Luu som moderator.

Luu inledde med att lyfta tre grundläggande drivkrafter: AI fungerar annorlunda än traditionell programvara genom att skapa övertygande felaktigheter istället för att krascha; kodningsagenter skapar produktionkod snabbare än människor hinner granska; och känslig data har nya läckvägar genom promptar, kontextfönster och hämtade dokument.

Xiong belyste det omfattande problemet med "semantisk drift" i LLM-pipelines. Han beskrev hur text-till-SQL-översättningsagenter ofta plattar ner domänspecifika begrepp, till exempel att behandla "medlem" identiskt inom försäljning och kundsupport, vilket leder till dolda fel i efterföljande affärsanalys som passerar standardspårning.

Chu berättade om ett kritiskt fel orsakat av "embedding drift" i finansiella efterlevnadssystem. Efter att ha distribuerat en agent för att blockera olagliga rådgivningar baserade på vektordistansgränser, ändrade en obekant bakgrundsuppdatering av den underliggande embedding-modellen vektordistributionsmönstret. Detta orsakade svåra falska positiv och falska negativ-spikar i direkt trafik samtidigt som all infrastrukturs hälsokontroll förblev helt grön.

Chandrasekaran påpekade hur RAG-pipelines oavsiktligt kan hämta känsliga dokument, medan Jarmul noterat att modeller i arvtagare minnes träningsdata och kan användas för att avanonymisera information eller exponera API-nycklar. Chandrasekaran hänvisade också till GitSpawn-sårbarheten, som visar hur skadliga repositories-konfigurationer kan köra obehörig kod under rutinkommandon.

Medan kodningsassistenter genererar allt större volymer produktionkod, står konventionella mänskliga kodgranskningprocesser inför oacceptabla flaskhalsar. Chandrasekaran, tech och business services lead vid ThoughtWorks, betonade att rad-granskningsgranskningar inte kan skala tillsammans med höghastighets agentutgångar. Istället måste ingenjörsteam automatisera taktiska stil- och syntaxkontroller inom CI/CD-pipelines, och reservera mänskligt översyn strikt för högre arkitektur, affärsintekt och icke-funktionella krav.

Xiong tillade att team måste flytta vänster för att utvärdera intention på harnes-nivå innan pull requests genereras. Chandrasekaran lyfte också återkommande mutation testing som en väsentlig praxis. Genom att introducera medvetna kodmutationer kan team verifiera om automatiserade testuppsättningar verkligen utvärderar underliggande logik eller bara uppfyller ytliga kodtäckningsmått.

När man utvärderar agentiska system betonade Chu att evals måste behandlas som bestående, levande infrastruktur snarare än statiska för-release-kontroller. Effektiv utvärdering kräver kontinuerlig online-spårning på spans-nivå, loggfiltrering och att använda LLMs för att kategorisera felmönster, vilket gör att team kan föda produktionskantsituationer tillbaka till offline benchmark-samlingar.

För att adressera integritet och säkerhetsrisker varnade Jarmul för att lita på prompt-engineering för systemskydd. Hon förespråkade systematisk red teaming, kontinuerlig hotmodellering, strikta funktionella portar för autonoma agenter och skalbar observabilitet för att hantera utökade händelsevolymer. För att begränsa det potentiella skadliga området för autonoma agenters handlingar rådde Chandrasekaran att behandla varje AI-agent som en ny ingenjörs anställning.

Organisationer bör tilldela agenter distinkta icke-mänskliga identiteter, implementera stegvisa åtkomstkontroller som skiljer läsåtgärder från omvändbara skrivåtgärder, versioniera tredje parts Model Context Protocol (MCP)-beroenden och strikt isolera API-hemligheter utanför agentens körningssmiljö i sandlådor. Till slut, medan ingenjörs-, säkerhets- och integritetsteam måste validera säkerhetsväggar, förblir godkännande av distribution ett strategiskt affärsbeslut.