Experten diskutieren Herausforderungen bei der Bereitstellung agentischer Systeme in der Produktion
19. Oktober 2026 · 2 Min. Lesezeit
Auch veröffentlicht auf Türkçe, Polski, Português (Brasil), Nederlands, Svenska
In einem Webinar wurden die betrieblichen Herausforderungen beim Einsatz agentischer Systeme analysiert. Eine Gruppe von erfahrenen Ingenieuren erörterte dabei insbesondere das Problem stiller Ausfälle, die technische Infrastruktur sowie die Governance von Agenten.
Ein zentraler Punkt der Diskussion waren Fehler, die sich von traditioneller Software unterscheiden, da sie überzeugende Ungenauigkeiten erzeugen, anstatt abzustürzen. Zichuan Xiong wies auf den semantischen Drift in Pipelines für große Sprachmodelle hin. Dies trete auf, wenn Agenten für die Übersetzung von Text in SQL domänenspezifische Konzepte vereinfachen, was zu versteckten Fehlern in Geschäftsanalysen führe. Lan Chu berichtete von einem kritischen Fehler durch Embedding-Drift in Finanzsystemen, bei dem ein Hintergrundupdate eines Modells die Vektordistribution änderte und so Fehlalarme auslöste, während die Infrastrukturprüfungen weiterhin positiv blieben.
Im Bereich der Sicherheit wurden Risiken durch die unbeabsichtigte Abfrage sensibler Dokumente in RAG-Pipelines sowie die Gefahr der Deanonymisierung von Informationen durch das Gedächtnis von Modellen thematisiert. Prem Chandrasekaran verwies zudem auf die GitSpawn-Schwachstelle, bei der bösartige Konfigurationen von Repositories nicht autorisierten Code ausführen können.
Da Coding-Agenten Code schneller produzieren, als Menschen ihn prüfen können, forderte Chandrasekaran eine Automatisierung von Stil- und Syntaxprüfungen in CI/CD-Pipelines. Menschliche Überprüfungen sollten sich auf Architektur und Geschäftsabsichten beschränken. Xiong ergänzte, dass die Bewertung der Absicht auf der Ebene des Harness erfolgen müsse, bevor Pull-Requests erstellt werden. Zudem wurde Mutationstesting als Methode genannt, um die Logik automatisierter Testsuites zu verifizieren.
Für die Bewertung agentischer Systeme plädierte Chu dafür, Evaluierungen als dauerhafte Infrastruktur zu betrachten. Dies erfordere kontinuierliches Online-Tracing auf Span-Ebene und die Nutzung von Sprachmodellen zur Kategorisierung von Fehlermustern.
Zur Risikominimierung empfahl Katharine Jarmul systematisches Red Teaming und kontinuierliche Bedrohungsmodellierung anstelle von reinem Prompt Engineering. Chandrasekaran schlug vor, jedem KI-Agenten eine eigene nicht-menschliche Identität zuzuweisen und abgestufte Zugriffskontrollen einzuführen. Zudem sollten Abhängigkeiten des Model Context Protocol versioniert und API-Geheimnisse in Sandboxes isoliert werden. Die endgültige Genehmigung für die Bereitstellung bleibe eine strategische Geschäftsentscheidung.