Sieben Praktiken für die Verwaltung autonomer Systeme in Unternehmen
27. Oktober 2026 · 3 Min. Lesezeit
Ein Dozent an der Dom Cabral Foundation und bei XP Educação hat sieben empfohlene Vorgehensweisen für Unternehmen zusammengestellt, die bereits künstliche Intelligenz einsetzen. Diese Empfehlungen zielen darauf ab, die Verwaltung der Technologie zu strukturieren und die Verantwortung klar zu definieren.
Die Dringlichkeit dieser Maßnahmen wird durch eine Prognose der Gartner untermauert, die im Mai 2026 veröffentlicht wurde. Demnach werden voraussichtlich vierzig Prozent der Unternehmen bis zum Jahr 2027 die Autonomie ihrer autonomen Systeme reduzieren oder diese deaktivieren. Der Grund sind Lücken in der Verwaltung, die erst nach Vorfällen in der Produktion erkannt wurden. Der Experte betont, dass proaktives Handeln vor dem Auftreten von Problemen der effizienteste Weg ist. Verwaltung sei im Bereich der künstlichen Intelligenz das, was Skalierung und Geschwindigkeit der Projekte garantiere.
Die erste empfohlene Praxis besteht darin, den Einsatz zu kartieren und genehmigte Werkzeuge bereitzustellen. Unternehmen sollten identifizieren, welche Tools im Umlauf sind, und eine sichere Umgebung schaffen, in der Mitarbeiter ihre Erfahrungen ohne Angst vor Bestrafung melden können. Auf dieser Grundlage bewertet die Organisation, was genehmigt wird, und bietet offiziellen Alternativen an. Die Nichtbereitstellung von Werkzeugen für die Fachbereiche sichere laut dem Experten, dass Schattenkünstliche Intelligenz entstehen wird.
Zweitens sollten Unternehmen eine Kette für Qualifizierung und Kultur aufbauen. Bevor der Einsatz freigegeben wird, müssen die Menschen vorbereitet werden. Dies umfasst Schulungen, Zertifizierungen, Verträge über die Verantwortung und regelmäßige Nachschulungen alle sechs Monate oder ein Jahr. Die Mitarbeiter müssen die Risiken des Einsatzes verstehen. Der Experte warnt zudem, dass ein Mitarbeiter mit hohem Risiko der motivierte Inkompetente sei.
Drittens gilt es, Richtlinien zu definieren und die Verwaltung bereits bei der Konzeption anzuwenden. Die Politik legt die Grenzen fest, das Manifest erklärt die Ziele der Einführung und der Verhaltenskodex steuert den Alltag. Bei Projekten mit sensiblen Entscheidungen, wie der Kreditanalyse, muss die Rechtsabteilung von Anfang an beteiligt sein. Es ist notwendig, die Entwicklungsstufen zu respektieren, um zu vermeiden, dass Probleme auf den Betrieb übertragen werden.
Viertens müssen die Systeme registriert und menschliche Verantwortliche benannt werden. Jedes System benötigt eine definierte Aufgabe, eine eigene Identität und einen benannten menschlichen Verantwortlichen. Das Unternehmen muss ein Inventar darüber führen, was jedes System tut, was es nicht tun darf und wie es interagiert. Die Rolle des Chief AI Officer hilft, dieses Modell zu koordinieren. Die Aufgabe bestehe nicht darin, alle Systeme zu kontrollieren, sondern das Kontrollmodell in jedem Bereich zu replizieren.
Fünftens empfiehlt es sich, ein zugängliches Cockpit für die Verwaltung zu unterhalten. Dieses Panel sollte für die Mitarbeiter offen sein und die genehmigten Werkzeuge, die Systeme in Produktion, deren Verantwortliche, die geltende Politik und die verfügbaren Schulungen zusammenfassen. Für die Führungskraft bündelt das Panel auch Kosten und Warnungen. Es reiche nicht aus, Verwaltung zu betreiben, man müsse auch zeigen, dass sie stattfindet.
Sechstens sollten Ergebnisse gemessen werden. Jedes System benötigt ein oder zwei Kennzahlen, die zeigen, ob die Aufgabe korrekt abgeschlossen wurde, mit welcher Zeit und welchen Ressourcen, ob der Kunde gut bedient wurde und ob die Grenzen eingehalten wurden. Diese Kennzahlen leiten, ob das System erweitert, angepasst oder abgeschaltet werden soll. Ein System ohne Kennzahl sei ein Kostenpunkt ohne Ertrag.
Siebtens müssen die Systeme geschützt und die Kosten für den Schutz eingeplant werden. Das Unternehmen sollte den Tokenverbrauch, die ausgehenden Informationen und ungewöhnliche Warnungen wie Prompt Injection überwachen. Dabei handelt es sich um versteckte Anweisungen in E-Mails oder Dokumenten, die vom System als Befehle gelesen werden. Das Budget muss die Schutzmechanismen, sogenannte Guardrails, berücksichtigen. Der Schutz von künstlicher Intelligenz sei nicht kostenlos, ein Guardrail benötige einen Posten im Budget.