---
title: AGIMA stellt Karte der Autonomie für KI-Agenten vor
url: https://www.elseif.net/de/agima-stellt-karte-der-autonomie-fur-ki-agenten-vor
published: 2026-10-19T08:07:26+00:00
language: de
section: Agenten
source: https://habr.com/ru/companies/agima/articles/1094596/?utm_campaign=1094596&utm_source=habrahabr&utm_medium=rss
organizations: AGIMA
publisher: elseif
---

# AGIMA stellt Karte der Autonomie für KI-Agenten vor

Die Firma AGIMA hat ein internes Modell zur Bestimmung der Handlungsgrenzen von KI-Agenten in Arbeitsprozessen vorgestellt. Das Ziel dieses Ansatzes ist es, festzulegen, welche Aktionen ein Agent ohne menschliche Eingriffe ausführen darf und in welchen Situationen weiterhin ein Mensch erforderlich ist. Das Unternehmen entwickelt KI-Agenten und integriert diese in bestehende betriebliche Abläufe. Der Fokus liegt dabei nicht auf der Intelligenz des Modells, sondern auf den spezifischen Vollmachten, die einem System eingeräumt werden.

Ein zentrales Problem bei der Einführung von KI-Agenten besteht darin, dass die Diskussion über die Qualität der Antworten oft die Frage nach den Systemrechten verdrängt. Ein Beispiel hierfür ist die Bearbeitung einer Zahlungsrückerstattung. Ein Agent kann eine Anfrage lesen, eine Bestellung finden und eine Erstattung vorschlagen. Je nachdem, ob ein Mensch das Vorschlag prüft, ob der Agent automatisch einen Antrag erstellt oder ob er direkt eine Anweisung an den Zahlungsdienstleister sendet, unterscheidet sich das Risiko erheblich, obwohl das zugrunde liegende Modell identisch ist. Daher ist die Frage nach der Intelligenz des Agenten für die Sicherheitsbewertung weniger relevant als die Frage nach den erlaubten Handlungen, der Toleranz für Fehler und der Möglichkeit, Ergebnisse rückgängig zu machen.

Das vorgestellte Modell teilt die Autonomie in vier Stufen ein, die sich auf konkrete Handlungen und Objekte beziehen, nicht auf das Produkt als Ganzes. In der Stufe A0 trifft ein Mensch die Entscheidung und führt die Handlung aus. Die KI dient nur als Referenzwerkzeug. Dies ist sinnvoll, wenn Prozesse noch nicht beschrieben sind oder die Kosten für Fehler hoch sind. In der Stufe A1 erstellt die KI einen Entwurf oder eine Klassifizierung, die ein Mensch bestätigen muss. Dabei ist zu klären, was der Prüfer sieht und wie viel Zeit er hat, um sicherzustellen, dass die Bestätigung nicht zu einem automatischen Klick wird.

In der Stufe A2 führt der Agent eine begrenzte Handlung aus, während ein Mensch das Ergebnis kontrolliert. Vor der Ausführung prüft der Code die Berechtigungen und Geschäftsregeln. Nach der Ausführung wird das tatsächliche Ergebnis gespeichert. Ein Beispiel ist die Erstellung eines Tickets, bei dem die KI die Struktur vorschlägt, aber der Code die Projekt-ID und Schreibrechte validiert. Bei Zeitüberschreitungen muss der tatsächliche Zustand abgefragt werden, um Duplikate zu vermeiden. In der Stufe A3 handelt der Agent eigenständig innerhalb einer vorab definierten Politik. Der Mensch legt Budgets, verbotene Klassen und Stoppbedingungen fest. Die Kontrolle erfolgt über Metriken und Stichproben. Diese Stufe eignet sich für gut begrenzte, wiederkehrende Handlungen mit beobachtbarem Zustand, nicht für die komplexesten Aufgaben.

Der Wechsel auf eine höhere Stufe sollte nicht anhand einer einzigen Metrik erfolgen. Eine Genauigkeit von 90 Prozent sagt nichts über die Kosten der verbleibenden 10 Prozent aus. Vor einer Eskalation müssen vier Prüfsteine durchlaufen werden. Der Wechsel ist eine eigenständige Entscheidung des Prozessverantwortlichen und kein Nebenprodukt einer erfolgreichen Demonstration.