1. Wer wählt den KI-Agenten für die jeweilige Aufgabe aus?
Nicht jeder KI-Agent eignet sich für jede Aufgabe, und nicht jede Aufgabe eignet sich für einen Agenten. Vor dem produktiven Einsatz muss feststehen, wer die Auswahl trifft und nach welchen Kriterien dies geschieht, etwa anhand des Risikos im Fehlerfall und der Frage, wie klar sich die Aufgabe überhaupt in nachvollziehbare Regeln fassen lässt.
2. Wer verantwortet die Einarbeitungsphase?
Autonomie wird nicht am ersten Tag gewährt, sie entsteht durch Vertrauen, das sich aufbaut – in der Praxis über zwei bis drei Monate. In dieser Zeit sind klar zugewiesene Verantwortungen und Personen notwendig, die die Ergebnisse des Agenten überprüfen, erwünschtes Verhalten verstärken und unerwünschtes durch entsprechendes Feedback eindämmen.
3. Wie wird der Fortschritt bewertet?
Ein Agent, der über Wochen unbeobachtet läuft, ist kein Fortschritt, sondern ein Kontrollverlust. Aussagekräftig sind Kennzahlen wie die Häufigkeit menschlicher Korrekturen, berechtigter Eskalationen und richtig getroffener Entscheidungen. Erst wenn diese Werte über einen längeren Zeitraum stabil bleiben, lässt sich der Entscheidungsspielraum guten Gewissens erweitern.
4. Ab wann ist eine menschliche Freigabe zwingend?
Nicht jede Entscheidung verdient gleich viel Spielraum. Eine Risikobewertung der Prozessschritte legt fest, welche Vorgänge grundsätzlich ein Mensch bestätigt, unabhängig davon, wie gut sich der Agent bislang bewährt hat, etwa ab einem bestimmten Auftragsvolumen, einer Entscheidungsreichweite oder aus rechtlichen Gründen. Human-in-the-Loop ist dabei kein Misstrauensvotum gegenüber der Technologie, sondern eine bewusste Entscheidung, wann und wo der Mensch die Kontrolle behält.
5. An wen eskaliert der Agent in unklaren Fällen?
Jeder Mitarbeiter weiß, an wen er sich wendet, wenn eine Situation außerhalb seines Verantwortungsbereichs liegt. Für Agenten gilt dasselbe. Allerdings vergessen viele Unternehmen, das vorab festzulegen. Ohne definierten Eskalationsweg bleiben unklare Fälle liegen oder der Agent trifft eine Entscheidung, für die er nicht vorgesehen war.
„Ein Governance-Rahmen für KI-Agenten ist kein Regelwerk, das Vertrauen ersetzt. Er ist die Voraussetzung dafür, dass Vertrauen überhaupt wachsen kann“, unterstreicht Sören Michl, Vice President AI Adoption bei IFS, Anbieter von Industrial AI und Cloud-Business-Software. „Wer die beschriebenen fünf Fragen vorab beantwortet, steuert die Geschwindigkeit der Autonomie bewusst und überlässt sie nicht dem Zufall. Genau das entscheidet am Ende darüber, wie viel Verantwortung ein Unternehmen seinen KI-Agenten guten Gewissens übertragen kann.“
