Das Marketing schreibt KI-Agenten gerne magische Kräfte zu: Sie handeln völlig autonom und regeln alles selbst. Die Realität sieht jedoch etwas anders aus. Wer autonome KI-Agenten nicht an die Kette legt, erntet keine Magie, sondern entfacht Horror. Agenten, die ohne Steuerung und klare Rahmenbedingungen agieren, können Chaos anrichten und beträchtlichen Schaden verursachen.
Warum autonome KI-Agenten nicht magisch sind
„Schon kleine Unterschiede in den Eingaben können dazu führen, dass agentenbasierte KI in vergleichbaren Fällen zu unterschiedlichen Entscheidungen kommt – und dadurch Kunden ungleich behandelt“, erklärt Michael Baldauf von Pegasystems. „Wenn KI-Agenten völlig autonom handeln, kann es außerdem passieren, dass sie Aktionen doppelt ausführen, widersprüchliche Mitteilungen an Kunden senden oder gesetzliche Vorgaben verletzen, indem sie sensible Daten weitergeben.“
Wenn Prozesse aus dem Ruder laufen
Zudem besteht die Gefahr, dass sie Prozesse immer in einer unterschiedlichen Reihenfolge durchlaufen und dabei nicht jedes Mal alle erforderlichen Schritte ausführen. Auch ein Orchestrierungs-Agent kann das nicht ausgleichen, da die Ursachen an der Basis liegen. Diese Prozessvariabilität ist insbesondere in regulierten Branchen wie dem Finanzwesen hochproblematisch, wo umfangreiche Prüf- und Dokumentationspflichten exakt einzuhalten sind. Aufsichtsbehörden werden kaum Verständnis dafür aufbringen, dass die Kreditprozesse einer Bank jedes Mal anders ablaufen und Compliance-Prüfungen nur manchmal stattfinden.
