KI ist längst nicht mehr nur Sache der IT, die Verantwortung liegt aber weiterhin bei CIOs. 41 Prozent der deutschen CIOs nennen unklare Zuständigkeiten zwischen IT und Fachbereichen als größtes Hindernis für einen verantwortungsvollen KI-Einsatz. In keinem der acht untersuchten Länder ist der Anteil höher, weltweit liegt er bei 34 Prozent. Das zeigt eine aktuelle Umfrage von Dataiku unter 685 CIOs in acht Ländern. Für Deutschland wurden 75 CIOs aus Großunternehmen mit einem Jahresumsatz von mindestens 500 Millionen US-Dollar beziehungsweise dem regionalen Äquivalent befragt. Damit wird die Governance von KI-Agenten zunehmend zu einer gemeinsamen organisatorischen Aufgabe zwischen IT, Fachbereichen und Compliance.
Viele Entwickler, unklare Verantwortung
Die Herausforderung wächst, weil die Entwicklung von KI-Agenten längst nicht mehr ausschließlich Aufgabe der IT ist. 81 Prozent der deutschen CIOs sagen, dass Beschäftigte Agenten und KI-Anwendungen schneller entwickeln, als sie die IT steuern kann. Weltweit sind es 84 Prozent. Den Menschen, die diese Agenten bauen, wird in Deutschland mehrheitlich vertraut: 72 Prozent der deutschen CIOs glauben, dass auch nicht-technische Teams KI mit den im Unternehmen bereitgestellten Tools sicher entwickeln können. Weltweit sind es 82 Prozent.
Bei der Frage, wer dafür verantwortlich ist, wenn ein Agent eine falsche Entscheidung trifft, sind sich deutsche CIOs allerdings uneins. 27 Prozent sehen die Verantwortung bei mehreren Teams, 23 Prozent bei der IT, 19 Prozent bei AI Teams und 17 Prozent bei Compliance. Bei nur acht Prozent sind die Prozess-Besitzer in der Pflicht und bei sieben Prozent ist der Prozess nicht klar definiert. Auch weltweit sind die Werte ähnlich verteilt.
„Die Branche hat den CIOs Autonomie versprochen und dabei vergessen, die Kehrseite der Medaille zu erwähnen: Autonome Systeme müssen verwaltet und nicht nur überwacht werden“, erklärt Florian Douetteau, Mitbegründer und CEO von Dataiku. „Das Monitoring zeigt, dass ein Agent läuft. Die Verwaltung zeigt, ob er auch weiterlaufen sollte – und derzeit kann fast niemand einem Agenten kündigen. Eine zuverlässige Kontrolle ist heute der Schlüssel zu maximaler und wiederholbarer KI-Leistung.“
Governance von KI-Agenten: Kontrolle mit Lücken
Die Governance von KI-Agenten steht dabei vor einem Balanceakt zwischen Tempo, Kontrolle und Nachvollziehbarkeit. Bei der Nutzung formaler Governance-Modelle liegt Deutschland im Vergleich der acht untersuchten Märkte weit vorne. Rund ein Drittel (32 Prozent) der deutschen CIOs setzt auf eine fragmentierte, Tool-bezogene Governance, während fast die Hälfte (47 Prozent) eine zentrale Governance bevorzugt. Beide Werte gehören im Vergleich zu den höchsten. Auf manuelle Prozesse wie Tickets setzen nur 16 Prozent der deutschen CIOs, weltweit liegt der Wert bei 23 Prozent.
Darüber hinaus zeigt die Umfrage eine auffällige Diskrepanz beim tatsächlichen Überblick über die Agentenlandschaft: Weltweit geben 91 Prozent der CIOs an, einen vollständigen Überblick über Agenten zu haben. 81 Prozent räumen jedoch zugleich ein, dass sie Agenten, die außerhalb kontrollierter Systeme erstellt wurden, nicht vollständig identifizieren und nachverfolgen können.
Auch beim Nachweis gegenüber Aufsichtsbehörden zeigt sich eine Lücke: Nur 28 Prozent der deutschen CIOs sind sich sicher, dass sie morgen Behörden einen vollständigen Prüfpfad vorlegen könnten. In Großbritannien sind es zum Vergleich 49 Prozent, weltweit 34 Prozent.
Die fehlende Übersicht hat auch im Alltag Folgen. 47 Prozent der CIOs weltweit haben in diesem Jahr bereits mehr als 20 Agenten in ihren Unternehmen wieder außer Betrieb genommen, in Deutschland sind es 45 Prozent. Macht ein Agent Probleme, ist schnelles Eingreifen die Ausnahme. 57 Prozent weltweit schätzen, dass sie 24 Stunden oder länger bräuchten, um ihn zuverlässig aufzuspüren und einzudämmen. In Deutschland sind es 55 Prozent. Zum Vergleich: Lediglich zehn Prozent geben weltweit an, es in ein bis zwei Stunden schaffen zu können, in Deutschland sind es zwölf Prozent.
