Deutsche Unternehmen haben ihre Governance für Künstliche Intelligenz (KI) im vergangenen Jahr stark erweitert. Das zeigt der Data and AI Impact Report: The New Economics of Trust, den SAS auf Basis einer IDC-Befragung veröffentlicht hat. Der Trustworthiness-Index für Deutschland, der den Anteil der vertrauenswürdigen KI-Systeme bei Unternehmen ermittelt, stieg um 8,1 Punkte auf 59,1 Punkte – und liegt damit nur 2,2 Punkte unter dem globalen Durchschnitt von 61,3 Punkten. Der Haken dabei: Gleichzeitig sank das wahrgenommene Vertrauen der Mitarbeiter um 7,3 Punkte auf 69,5 Punkte. Die Kluft zwischen dem, was KI verspricht, und dem, was sie nachweislich zuverlässig leistet, hat sich dadurch mehr als halbiert – von ehemals 25,8 auf 10,4 Punkte.
Für den Report hatten die Marktbeobachter von IDC weltweit rund 2.700 Entscheider in 28 Ländern befragt, die im Unternehmen mit Daten- und KI-Initiativen zu tun haben. Jede Organisation wurde anhand von fünf Kriterien bezüglich Trustworthy AI bewertet: Datenqualität und Governance, Model Governance und Kontrolle, Erklärbarkeit und Fairness, Richtlinien für verantwortungsvolle KI, Auditierbarkeit und Verantwortlichkeit.
Anwender lehnen KI-Ergebnisse wegen mangelnder Nachvollziehbarkeit ab
Trotz verbesserter Governance-Strukturen wächst die Skepsis auf Anwenderseite. Weltweit geben 97,2 Prozent der Befragten an, zumindest einen Teil der KI-Empfehlungen zu überstimmen oder zu verwerfen. In Deutschland ist mangelnde Erklärbarkeit mit 32,2 Prozent der häufigste Grund dafür. Dahinter folgen qualitativ schlechter oder faktisch falscher Output (25,4 Prozent) sowie verzerrte oder unfaire Ergebnisse (19,5 Prozent). Erklärbarkeit und Datenqualität sind damit insgesamt der Grund für mehr als die Hälfte aller Ablehnungen.
In Deutschland setzt aktuell bereits fast jedes zweite befragte Unternehmen (45,5 Prozent) Agentic AI ein – also KI-Systeme, die eigenständig Aufgaben übernehmen. Das liegt deutlich über dem internationalen Durchschnitt. 89 Prozent der weltweit eingesetzten KI-Agenten agieren heute selbstständig, mehr als die Hälfte davon mit wenig oder keiner menschlichen Kontrolle. Diese Systeme genießen deutlich weniger Vertrauen als Generative AI (also Chat GPT und Co.): 66 Prozent gegenüber 76 Prozent.
Die Modellpflege legt zu – die Datenbasis bleibt schwach
Der stärkste Zuwachs im Jahresvergleich entfällt auf Model Governance: plus 12,6 Punkte auf 55,8 Punkte. Der EU AI Act dürfte zu dieser Entwicklung beigetragen haben, der Modelldokumentation, Risikoklassifizierung und Lifecycle-Kontrollen verbindlich vorschreibt. Deutschland ist hier in Europa führend: 66,3 Prozent der Unternehmen haben ein entsprechendes Regelwerk eingeführt – mehr als in allen anderen EU-Staaten.
Die Datenbasis hält mit dieser Entwicklung allerdings nicht Schritt. Nur jedes sechste befragte Unternehmen aus Deutschland (16,3 Prozent) gibt an, dass Datenqualitätsprozesse für jedes Projekt verpflichtend vorgegeben sind. Bei 28,5 Prozent existieren zwar Richtlinien für Responsible AI, aber die Befragten sind unsicher, ob diese auch eingehalten werden. Das Bewusstsein für diese Defizite ist gestiegen: 65,9 Prozent der deutschen Unternehmen nennen Datenqualität als zentrale Anforderung, nach 29,2 Prozent im Vorjahr.
