Wo steckt KI drin? KI-Transparenz beginnt in der eigenen Software-Landschaft

Ein mittelständischer Maschinenbauer spielt das Update seines CRM-Systems ein. In den Release Notes steht, dass die Software künftig Antworten auf Kundenanfragen vorschlägt und neue Kontakte automatisch bewertet. Ein KI-Projekt hat dafür niemand gestartet, die Funktion kam mit der neuen Version. So halten KI-Funktionen in vielen Unternehmen Einzug: nebenbei, und oft ohne dass jemand im Haus genau weiß, wo sie gerade arbeiten. Nicht jede dieser Funktionen löst automatisch eine Transparenzpflicht gegenüber Kunden aus. Sie zeigt aber ein grundsätzliches Problem: Unternehmen müssen zunächst wissen, an welchen Stellen KI bereits in ihre Prozesse eingebunden ist. Denn wer seinen Kunden erklären will, wie KI eingesetzt wird, muss zuerst die eigene Software-Landschaft verstehen.

KI-Transparenz: Was seit August gilt

Mit Artikel 50 des AI Act sind die Transparenzpflichten in Kraft getreten. Der Kern: Wer mit einem KI-System interagiert, soll das erkennen können, es sei denn, es ist ohnehin offensichtlich. Das betrifft vor allem Chatbots und virtuelle Assistenten, daneben aber auch weitere Fälle wie bestimmte KI-erzeugte Inhalte.

Die viel diskutierte Verschiebung durch den Digital Omnibus hat vor allem die Hochrisiko-Regeln getroffen. Die Transparenzpflichten gelten seit August. Nur für die maschinenlesbare Kennzeichnung synthetischer Inhalte bei bereits am Markt befindlichen Systemen gibt es eine Übergangsfrist bis Dezember. Bei Verstößen reicht der Bußgeldrahmen bis 15 Millionen Euro oder drei Prozent des weltweiten Jahresumsatzes.

Nicht jeder KI-Einsatz löst dieselben Pflichten aus. Entscheidend sind Anwendungsfall und Rolle. Wer eine KI-Funktion aus einer Standardsoftware nutzt, ist in der Regel Betreiber. Wer eigene KI-Anwendungen baut oder unter eigenem Namen anbietet, kann zum Anbieter werden. Diese Einordnung sollte man nicht dem Zufall überlassen.

Vertrauen entsteht an der Schnittstelle zum Kunden

Bisher haben viele Unternehmen KI als Technikthema behandelt: Welches Modell, welche Schnittstelle, welche Kosten? Der Kunde sieht davon nichts. Er sieht eine Antwort, eine Einschätzung, eine Empfehlung.

Ich arbeite in der Lead-Generierung, und dort zeigt sich das sehr deutlich. Ein Interessent für eine erklärungsbedürftige Dienstleistung beantwortet online Fragen zu seiner Ausgangslage und erhält eine Auswertung. Er beschreibt dabei seine Ziele und oft auch die Schwachstellen seines Unternehmens. Solche Angaben macht niemand beiläufig. Ob er sie preisgibt, hängt davon ab, wie er die Situation einschätzt. Liest das ein Mensch? Erstellt eine Maschine die Empfehlung? Landet alles ungefragt im Vertriebssystem?

An dieser Stelle wird häufig zuerst an den Nutzen für das Unternehmen gedacht: mehr Informationen über einen potenziellen Kunden. Ich halte die umgekehrte Frage für wichtiger. Was erfährt dieser Mensch über seine eigene Situation, bevor er sich für ein Gespräch entscheidet?

Ein gutes interaktives Tool kann gezielt nachfragen, Antworten einordnen und offene Punkte sichtbar machen. Es muss dafür keine fertige Lösung behaupten. Eine erste Einschätzung, die dem Interessenten zeigt, worüber er als Nächstes nachdenken sollte, kann wertvoller sein als eine scheinbar präzise Empfehlung ohne ausreichende Grundlage.

Bleiben Zweck und Ablauf unklar, schreibt kaum jemand eine Beschwerde. Der Interessent bricht ab oder antwortet vorsichtshalber ungenau. Damit wird auch die Auswertung schlechter, die ihm eigentlich nützen sollte.

Drei Fragen, eine Erwartung: KI-Transparenz entsteht im Prozess

Nutzer wollen im Kern drei Dinge wissen: Wann ist KI beteiligt? Welche Angaben werden verarbeitet? Wozu? Der AI Act adressiert hier vor allem die Frage, ob KI beteiligt ist. Welche personenbezogenen Daten verarbeitet werden und zu welchem Zweck, richtet sich zusätzlich nach dem Datenschutzrecht, insbesondere der DSGVO. Für den Kunden ist das ein einziger Vorgang, und so sollte man ihn auch gestalten.

Der Unterschied zwischen formaler und wirksamer Transparenz lässt sich an zwei Formulierungen zeigen. Die erste steht im Footer: „Wir setzen zur Verbesserung unserer Services teilweise automatisierte Verfahren ein.“ Der Satz ist nicht falsch, aber er sagt niemandem etwas. Die zweite steht direkt über dem ersten Eingabefeld: „Ihre Auswertung erstellt eine KI auf Grundlage Ihrer Angaben. Wir nutzen diese Angaben, um Ihnen eine erste Einschätzung zu zeigen. Wenn Sie ein Gespräch wünschen, geben wir Ihre Antworten an die zuständige Person weiter.“ Das ist länger, nimmt aber die Unsicherheit heraus. Welche Formulierung richtig ist, hängt vom tatsächlichen Ablauf ab.

KI-Transparenz lässt sich deshalb nicht am Ende eines Projekts als Hinweistext ergänzen. Schon beim Aufbau des Prozesses muss feststehen, welche Fragen notwendig sind, wie aus den Antworten ein Ergebnis entsteht und wer diese Informationen später sehen darf.

Schreckt Offenheit ab?

Diese Sorge höre ich häufig, und ich teile sie nicht. Meine Erfahrung ist, dass nicht die KI selbst abschreckt, sondern das Gefühl, etwas nicht zu wissen. Menschen nutzen Assistenten längst im Alltag. Die Rückfrage, die ich in Projekten am häufigsten höre, lautet nicht „Muss das KI sein?“, sondern „Wer sieht das eigentlich?“. Steht die Antwort klar dabei, ist die Frage beantwortet, bevor sie zum Vorbehalt wird. Und ein Hinweis, der ehrlich sagt, wo die Maschine aufhört und der Mensch anfängt, macht ein Angebot eher glaubwürdiger.

Für das Unternehmen ist noch eine weitere Frage entscheidend: Was geschieht nach der Auswertung? Wenn ein Interessent einem Gespräch zustimmt, sollte die zuständige Person sein Anliegen und die Grenzen der automatisierten Einschätzung kennen. Muss er alles erneut erklären, war die digitale Interaktion vor allem für das CRM nützlich. Aus Kundensicht hat sie wenig verbessert.

Was Unternehmen jetzt konkret tun können

Für die Praxis sehe ich vier Schritte:

1. KI-Inventur: Wo ist KI in der Systemlandschaft bereits aktiv, etwa in CRM, Marketing-Automation, Service-Tools oder auf der Website? Gerade Updates schalten Funktionen still hinzu.

2. Rollen und Zuständigkeiten klären: Wer ist Anbieter, wer Betreiber? Und wer spielt den Hinweis eigentlich aus, der Hersteller oder das eigene Unternehmen? Bei Neuanschaffungen gehören diese Fragen ins Lastenheft: Wie werden KI-Funktionen gekennzeichnet, lassen sie sich abschalten, welche Daten gehen an externe Modelle?

3. Hinweise dort platzieren, wo die Interaktion stattfindet, in normaler Sprache und in Abstimmung mit dem Datenschutz. Wer eine individuelle Auswertung anbietet, sollte außerdem deutlich machen, ob sie eine erste Orientierung oder eine fachlich geprüfte Empfehlung ist.

4. Die Übergabe an Menschen regeln: Wann übernimmt ein Mitarbeiter, und kann er erklären, was die KI zuvor getan hat? Welche Antworten und Ergebnisse stehen ihm dafür zur Verfügung?