Vertrauen in KI beginnt mit Transparenz

Jürgen Frisch

Chatbots und intelligente Telefonsysteme finden gerade den Weg in die Praxis. Der europäische AI Act setzt Leitplanken für diese Technologie. Eine klare Kennzeichnung und ein fairer Umgang schaffen Transparenz und Vertrauen in derartige Systeme.

Künstliche Intelligenz zieht nach und nach in Unternehmen ein. Die Systeme formulieren Texte, sortieren Anfragen, analysieren Daten und unterstützen Mitarbeiter im Tagesgeschäft. Viele Verantwortliche fragen sich, was die Technik eigentlich darf und wo die rechtliche Grauzone beginnt. Die Antwort fällt weniger dramatisch aus, als manche Schlagzeile vermuten lässt, weiß Florian Horbach, Geschäftsführer der Zeeg GmbH und Experte für Telefonsysteme auf Basis Künstlicher Intelligenz (KI). „Der europäische AI Act verlangt einen bewussten und transparenten Umgang mit Künstlicher Intelligenz. Wer offenlegt, wie und wo derartige Systeme zum Einsatz kommen, der schafft Orientierung und damit Vertrauen.“

Transparenz statt Versteckspiel

Seit Anfang August gelten die Transparenzpflichten aus Artikel 50 des AI Act. Unternehmen müssen nun Menschen in bestimmten Fällen darauf hinweisen, wenn sie direkt mit einem KI-System interagieren. Das betrifft beispielsweise Chatbots, digitale Assistenten oder automatisierte Kundenservices wie KI-Telefonie. Ein solcher Hinweis braucht keine juristische Abhandlung, wie Horbach erläutert. „Ein klarer Hinweis reicht: Sie sprechen mit einem KI-gestützten Assistenten.“ Anschließend sollte eine einfache Möglichkeit zur Unterstützung folgen.

Diese gesetzlich geforderte Offenheit schütze nicht nur vor Missverständnissen, sondern könne zudem das Verhältnis zwischen Unternehmen und Kunden verbessern: „Wer künstliche Intelligenz verständlich erklärt, der signalisiert Verantwortung. Kunden erhalten eine Wahl und können besser einschätzen, welche Antworten sie von einem System erwarten dürfen.“

5 Leitfragen für eine Bestandsaufnahme

Nicht jede Anwendung verlangt denselben Aufwand. Der AI Act unterscheidet nach dem möglichen Risiko eines Systems. „Eine Anwendung, die Texte zusammenfasst oder interne Abläufe erleichtert, bringt andere Anforderungen mit als eine KI, die über Bewerbungen, Kredite oder den Zugang zu wichtigen Leistungen entscheidet“, verdeutlicht Horbach die Regelung. Für Unternehmen empfiehlt der Experte zunächst eine einfache Bestandsaufnahme anhand der folgenden Kategorien:

Wo kommt KI bereits zum Einsatz?
Welche Aufgaben übernimmt sie?
Welche Informationen verarbeitet sie?
Wer trägt die Verantwortung für die Ergebnisse?
Wo braucht es weiterhin menschliche Prüfung?

Diese Fragen führen schnell aus der abstrakten Gesetzesdebatte in die betriebliche Praxis. Zugleich helfen sie, Zuständigkeiten zu klären. Denn KI nimmt Unternehmen die Verantwortung nicht ab. Sie liefert Vorschläge, bearbeitet Informationen oder übernimmt Routinen. Die Entscheidung über den Umgang mit den Ergebnissen bleibt stets beim Menschen.

Vertiefung

Compliance in KI-Projekten

Welche regulatorischen, technischen und organisatorischen Anforderungen müssen Unternehmen beim Einsatz von KI berücksichtigen? Peter Treutlein und Dr. Karsten Sontow von der Trovarit AG zeigen im Webinar, wie sich KI-Anwendungsfälle systematisch einordnen und daraus passende Leitplanken für Infrastruktur, Sourcing und Governance ableiten lassen.

Telefonroboter entlasten den Service

Ein möglicher Anwendungsfall liegt in der Telefonie. KI-gestützte Assistenten nehmen Gespräche an, beantworten Standardfragen und koordinieren Termine. An dieser Stelle zählt Transparenz besonders: „Eine Stimme wirkt schnell menschlich, auch wenn im Hintergrund ein System arbeitet. Schon ein kurzer Hinweis zu Beginn schafft Klarheit.“ Ebenso wichtig bleibe eine gute Übergabe an Mitarbeiter, sobald das Anliegen komplizierter oder persönlicher wird oder eine individuelle Einschätzung erfordert: „Insgesamt kann KI-Telefonie den Kundenservice vor allem bei Routineaufgaben entlasten.“

Das Label ‚Made in Germany‘ kann zwar ein zusätzlicher Vertrauensanker für Systeme sein, allerdings ersetzt es laut Horbach allein keine Prüfung. „Unternehmen sollten genau hinschauen, wo die Daten liegen und wer sie verarbeitet.“ Wichtig seien zudem die Kontrollmöglichkeiten sowie der Wechsel zu einem menschlichen Ansprechpartner, wenn der Anrufer dies wünscht oder es die Situation erfordert.

Kennzeichnungspflicht für KI-Inhalte

Die Transparenzregeln betreffen nicht nur Gespräche. Auch künstlich erzeugte oder veränderte Bilder, Videos und Audiodateien müssen klar gekennzeichnet werden. Das gilt insbesondere dann, wenn Inhalte den Eindruck echter Aufnahmen oder authentischer Aussagen vermitteln.

„Eine interne Arbeitshilfe mit KI-Unterstützung fällt nicht automatisch in dieselbe Kategorie wie ein öffentlich verbreiteter Beitrag“, ordnet Horbach die Bestimmungen ein. „Entscheidend bleiben Einsatz, Inhalt und Wirkung.“ Wer Informationen für die Öffentlichkeit erstellt, der sollte deshalb prüfen, ob ein Hinweis auf die KI-Bearbeitung nötig ist.

Verantwortungsvolle Innovation als Chance

Angesichts der raschen Entwicklung Künstlicher Intelligenz setzt der AI Act Leitplanken für den Einsatz dieser Technologie. Für Unternehmen entsteht daraus laut Horbach eine Chance. Sie können frühzeitig klare Regeln schaffen, Mitarbeiter sensibilisieren und ihren Kunden zeigen, dass Innovation und Verantwortung zusammenpassen.

Dafür brauche es weder komplizierte Kontrollsysteme noch große Versprechen. Oft genügen ein transparenter Hinweis, nachvollziehbare Zuständigkeiten und ein Mensch, der bei Bedarf eingreift. „Vertrauen entsteht nicht dadurch, dass Unternehmen Künstliche Intelligenz unsichtbar machen“, erläutert Horbach. „Es wächst vielmehr dann, wenn eindeutig klar wird, wo die Technik unterstützt und wo weiterhin der Mensch entscheidet.“

Der Autor

Jürgen Frisch

Jürgen Frisch ist seit mehr als als 20 Jahren als Journalist in der IT-Branche unterwegs. Derzeit betreibt er ein eigenes Redaktionsbüro in Stuttgart und arbeitet als freier Mitarbeiter für die Redaktion der IT-Matchmaker.news. Vorher schrieb er unter anderem für die IT-Fachzeitschriften Computer Zeitung, is report und Digital – die Zeitschrift für die Informationsgesellschaft.