Das rasante Wachstum Künstlicher Intelligenz überfordert die bisherige Governance. Führungskräfte ringen um eine Balance zwischen Innovation, Verantwortung und Ethik. Laut einer Marktstudie droht ohne entschlossenes Handeln eine Verantwortungslücke.
Governance in der Künstlichen Intelligenz: „Die Begeisterung für Künstliche Intelligenz steigt. Unsere Studie zeigt allerdings, dass Innovation ohne Verantwortung ein Risiko birgt. Unternehmen brauchen in der Führungsetage Strategien für die passende Governance, um die Verantwortungslücke zu schließen, bevor der Fortschritt ins Stocken gerät und das Vertrauen schwindet“, erklärt Abhijit Dubey, Chief Executive Officer beim IT-Dienstleister NTT DATA, Inc.
Wie der Report „The AI Responsibility Gap: Why Leadership is the Missing Link“ von NTT DATA zeigt, räumen mehr als 80 Prozent der Führungskräfte ein, dass die Governance und die Fähigkeiten der Mitarbeiter in den Unternehmen nicht mit den Fortschritten der Künstlichen Intelligenz mithalten. Jigsaw Research hatte im Auftrag von NTT DATA Ende September und Anfang Oktober 2024 über 2.300 Führungskräfte aus Unternehmen in 34 Ländern befragt, darunter Nordamerika, Europa, Asien-Pazifik, Lateinamerika, dem Nahen Osten und Afrika. 98 Prozent der Teilnehmer haben direkte Entscheidungsbefugnis oder Einfluss auf GenAI-Kaufentscheidungen. Die vertretenen Branchen sind Banken und Investment (11 Prozent), Versicherungen (9 Prozent), Fertigung (14 Prozent), Automobilindustrie (8 Prozent), Logistik, Reisen und Transport (5 Prozent), Telekommunikation, Medien und Technologie (9 Prozent), Gesundheitswesen (9 Prozent), Biowissenschaften und Pharmazeutik (9 Prozent), Einzelhandel und Verbrauchsgüter (5 Prozent), öffentlicher Sektor (8 Prozent), Energie- und Versorgungsunternehmen (7 Prozent) sowie Hochschulen und Forschung (6 Prozent).
Innovation und Ethik sollten ein Tandem sein
Insgesamt zeigt die Studie den dringenden Bedarf für einem führungsgesteuertes Mandat, das Innovationen rund um Künstliche Intelligenz mit ethischer Verantwortung in Einklang bringt. Über Schwächen berichten die Befragten in fünf Feldern:
- Innovation versus Verantwortung als Konflikt
Geht es um das Abwägen zwischen Innovation und Verantwortung, sind die Meinungen in der Führungsetage gespalten. Während ein Drittel der Befragten der Meinung ist, dass Verantwortung wichtiger ist als Innovation, gibt ein weiteres Drittel der Innovation den Vorzug vor Sicherheit. Das verbleibende Drittel bewertet beide Aspekte als gleich wichtig.
- Unklare Vorschriften hemmen das Wachstum
Mehr als 80 Prozent der Führungskräfte geben an, dass unklare staatliche Vorschriften Investitionen und die Implementierung von KI behindern, was deren Einführung verzögert.
- Sicherheit und Ethik hinken hinterher
89 Prozent der befragten Führungskräfte sorgen sich über Sicherheitsrisiken in intelligenten Anwendungen. Allerdings glauben lediglich 24 Prozent der befragten Chief Information Security Officer, dass ihr Unternehmen über solide Richtlinien verfügt, um bei Künstlicher Intelligenz Risiken und Wertschöpfung in Einklang zu bringen.
- In der Belegschaft fehlen Kenntnisse
67 Prozent der Führungskräfte geben an, dass ihre Mitarbeiter nicht über die nötigen Fähigkeiten verfügen, um Künstliche Intelligenz effektiv einzusetzen. Gleichzeitig räumen 72 Prozent ein, dass sie keine Richtlinien für den verantwortungsvollen Einsatz dieser Technologie aufgestellt haben.
- Energiebedarf kontra Nachhaltigkeit
75 Prozent der Führungskräfte geben an, dass ihre Ziele in Sachen Künstlicher Intelligenz mit den Nachhaltigkeitszielen kollidieren. Das zwingt die Unternehmen dazu, energieintensive Lösungen Künstlicher Intelligenz zu überdenken.
Das Management muss Verantwortung zeigen
Ohne entschlossenes Handeln riskieren Unternehmen eine Zukunft, in der sich Künstliche Intelligenz schneller entwickelt, als die Governance nachkommen kann – jene Governance, die für den ethischen, sicheren und effektiven Umgang mit dieser Technologie erforderlich ist. Um dieser Herausforderung zu begegnen, sollten Führungskräfte laut NTT DATA die folgenden vier Aspekte berücksichtigen:
- Responsible by Design
Künstliche Intelligenz muss durchgängig und von Grund auf verantwortungsvoll entwickelt werden. Sicherheit, Compliance und Transparenz müssen von Anfang an in die Entwicklung einbezogen werden.
- Governance-Imperativ
Führungskräfte müssen über die gesetzlichen Anforderungen hinausgehen und die ethischen und sozialen Standards der Künstlichen Intelligenz mit einem systematischen Ansatz erfüllen.
- Mitarbeiter einbeziehen
Unternehmen müssen ihre Mitarbeiter für die Arbeit mit Künstlicher Intelligenz qualifizieren. So stellen sie sicher, dass Teams die Chancen und Risiken von dieser Technologie verstehen.
- Globale Zusammenarbeit bei der Regulierung
Unternehmen und Regulierungsbehörden müssen zusammenarbeiten, um klare und in der Praxis umsetzbare Rahmenwerke für die KI-Governance zu schaffen und globale KI-Standards festzulegen.
„Der Einfluss Künstlicher Intelligenz wird zunehmen“, prognostiziert NTT-DATA-CEO Abhijit Dubey. „Ohne eine entschlossene Führung riskieren wir, dass die Innovation die Governance überholt. Das wiederum führt zu Sicherheitslücken, ethischen Grauzonen und verpassten Chancen.“ Um das zu verhindern, sollten Unternehmen so schnell wie möglich handeln: „Wenn wir beim Umgang mit Künstlicher Intelligenz Verantwortung durch Design, klare Governance, Mitarbeiterbereitschaft und ethische Rahmenbedingungen sicherstellen, können wir das Potenzial dieser Technologie so ausschöpfen, dass sowohl Unternehmen als auch die Gesellschaft gleichermaßen profitieren.“ Jürgen Frisch
