Start Dienstleistungen Künstliche Intelligenz birgt hohe Sicherheitsrisiken

Künstliche Intelligenz birgt hohe Sicherheitsrisiken

Die wachsende Nachfrage nach Künstlicher Intelligenz belegt das IT-Geschäft. Angesichts der damit einhergehenden Risiken fordert die Branche mehr Klarheit in Sachen Regulierung sowie einen Versicherungsschutz gehen Haftungsansprüche.

Künstliche Intelligenz
Quelle: ©NicoElNino | istockphoto.com

Bei deutschen IT-Dienstleistern ist Künstliche Intelligenz etabliert: Sie nutzen die Technologie nicht nur intern, sondern bieten zunehmend intelligente Lösungen für ihre Kunden an. Das zeigt die aktuelle Hiscox IT-Umfrage 2025. Trotz voller Auftragsbücher dämpfen jedoch Unsicherheiten rund um Datensicherheit, rechtliche Rahmenbedingungen und Versicherungsschutz die Aufbruchstimmung. IT-Profis sehen Handlungsbedarf – und fordern mehr Sicherheit und Orientierung in einem dynamischen Marktumfeld.

Das Marktforschungsunternehmen Statista hat im Auftrag des Spezialversicherers Hiscox im September 2025 insgesamt 200 Entscheider bei IT-Dienstleistern befragt zu ihrer aktuellen Lage, der Wahrnehmung unternehmerischer Risiken sowie dem Einfluss von Künstlicher Intelligenz. Die Interviewpartner bekleiden Positionen mit Entscheidungskompetenz und können Aussagen darüber treffen, mit welchen Risiken sie in ihrem Geschäft konfrontiert sind.

Künstliche Intelligenz bei IT-Dienstleistern treibt das Geschäft

77 Prozent der befragten IT-Dienstleister nutzen Künstliche Intelligenz fast immer oder häufig. Das ist ein Anstieg gegenüber dem Vorjahr (71 Prozent). Lediglich 6 Prozent geben an, dass sie intelligente Software selten bis nie einsetzen. Vor allem größere Unternehmen setzen verstärkt auf diese Technologie während kleinere Betriebe noch etwas zögerlicher sind.

Das Geschäft rund um Künstliche Intelligenz bei IT-Dienstleistern wächst rasant: Bereits 57 Prozent der Unternehmen bieten Dienstleistungen rund um diese Technologie an (2024: 46 Prozent). Drei von vier Befragten erwarten einen weiteren Anstieg der Aufträge – insbesondere beim Entwickeln von Anwendungen und bei strategischer Beratung. Weitere Geschäftsfelder sind Software-Design (65 Prozent), IT-Support / Back-Office-Dienstleistungen (64 Prozent), IT-Engineering (61 Prozent) sowie IT-Beratung, -Projektmanagement und -Dienstleistungen (55 Prozent).


Anzeige | Fachartikel

Artikel
Wie Künstliche Intelligenz Geschäftsprozesse neu definiert
KI und Business Software
Autor: Dr. Karsten Sontow und Dr. Volker Liestmann, Trovarit AG
Erschienen: 2025-01-21
Dateigröße: 307,85 KB
Schlagworte: Business Software, ERP, KI-Lösungen, Künstliche Intelligenz
Künstliche Intelligenz (KI) hat sich vom Zukunftsversprechen zur treibenden Kraft der digitalen Transformation entwickelt. In Business-Software – von ERP- und CRM-Systemen bis zu spezialisierten Anwendungen – optimiert KI nicht nur Prozesse, sondern schafft auch völlig neue Möglichkeiten. Angesichts steigender Datenmengen, komplexer Anforderungen und dem Wunsch nach mehr Effizienz und Personalisierung wird klar: Unternehmen, die KI gezielt einsetzen, verschaffen sich einen entscheidenden Wettbewerbsvorteil.
Download

Fehler und Datenmissbrauch sind möglich

Trotz der großen Akzeptanz bleibt der Umgang mit Künstlicher Intelligenz eine Herausforderung: 92 Prozent der Befragten betrachten Künstliche Intelligenz als eine Technologie, die die Arbeit erleichtert, aber 46 Prozent sehen darin auch ein Sicherheitsrisiko. Weitere 37 Prozent positionieren sich kritisch, da die erzielten Ergebnisse oft von niedriger Qualität seien. 61 Prozent der IT-Dienstleister fürchten eigene Schäden durch den Einsatz von Künstlicher Intelligenz, 60 Prozent befürchten auch Risiken beim Bereitstellen intelligenter Lösungen für Kunden.

Die größten Risiken im Zusammenhang mit Künstlicher Intelligenz erwarten IT-Profis aktuell bei einem möglichen Datenmissbrauch (55 Prozent), Datenschutzverletzungen (42 Prozent), Verletzungen geistiger Eigentumsrechte (36 Prozent) und der allgemeinen Fehleranfälligkeit der Technologie (36 Prozent).

Auch die unklare Rechtslage wird als Problem wahrgenommen: 84 Prozent der Befragten fordern eine klarere Regulierung der Nutzung intelligenter Systeme. 71 Prozent nehmen auch bei ihren Auftraggebern Unsicherheit wahr, was den Umgang mit Künstlicher Intelligenz in Hinblick auf „erlaubte Nutzung“ und Rechtsnormen betrifft. 53 Prozent der IT-Dienstleister geben eigene Unsicherheiten an, was den Einsatz von Künstlicher Intelligenz hinsichtlich der richtigen Vorgehensweise und regulatorischen Anforderungen betrifft.

Unternehmen haben Angst vor Schadenersatz

Künstliche Intelligenz bei IT-DienstleisternAuch mögliche Forderungen nach Schadenersatz schüren die Unsicherheit. So nehmen die Forderungen der Auftraggeber wegen vermeintlicher Schlechtleistungen spürbar zu. Lediglich ein Viertel der Unternehmen blieb im vergangenen Jahr davon verschont. 55 Prozent der IT-Dienstleister gaben an, dass sie häufiger als früher mit solchen Forderungen konfrontiert werden.

Ein weiteres Thema im Zusammenhang mit Künstlicher Intelligenz sind Cyberangriffe. 64 Prozent der deutschen Unternehmen waren in den letzten zwölf Monaten Ziel von mindestens einem bis zu zehn Attacken, drei Prozent berichten sogar von mehr als zehn Attacken. Lediglich ein Drittel blieb verschont beziehungsweise bemerkte keine Angriffsversuche. Die Angriffsvektoren sind vielfältig: 81 Prozent nennen die eigene Unternehmensinfrastruktur – von Servern über Cloud-Systeme bis hin zu mobilen Geräten und IoT-Anlagen – als häufigstes Einfallstor. Auch Angriffe über Zulieferer, Cloud-Server oder kompromittierte E-Mails spielen eine Rolle.

„Mit dem breiten Einsatz Künstlicher Intelligenz bei IT-Dienstleistern gehen komplexe Risiken einher“, betont Marc Thamm, Product Head Technology & General Liability bei Hiscox. „Fehler in KI-Systemen, Datenschutzverstöße oder Haftungsfragen können schnell zu erheblichen Schäden führen.“ Nicht nur IT-Dienstleister wünschen sich daher eine erweiterte Haftpflichtversicherung. 85 Prozent der Befragten ist beim Abschluss einer Versicherung wichtig, dass eindeutig geregelt ist, in welchem Umfang die Nutzung von Künstlicher Intelligenz sowie mögliche Schäden durch KI-basierte, selbst durch die IT-Dienstleister erbrachte Lösungen und Dienstleistungen abgedeckt ist. „Hiscox hat die Risiken Künstlicher Intelligenz explizit in die IT-Haftpflicht aufgenommen“, erläutert Thamm. „Nur wenn Unternehmen wissen, dass sie im Ernstfall abgesichert sind, können sie das Potenzial dieser Technologie ausschöpfen.“ Jürgen Frisch