Generative Künstliche Intelligenz wollen viele Unternehmen einführen – und zwar am besten sofort. Unüberlegte Schnellschüsse sind hier jedoch fehl am Platz. Bevor man in KI-Projekte investiert, sollte man sich mit den folgenden fünf Fragen auseinandersetzen.
CatGPT & Co bergen ein gewaltiges Potenzial für Organisationen aller Branchen. Darum überrascht es nicht, dass Unternehmen damit so schnell wie möglich loslegen wollen. Ein undurchdachtes „einfach mal drauf los“ ist allerdings keine gute Idee, denn dabei droht generative Künstliche Intelligenz zu einem teuren und unter Umständen sogar gefährlichen Abenteuer zu werden. Die Verantwortlichen sollten sich daher fünf Fragen stellen, bevor sie in entsprechende Projekte investieren, empfiehlt der Search-Engine-Spezialist IntraFind.
1. Was wollen wir erreichen?
Zunächst müssen sich Unternehmen im Klaren darüber sein, welchen konkreten Nutzen sie aus generativer Künstlicher Intelligenz ziehen möchten. Deshalb sollten sie Anwendungsfälle identifizieren, definieren, priorisieren und vor allem verproben, um aus den dabei gesammelten Erfahrungen eine Gesamtstrategie ableiten zu können. Zu den möglichen Use Cases zählen beileibe nicht nur die populären Chatbot-Anwendungen. Generative Künstliche Intelligenz kann auch Informationen aus verschiedenen und umfangreichen Dokumenten zusammenfassen, als digitaler Assistent im First-Level-Kundensupport zum Einsatz kommen oder bestimmte Daten aus Dateien extrahieren.
2. Welches Sprachmodell passt am besten?
Abhängig vom Anwendungsfall sollten Unternehmen das am besten passende Sprachmodell auswählen. Neben den bekannten proprietären Modellen wie GPT von OpenAI oder auch Luminous des deutschen Anbieters Aleph Alpha existieren leistungsfähige quelloffene Lösungen aus der Open-Source-Community. Die Sprachmodelle unterscheiden sich hinsichtlich der Modellgröße und der so genannten Kontextgröße, die bestimmt, wieviel Text ein Modell auf einmal sichten kann. Diese Faktoren haben Auswirkungen auf die Qualität, Kosten und Performance einer Anwendung auf Basis generativer Künstlicher Intelligenz.
3. Wie sieht das ideale Betriebsmodell aus?
Ein wichtiger Aspekt bei der Implementierung von generativer Künstlicher Intelligenz ist der Datenschutz. Im sensiblen Behördenumfeld oder wenn die Anwendungen geistiges Eigentum oder persönliche Informationen nach den Bestimmungen des Datenschutzes verarbeiten, kann es aus Compliance-Gründen erforderlich sein, diese Anwendungen im hauseigenen Rechenzentrum zu betreiben. Dabei haben Unternehmen den Schutz ihrer Daten unter eigener Kontrolle und senken zudem die Gefahr des Vendor Lock-in. Sie müssen allerdings die nötige IT-Infrastruktur selbst aufbauen und betreiben. Beim Betriebsmodell Software as a Service lassen sich bislang die Kosten nur schwer kalkulieren. Viele große Serviceanbieter rechnen momentan nach einem komplizierten Token-basierten Verfahren ab, das sich an der Anzahl der Wörter in den Fragen und Antworten orientiert.
Anzeige | Trovarit-Academy
Webinarreihe „KI konkret“ – Praxisnahe Use Cases
In vielen Unternehmen herrscht immer noch große Unsicherheit bei der Frage, ob und wie KI nutzbringend für die eigenen Prozesse eingesetzt werden kann.
Die Webinarreihe „KI konkret“ stellt in mehreren Terminen Use Cases vor, bei denen reale Herausforderungen in unterschiedlichen Unternehmensbereichen durch den Einsatz von KI gelöst werden konnten.
Zu den Aufzeichnungen der Webinar-Reihe KI konkret
4. Wie integrieren wir unsere Daten?
Die meisten Anwendungsfälle erfordern es, Sprachmodelle mit seinen eigenen Daten anzureichern. Eine Möglichkeit dafür ist, die Modelle mit diesen Daten zu trainieren. Dabei besteht allerdings das den Sprachmodellen inhärente Risiko von Halluzinationen. Außerdem müssen die Modelle regelmäßig aufwändig trainiert werden, um up to date zu bleiben. Eine alternative Möglichkeit nennt sich ‚Retrieval Augmented Generation‘. Es geht hierbei um die Kombination von generativer Künstlicher Intelligenz mit Enterprise Search. Retrieval-Systeme der Enterprise Search durchsuchen bei Anfragen die organisationseigenen Daten nach relevanten Informationen und liefern die Ergebnisse dem Sprachmodell, das daraus seine Antwort erstellt. Dadurch basieren die Antworten immer auf aktuellen Informationen und das Risiko für Halluzinationen sinkt deutlich. Zudem berücksichtigt die Enterprise Search automatisch die Zugriffsrechte auf die Unternehmensdaten. Mitarbeiter oder Kunden erhalten in ihren Antworten nur Informationen, für die sie auch berechtigt sind. Dieser Sicherheitsaspekt wird in vielen Projekten mit Künstlicher Intelligenz übersehen.
5. Wie lösen wir Datensilos auf?
Stehen den intelligenten Anwendungen nur lückenhafte Daten zur Verfügung. produzieren sie unvollständige und fehlerhafte Antworten. Unternehmen müssen deshalb einen Weg finden, die Informationen aus Datensilos nutzbar zu machen. Eine gute Möglichkeit dazu bietet ihnen Enterprise Search. Diese Lösungen lassen sich über Konnektoren an strukturierte oder unstrukturierte Datenquellen anbinden und führen sie in einem zentralen Suchindex zusammen. So bekommen Anwendungen auf Basis generativer Künstlicher Intelligenz eine ganzheitliche und valide Datenbasis, mit der sie Antworten generieren.
Für generative Künstliche Intelligenz brauchen Unternehmen eine ausgefeilte Strategie“, erklärt IntraFind-Vorstand Franz Kögl. „Die Verantwortlichen kennen ihre Prozesse und können deshalb selbst am besten ausloten, von welchen Anwendungsfällen sie am meisten profitieren. Erfahrene Experten und Dienstleister helfen ihnen dabei, die geeigneten Modelle und Betriebsoptionen auszuwählen, ihre Daten zu integrieren und passgenaue Lösungen zu implementieren.“ Jürgen Frisch
