Intelligente Services können viele Unternehmen nicht allein entwickeln und betreiben. Ein Ausweg sind spezialisierte Dienstleister. Niels Pothmann und Andree Kupka von Arvato Systems, erläutern, wie sich mit Hilfe von Managed AI Services Projekte zum Erfolg führen lassen.
Applikationen auf Basis Künstlicher Intelligenz entlasten von repetitiven Aufgaben, beschleunigen Prozesse und erhöhen deren Effizienz. Die dazugehörigen Projekte verlaufen phasenweise. Zunächst ist zu analysieren, ob sich vorhandene Daten, Systeme und Prozesse für die Umsetzung des favorisierten Use Case eignen. Dann gilt es, die Anforderungen an den Prototyp zu definieren, ein Konzept zu erstellen, den besten Lösungsansatz zu entwickeln und den Prototyp in ein Minimum Viable Product zu überführen. Dank kontinuierlicher Funktions-, Last- und Integrationstests lassen sich die intelligenten Services stabil in die Betriebsumgebung integrieren und in Applikationen und Prozesse einbinden.
Im Produktivbetrieb scheitern viele Projekte mit Künstlicher Intelligenz (KI). Um das zu vermeiden, sind KI-Lösungen über ihren kompletten Lebenszyklus hinweg zu überwachen und bedarfsgerecht anzupassen. Die nachfolgenden Tipps helfen dabei, ein Projekt mit der Hilfe eines Dienstleisters zum Erfolg zu führen.
1. Eine professionelle Betreuung des KI-Services sicherstellen
Zunächst gilt es, zu beantworten, ob der KI-Service im eigenen Rechenzentrum oder bei einem Dienstleister oder in der Cloud laufen soll. Entscheidend ist es, den Service kontinuierlich zu überwachen und das Modell im Live-Betrieb immer wieder anzupassen. Ein Beispiel: Ein Anlagenbauer nutzt eine Applikation, die verschlissene Bauteile erkennt. Für einen funktionierenden KI-Service heißt das, das Videomaterial der Anlagenüberwachung zu sichten, ein Modell zu erstellen und die Algorithmen mit realen Daten so zu trainieren, dass sie Verschleißerscheinungen und Leckagen identifizieren. Kommt eine neue Anlage hinzu, muss das das Modell angepasst und der Algorithmus neu trainiert werden. Hierzu braucht es großes Know-how und viele Ressourcen. Nimmt das Unternehmen die Managed AI Services eines spezialisierten Dienstleisters in Anspruch, kümmern sich externe Data- und Analytics-Experten um Re-Training und Produktivstellung.
2. Ein interdisziplinäres Team einrichten
Idealerweise stellt der Dienstleister für den Kunden ein interdisziplinäres Team zusammen, das aus einem Data Scientist oder Machine Learning Engineer, Data Engineer oder Data Architect, Cloud Architect und DevOps Engineer besteht. Der Data Scientist überführt die Aufgabenstellung in automatisierte Verfahren, der Data Engineer erfasst und konsolidiert die benötigten Daten, der Cloud Architect richtet eine sichere, hochverfügbare IT-Infrastruktur ein, und der DevOps Engineer vermittelt zwischen Entwicklung und Betrieb.
3. Den intelligenten Service bedarfsgerecht anpassen.
Um einen KI-Service in den Produktivbetrieb zu überführen, muss das Team reibungslos zusammenarbeiten. Der Data Scientist experimentiert mit Testdaten und entwickelt einen Algorithmus. Der Data Engineer verbindet das trainierte Modell mit realen Betriebsdaten, und der DevOps Engineer begleitet die Produktivstellung. Im Produktivbetrieb erzeugt ein KI-Service eine Vielzahl an Daten. Darum ist zu prüfen, ob das Modell mit den generierten Daten weiterhin plausibel ist. Andernfalls ist es samt seiner Prozesse anzupassen. Hierfür muss der Data Scientist auf vorhandene Betriebsmodelle und -daten zugreifen. Um das angepasste Modell unter der Aufsicht des DevOps Engineers erneut in die Produktivumgebung einzubinden, muss der Algorithmus abermals trainiert und getestet werden. Weil sich äußere Umstände und Anforderungen schlagartig ändern können, sind flexible Reaktionen unverzichtbar. Da im Live-Betrieb Anpassungen im Trial-and-Error-Verfahren tabu sind, eignen sich dafür agile Methoden wie Continuous Integration, Continuous Delivery und Continuous Deployment.
4. Das Monitoring nicht vergessen
Um Anpassungsbedarf zu erkennen, empfiehlt es sich den KI-Service End-to-End zu monitoren – idealerweise rund um die Uhr. Der Dienstleister sollte hierfür individuelle Kennzahlen, Mess- und Schwellenwerte definieren und diese im Rahmen des IT-Servicemanagements in Standardprozesse einbinden. Durch Event- und Incident-Management-Prozesse stellt das Monitoring der Infrastruktur eine optimale Verfügbarkeit, Erreichbarkeit, Performance und Auslastung sicher. Die Überwachung der Applikationen erfolgt mittels regelmäßiger Abfragen. Das Monitoring ist sehr wichtig, um Anpassungen im Zweifel wieder zurücksetzen zu können. Trotz Voranalysen kann es nämlich passieren, dass sich ein KI-Service im realen Betrieb anders verhält als angenommen. Dann empfiehlt es sich, schnell wieder auf die Vorgänger-Version umzustellen.
5. Einen Vendor Lock-In vermeiden
Um eine maximale Flexibilität herzustellen, legt der Dienstleister das Modell so an, dass sich der daraus resultierende KI-Service problemlos auf eine andere Infrastruktur übertragen lässt: eine andere Cloud, eine On-Premises-Lösung in einem Rechenzentrum oder den Betrieb auf eigenen Servern. Das fertige Modell stellt der Dienstleister über eine Programmierschnittstelle bereit, dann betreibt, überwacht und betreut er den Service.
Wer mit einem professionellen Dienstleister zusammenarbeitet, sollte darauf achten, dass dieser Managed AI Services aus einer Hand bietet, großes Fachwissen hat und den Übergang von der Entwicklung in den Betrieb nahtlos gestaltet. So kann der Kunde sich auf den jeweiligen Use Case konzentrieren, relevante Prozesse beschleunigen und sein Business vorantreiben. jf
Die Autoren
Niels Pothmann (Links) ist Head of AI von Arvato Systems. 
Andree Kupka ist dort Machine Learning Engineer.
