Künstliche Intelligenz hat den Netzwerkrand erreicht. Um zeitkritischen Daten den Umweg über die Cloud zu ersparen, bringen Edge-AI-Lösungen die analytischen Modelle direkt in die Anwendungen. Hier lauern Stolpersteine.
Viele Anwendungen am Rande des Netzwerks sind auf leistungsfähige Analytik und schelle Reaktionszeiten angewiesen – von Smart Homes über Angebote im Bereich Smart Security bis zu autonomen Fahrzeugen. Kommt es auf Millisekunden an, fällt die Wahl meistens auf eine Edge-AI-Architektur, die Rechenressourcen und Speicherkapazitäten direkt vor Ort bereitstellt. Diese Strategie ist allerdings kein Selbstläufer, Unternehmen sollten sich im Vorfeld der Herausforderungen von Edge AI bewusst werden. Die Wahl der passenden Datenbank ist hier wichtig, so Datenbank-Anbieter Couchbase.
1. Stolperstein: Die lokale Datenverwaltung
Edge-Geräte verfügen in der Regel über eine limitierte Rechenleistung und einen stark begrenzten Speicherplatz. Beides macht den Einsatz einer leichtgewichtigen Datenbank notwendig. In der Praxis haben sich NoSQL-Datenbanken (Not only SQL) bewährt, die sowohl Server- als auch Embedded-Versionen aus einer Hand anbieten und über ein flexibles Datenmodell verfügen.
2. Stolperstein: Die analytischen Modelle
Die meisten Large Language Models sind zu groß und benötigen zu viele Ressourcen, als dass ihr Einsatz am Edge sinnvoll wäre. Es gibt jedoch auch schlanke Modelle, die für die Ausführung auf mobilen Geräten im Internet der Dinge optimiert sind. Der Kompromiss besteht meist darin, dass kleinere Modelle weniger genau sind als ihre Cloud-basierten Pendants. Der Nutzen von Echtzeitperformance und die Sicherheit, die eine lokale Verarbeitung erreicht, sind diesen Kompromiss laut Couchbase allerdings wert.
3. Stolperstein: Konnektivität und Bandbreite
In Edge-Anwendungen in abgelegenen oder mobilen Umgebungen, kann die Netzwerkverbindung instabil oder die Bandbreite begrenzt sein. Edge-AI-Lösungen müssen daher in der Lage sein, ohne permanente Internetverbindung zu funktionieren und zudem die über das Netzwerk übertragene Datenmenge zu minimieren. Zudem sollten sie über Offline-First-Funktionen verfügen.
4. Stolperstein: Datenverkehr beim Abgleich
In einer verteilten Anwendung ist der Abgleich von Daten dringend erforderlich, um die Integrität zu wahren. Nur dann kann das gesamte App-Ökosystem auf Änderungen reagieren. Die Replikation aller Inhalte treibt allerdings den Datenverkehr in die Höhe und kann zu Schreibkonflikten führen. Die eingesetzte Datenbank sollte daher über die Fähigkeiten verfügen, nur ausgewählte Daten unabhängiger Datenbank-Cluster zu replizieren sowie Lese- und Schreibkonflikte selbstständig zu lösen.
„Edge AI kann als Architekturansatz Anwendungen schnell, sicher und intelligent machen – wenn Unternehmen ihn richtig umsetzen“, erläutert Gregor Bauer, Manager Solutions Engineering für Zentraleuropa bei Couchbase. „Die oberste Priorität hat die Wahl der Datenbank. Mit ihr steht und fällt die Leistungsfähigkeit von Künstlicher Intelligenz am Netzwerkrand.“ Jürgen Frisch