Edge Computing und künstliche Intelligenz

Infrastruktur für Deep Learning und Co.

Im Fahrwasser der vielen KI-Rollouts etabliert sich Edge Computing rasant. Bilderkennende KI-Verfahren ergeben etwa in der Qualitätssicherung einen so zuverlässigen ROI, dass viele Firmen nicht lange zögern. Was leisten die maschinennahen Datenstationen, welchen Nutzen bieten GPUs? Und warum motten Telkos sogar proprietäre Appliances ein?

 (Bild: ©Grispb/stock.adobe.com)
(Bild: ©Grispb/stock.adobe.com)

Schlecht entgratete Metallteile, Einschlüsse in Lackschichten, zu viel Schwund beim Sintern – jedes Fertigungsverfahren hat spezifische Qualitätsprobleme. Um Mängel zu erkennen, müssen Mitarbeitende am Ende der Produktion einen Blick auf das fertige Werkstück werfen. Digitaltechnik bis hin zu künstlicher Intelligenz (KI) kann diese Qualitätskontrollen unterstützen. Dafür werden heute neuronale Netze für Computer Vision (Bilderkennung) eingesetzt, um Genauigkeit und Geschwindigkeit der Abläufe zu steigern. Ein Merkmal dieser Verfahren ist ihre Lernfähigkeit. Während der Qualitätskontrollen entstehen zahlreiche Daten über die Werkstücke, die anschließend in die KI-Anwendung eingespeist und verarbeitet werden. Dadurch wird die Produktionsumgebung weiter optimiert, ein Lerneffekt tritt ein. Auch die Qualitätskontrolle selbst verbessert sich im Laufe der Zeit und kann zudem leichter an einen Wechsel der Bearbeitungstechnik oder neue Produkte angepasst werden.

KI-Training in der Cloud

Anders als herkömmliche Algorithmen benötigen KI-Verfahren meist eine Vielzahl an Rohdaten. Mit ihnen wird das neuronale Netz trainiert, sodass es beispielsweise typische Fehler in Werkstücken erkennen kann. Das Verfahren heißt Deep Learning, das in den meisten Fällen außerhalb der Industrie in der Cloud aufgelegt ist. Durch das Training mit den Rohdaten in der Cloud entsteht ein KI-Modell, das Echtzeitdaten aus der Fertigungsanlage auswerten kann. Dieses Modell ist meist schlank genug, um sich vor Ort auf Edge-Rechnern ausführen zu lassen. Diese Server dienen oft auch als Gateway zum Cloud-Teil der KI-Anwendung. Die Edge ist für Computer Vision sinnvoll, da Videostreams erhebliche Anforderungen an die Bandbreite der Übertragung stellen. Die Übertragung aller Streams in ein privates oder Cloud-Rechenzentrum für zentrale Videoanalytik würde exzessive Netzwerkkosten verursachen.

Datenauswertung in der Edge

Die Modellanwendung in der Edge lässt sich ebenso wie das cloud-basierte Training durch den Einsatz sogenannter GPUs (Graphical Processing Units) deutlich beschleunigen. Das sind Grafikkarten, deren spezialisierte Chips auch für die Rechenoperationen der Bilderkennung geeignet sind, und die daher fester Bestandteil moderner Edge-Server sind. Der Markt für IIoT-Anwendungen bietet eine Vielzahl an unterschiedlichen Computerlösungen für die Edge. Die einfachen Varianten sind Mikrocomputer, die Daten von Modbus- oder Canbus-Sensoren in der industriellen Fertigung oder Gebäudeleittechnik zusammenfassen und sie über Industrial Ethernet oder 5G-Mobilfunk weitergeben. Am anderen Ende des Spektrums sind Videoanalytik-fähige Edge-Server mit GPUs. Manche werden von den Anwendern selbst verwaltet, andere von den sogenannten Hyperscalern bereitgestellt und betrieben. Die Betreiber der großen Cloud-Infrastrukturen, die sogenannten Hyperscaler können auch Rechen- und Speicherkapazitäten in Edge-Rechenzentren bereitstellen, oder eben in zentralen Cloud-Rechenzentren – für die forensische Videoanalytik im Nachhinein oder für das Training neuronaler Netze in der Cloud.

Cloud-native Lösungen

Sowohl Hyperscaler als auch private Systeme nutzen heute Server-Virtualisierung: Funktionen in Edge wie Cloud basieren auf virtuelle Maschinen (VMs). Die Zeit der virtuellen Server, die ein monolithischen Software-Paket ausführen, ist aber fast schon wieder vorbei. Durch neue Technologien wie Docker und Kubernetes hat auch in der KI sogenannte cloud-native-Software Einzug gehalten. Ein bestimmender Aspekt des Cloud-Native-Paradigmas ist, dass die Software als Netz (Mesh) sogenannter Microservices ausgeführt ist, die miteinander kommunizieren und nur lose gekoppelt sind. Sollte eine Microservice-Instanz ausfallen, übernimmt eine andere. Das Microservice Mesh ist dadurch selbstheilend und fast grenzenlos skalierbar, denn die Anzahl der Instanzen jedes einzelnen Microservice kann sehr groß werden. Ein Kubernetes-Cluster besteht aus mehreren VMs oder physischen Serverknoten, von denen jeder eine Anzahl an Microservices in Kubernetes-Containern ausführen kann. In der Cloud sind Kubernetes-Knoten auf virtuellen Maschinen üblich, im Edge-Computing hingegen ist bare-metal die Norm. Bei letzterem ist jeder Edge-Server ein physischer Kubernetes-Knoten – das macht auch den Durchgriff auf GPUs und andere HW-Beschleuniger einfacher.

Services für KI-Betrieb

Die Kubernetes-Angebote heutiger Hyperscaler übernehmen das komplette Cluster-Management. Zudem bieten sie Services für Load-Balancing und Selbstheilung des Clusters im Fehlerfall, und für sogenannte SW-definierte Netze (SDNs) zwischen den Knoten und die Sicherheit des Clusters insgesamt Damit können KI-Lösungen sowohl in der Cloud als auch auf Edge-Ebene cloud-native ausgeführt werden. Auch dass die Telekommunikationsunternehmen, die Telkos, Edge-Services für Industriekunden anbieten, ist keine Überraschung. Denn diese werden ohnehin für das Netz als solches gebraucht. Zudem verzichten immer mehr Carrier auf proprietäre Netzwerkgeräte und setzen auf Standard-Hardware und cloud-native Software. Das sogenannte RAN (Radio Access Network) beispielsweise, das Flechtwerk der Funkstationen, ist zum großen Teil eine Edge-Anwendung. Die Konvergenz von RAN und Edge-Anwendungen wie die Videoanalytik – beide werden in der Edge ausgeführt – ist bekannt als MEC (Multi-access Edge Computing).

Edge und 5G

Edge-Devices können sehr verschiedene Kommunikationstechnologien nutzen. Durch ihre hohe Leistung und ihre Vielseitigkeit werden zunehmend öffentliche, aber auch private 5G-Netze eingesetzt. Sie bieten die passenden Bandbreiten, Latenzen und Verfügbarkeiten für die Fertigungssteuerung, die Überwachung autonomer Fahrzeuge auf dem Shopfloor, die Auswertung von Videostreams oder die Bilderkennung für KI-gestützte Qualitätskontrollen. Private 5G-Netze werden immer mehr von den Carriern, aber auch von Hyperscalern angeboten. Sie sind unabhängig vom öffentlichen Netz und bieten die Merkmale von 5G. Damit erhalten Unternehmen eine Kommunikationsinfrastruktur, die sich besser für das Industrial IoT eignet als andere Funkstandards. Letztlich ist 5G in der Lage, WiFi als bevorzugte Vernetzungsmethode abzulösen. Denn das neue Netz besitzt – anders als selbst Wifi 6 – ein deterministisches Zeitverhalten. Zusammen mit den niedrigen Latenzen von Edge-Servern ist es für KI-Anwendungen im Industrial IoT oft unentbehrlich. Die konvergente Kombination von 5G und Edge-Anwendungen auf gemeinsamer Infrastruktur – also MEC – bildet das Traumpaar schlechthin.





  • Cyberangriffe auf mobile Geräte deutlich zugenommen

    Smartphone und Tablet benötigen keinen Cyberschutz? Diese Annahme sollte gründlich überdacht werden.


  • Innovationstreiber Thin[gk]athon: Kollaborative Intelligenz trifft auf Industrie-Expertise

    Der Thin[gk]athon, veranstaltet vom Smart Systems Hub, vereint kollaborative Intelligenz und Industrie-Expertise, um in einem dreitägigen Hackathon innovative Lösungsansätze für komplexe Fragestellungen…


  • Flexibel bleiben im Baukastenprinzip

    Viele Unternehmen bauen die Digitalisierung und Automatisierung ihrer Logistikzentren und Produktionsstätten aus. Doch nicht jedes dieser Systeme lässt sich bei kurzfristigen Marktveränderungen…


  • Mit KI und Plattform-Ansatz Potenziale heben

    Flexibilität wird im Qualitätsmanagement immer wichtiger. Der Zertifizierungsdruck steigt weiter an und Lieferkettenprobleme erfordern häufiger die Qualifizierung alternativer Zulieferer. Digitale QM-Plattformen können…


  • Datenpunkte in der Batteriezellfertigung setzen

    In der Batteriezellfertigung erzeugen heterogene Quellen enorme Datenmengen. Um die Produktion mit Digitaltechnik aufzurüsten, müssen die verschiedenen Datenquellen an die IT-Systeme in…