Anzeige
Anzeige
Anzeige
Beitrag drucken

Lernalgorithmus E-prop

Energieeffizient lernen

Ein Forschungsteam an der Technischen Universität Graz hat die KI-Lernmethode E-prop entwickelt, mit der Hardware-Implementierungen von künstlicher Intelligenz energieeffizienter gestaltet werden können.

(Bild: TU Graz)

Der hohe Energieverbrauch beim Lernen von künstlichen neuronalen Netzwerken ist eine große Hürde für den breiten Einsatz künstlicher Intelligenz (KI), vor allem bei mobilen Anwendungen. Ein Ansatz, um sich diesem Problem zu nähern ist, von Erkenntnissen über das menschliche Gehirn zu lernen: Dieses verfügt über immense Rechenleistung, braucht mit 20 Watt aber nur ein Millionstel von dessen Energie. Verantwortlich dafür ist unter anderem die effiziente Informationsweitergabe zwischen den Neuronen im Gehirn: Diese senden dazu kurze, elektrische Impulse (Spikes) an andere Neuronen – um Energie zu sparen aber nur so oft, wie unbedingt notwendig. Diese Funktionsweise hat sich ein Team der TU Graz um die Informatiker Wolfgang Maass und Robert Legenstein bei der Entwicklung des maschinellen Lernalgorithmus E-prop (kurz für e-propagation) zu eigen gemacht. Die Arbeitsgruppe des Instituts für Grundlagen der Informationsverarbeitung, nutzen in ihrem Modell Spikes zur Kommunikation zwischen Neuronen in einem künstlichen neuronalen Netz. Die Spikes werden nur dann aktiv, wenn sie für die Informationsverarbeitung im Netzwerk gebraucht werden. Das Lernen ist für solche wenig aktiven Netzwerke eine besondere Herausforderung, da es längere Beobachtungen braucht um zu ermitteln, welche Neuronenverbindungen die Netzwerkleistung verbessern.

Dezentrale Methode

Bisherige Methoden erzielten zu geringe Lernerfolge oder erforderten enormen Speicherplatz. E-prop löst nun dieses Problem mittels einer vom Gehirn abgeschauten dezentralen Methode, bei der jedes Neuron in einer sogenannten E-trace (eligibility trace; dt. Ereignisspur) dokumentiert, wann seine Verbindungen benutzt wurden. Die Methode ist ähnlich leistungsfähig wie bekannte andere Lernmethoden. Bei vielen der derzeit eingesetzten Maschine-Learning-Techniken werden alle Netzwerkaktivitäten zentral und offline gespeichert, um alle paar Schritte nachvollziehen zu können, wie die Verbindungen während der Berechnungen benutzt wurden. Dies erfordert aber einen ständigen Datentransfer zwischen dem Speicher und den Prozessoren — eine der Hauptursachen für den zu großen Energieverbrauch gegenwärtiger KI-Implementationen. E-prop hingegen funktioniert vollkommen online und erfordert auch im realen Betrieb keinen separaten Speicher.

Nicht über die Cloud gehen

Maass und Legenstein hoffen, dass der Algorithmus die Entwicklung einer neuen Generation von mobilen lernfähigen Rechensystemen vorantreibt, die nicht mehr programmiert werden müssen, sondern nach dem Vorbild des menschlichen Gehirns lernen und sich dadurch an laufend neue Anforderungen anpassen. Ziel ist es, diese Rechensysteme nicht mehr energieintensiv ausschließlich über eine Cloud lernen zu lassen, sondern den größeren Teil der Lernfähigkeit effizient in mobile Hardware-Komponenten einzubauen und dadurch Energie zu sparen. Erste Schritte, E-prop in die Anwendung zu bringen, wurden bereits gemacht: So arbeitet das Team der TU Graz gemeinsam mit der Advanced Processor Technologies Research Group (APT) der Universität Manchester im Human Brain Projekt daran E-prop in das dort entwickelte neuromorphe Spinnaker-System einzubauen. Gleichzeitig arbeitet die TU Graz gemeinsam mit Intel daran, den Algorithmus in die nächsten Version von Intels neuromorphen Chip Loihi zu integrieren.


Das könnte Sie auch interessieren:

Autoneum CZ verfolgt das Ziel, alle Logistikprozesse zu digitalisieren. Auf dem Weg dorthin wurde im Jahr 2019 die Produktionsplanung digitalisiert. Die hohen Anforderungen erfüllt das Advanced Planning and Scheduling-System von Asprova.‣ weiterlesen

Das Ludwigshafener Softwarehaus Fasihi hat ein digitales Assistenzsystem ins Programm genommen. Es unterstützt Mitarbeiter in der Produktion durch die Anzeige von Dokumenten wie Handbücher, Anleitungen, Betriebs- und Verfahrensanweisungen oder auch Informationen aus Modulen wie einer Gefahrstoffdatenbank.‣ weiterlesen

Die FOG Software Group will mit der Übernahme von Facton ihr Portfolio an Softwarelösungen für die intelligente Fertigung ausbauen.‣ weiterlesen

Eplan startet mit der Gründung eines neuen Partnernetzwerks in das neue Jahr. Durch den Austausch der Partner soll unter anderem die Integration unterschiedlicher Systeme vereinfacht werden.‣ weiterlesen

Am Unternehmenshauptsitz von Dyer Engineering laufen bis zu 1.000 Aufträge gleichzeitig ab, bis zu 5.000 Komponenten sind dafür im Umlauf. Wer da auf technische Unterstützung verzichtet, verliert schnell den Überblick und riskiert Stillstände und Zusatzaufwand. Gelöst hat die Firma dieses Problem mit einer Asset-Tracking-Lösung auf Bluetooth-Basis.‣ weiterlesen

Mit der Übernahme des US-Unternehmens Diversified Automation will Leadec seine Präsenz in Nordamerika stärken.‣ weiterlesen

Wer bei der SMS Group in Hilchenbach wirklich alle Maschinendaten in die MES-Software integrieren will, muss bis zu 30 Jahre alte Steuerungen zum Reden bringen. Wie das geht, wussten die Mitarbeiter des Metallspezialisten zwar. Aus Zeitgründen erhielt jedoch der Dienstleister Schmid Engineering den Auftrag, die 55 Maschinen ans MES anzuschließen.‣ weiterlesen

Campus-Netze sind in Deutschland zur Zeit der vielversprechendste Ansatz, wenn es um den industriellen Einsatz von 5G-Funktechnik geht. Denn erstmals erlaubt die Bundesnetzagentur auch Unternehmen außerhalb der Telekommunikationsbranche, Funkfrequenzen zu buchen. Doch welche Konzepte für den Aufbau eines Campus-Netzes gibt es?‣ weiterlesen

Um den Robotereinsatz bei kleineren und mittleren Unternehmen zu fördern, wurde Ende des vergangenen Jahres der Deutsche Robotik Verband gegründet.‣ weiterlesen

Auf 2021 blicken die Entscheider in der Branche mit einer Mischung aus Zurückhaltung und leichtem Optimismus. Dies geht aus dem aktuellen Maschinenbau-Barometer von PwC hervor.‣ weiterlesen

Die SmartFaxtory KL arbeitet an der Realisierung an einem Shared Production-Ansatz und bildet so die Grundlage für das europäische Infrastrukturprojekt GAIA-X.‣ weiterlesen

Anzeige
Anzeige
Anzeige
Anzeige
Anzeige
Anzeige