Anzeige
Anzeige
Beitrag drucken

Ein Blick in das neurale Netz

Wann ist ein Pferd ein Pferd?

Fortschritte im KI-Bereich beruhen vor allem auf der Verwendung neuronaler Netze. Bisher wusste man allerdings nicht, wie ein neuronales Netz Entscheidungen trifft. Forschende des Fraunhofer Heinrich-Hertz-Instituts HHI und der Technischen Universität Berlin haben nun eine Technik für diese Aufgabe entwickelt.

 (Bild: ©Naeblys/stock.adobe.com)

(Bild: ©Naeblys/stock.adobe.com)

Viele Unternehmen nutzen bereits lernende und vernetzte KI-Systeme. Im Gesundheitswesen hilft KI beim Anfertigen von Prognosen auf Basis von strukturierten Daten – etwa bei der Bilderkennung. So werden Röntgenbilder als Input in ein KI-System gegeben, der Output ist eine Diagnose. Beim autonomen Fahren müssen Verkehrszeichen, Bäume, Fußgänger und Radfahrer fehlerfrei erkannt werden. Nachvollziehen ließen sich die Entscheidungen der KI-Systeme in der Regel nicht.

Strategien sichtbar gemacht

Mit der Layer-Wise Relevance Propagation (LRP) haben Forschende am Fraunhofer-Institut für Nachrichtentechnik und der Technischen Universität Berlin nun eine Technik entwickelt, die KI-Prognosen erklärbar macht und so unsichere Problemlösungsstrategien aufdecken kann. Die Weiterentwicklung der LRP-Technologie, die sogenannte Spectral Relevance Analysis (Spray) identifiziert und quantifiziert ein breites Spektrum erlernten Entscheidungsverhaltens und soll so auch in riesigen Datensätzen unerwünschte Entscheidungen aufdecken.

Neuronale Netze interpretieren

In der Praxis identifiziert die Technik einzelne Input-Elemente, die für eine Vorhersage genutzt wurden. Wird beispielsweise ein Gewebebild in ein KI-System eingegeben, so wird der Einfluss jedes Pixels auf das Klassifikationsergebnis quantifiziert. Die Vorhersage, wie ‚krebsartig‘ oder ’nicht krebsartig‘ das Gewebebild ist, wird also mit der Angabe der Basis für diese Klassifikation ergänzt. „Nicht nur das Ergebnis soll korrekt sein, sondern auch der Lösungsweg. Bislang wurden KI-Systeme als Black Box angewendet. Man hat darauf vertraut, dass sie das richtige tun“, sagt Dr. Wojciech Samek, Leiter der Forschungsgruppe Machine Learning am Fraunhofer HHI.

Lösungsweg erkennen

Nur wer versteht, wie neuronale Netze funktionieren, kann den Ergebnissen vertrauen. Dass KI-Systeme nicht immer sinnvolle Lösungswege finden, ergaben die Tests der Forscherteams. Beispielsweise klassifizierte ein renommiertes KI-System Bilder anhand des Kontextes. Es ordnete Fotos der Kategorie Schiff zu, wenn viel Wasser im Bild zu sehen war. Die eigentliche Aufgabe, Schiffe zu erkennen, löste es nicht, auch wenn die Mehrzahl der Bilder korrekt identifiziert war. „Zahlreiche KI-Algorithmen wenden unsichere Strategien an und kommen zu wenig sinnvollen Lösungen“, resümiert Samek das Ergebnis der Untersuchungen.

Pferd vom Esel unterscheiden

Die LRP-Technologie entschlüsselt die Funktionsweise von neuronalen Netzen, und findet heraus, anhand welcher Merkmale ein Pferd als Pferd identifiziert wird und nicht als Esel oder Kuh. An jedem Knotenpunkt des Netzes erkennt sie, wie Informationen durch das Netz fließen. Somit lassen sich sogar sehr tiefe neuronale Netze untersuchen. Derzeit erarbeiten die Forscherteams neue Algorithmen, um weitere Fragestellungen zu untersuchen und KI-Systeme sicherer und robuster zu gestalten.


Das könnte Sie auch interessieren:

Im Vergleich zum Vorjahresquartal ist die Arbeitskräftenachfrage im Ingenieurbereich um 23,7 Prozent zurückgegangen, im Gegenzug stieg die Arbeitslosigkeit in diesem Sektor um 38,6 Prozent an. Das geht aus dem Ingenieurmonitor des Instituts der deutschen Wirtschaft hervor, der im Auftrag des VDI vierteljährlich erstellt wird.‣ weiterlesen

Wer in ein Manufacturing Execution System investiert, will damit für die Zukunft gewappnet sein - schließlich bindet man sich für einige Zeit an den Lösungsanbieter. Der Geschäftsführer vom MES-Hersteller GFOS, Burkhard Röhrig, schildert, worauf es bei einer Systemeinführung ankommt und was ein geeignetes System heute mitbringen sollte.‣ weiterlesen

Das ganzheitliche Modell des Digital Architecture Management (DAM) soll Unternehmen in die Lage versetzen, ihre IT-Infrastruktur kontinuierlich aus verschiedenen Perspektiven zu betrachten. Richtig eingesetzt entsteht eine Informationsbasis zur Harmonisierung der IT-Systemlandschaft unter Berücksichtigung von neuen Strategien, Technologien und Prozessen.‣ weiterlesen

Steuerungsspezialist IBHsoftec und der Anbieter von Fernzugriffslösungen Teamviewer haben eine gemeinsame Lösung vorgestellt. Diese bietet weitreichende Funktionen zur Ferninstallation, Fernüberwachung und zum Fernzugriff auf industrielle Steuerungstechnik.‣ weiterlesen

Der MES-Hersteller iTAC besetzt den Posten Director Professional Service. Der Manager Michael Leonhardt wird sich künftig um die Service- und Qualitätsorientierung der Dürr-Tochter kümmern.‣ weiterlesen

Videokonferenzen und digital koordinierte Zusammenarbeit sind zentrale Faktoren für Effizienz im Homeoffice. Großformat-Displaylösungen helfen, die Angestellten standortunabhängig in die Meetings vor Ort einzubinden. Doch die Systeme können noch viel mehr.‣ weiterlesen

Die Zahl der Beschäftigten in Kurzarbeit ging im Juli auf 5,6 Millionen zurück, gegenüber 6,7 Millionen im Juni. Doch während immer mehr Händler und Dienstleister aufatmen können, sinken die Zahlen in der Industrie nur leicht. Im Maschinenbau und der Elektrobranche steigen sie sogar.‣ weiterlesen

Rund 37 Prozent der produzierenden Unternehmen wollen Homeoffice auch nach der Corona-Krise nutzen. Vor Ausbruch der Pandemie waren es nur etwa 25 Prozent der Fertigungsbetriebe, wie eine repräsentative Umfrage des ZEW kürzlich ergab.‣ weiterlesen

Die ZEW-Konjunkturerwartungen für Deutschland steigen im August 2020 gegenüber dem Vormonat wieder deutlich an, nachdem sie im Juli leicht zurückgegangen waren. Die Konjunkturerwartungen liegen aktuell bei 71,5 Punkten, also 12,2 Punkte mehr als im Juli. Die Einschätzung der konjunkturellen Lage für Deutschland hat sich geringfügig verschlechtert. Der Lageindikator beträgt in der August-Umfrage minus 81,3 Punkte und liegt damit 0,4 Punkte unterhalb des Vormonatswertes.‣ weiterlesen

Die internetbasierte Veranstaltung IT meets OT am 08. September 2020 bietet Hintergrundwissen zu den zentralen Aspekten von OT- und IT-Architekturen. Dabei werden Fragen adressiert wie: Warum ist Integrität das Schutzziel in der OT? Wo verlaufen die roten Linien für IT, wo jene für die OT?‣ weiterlesen

Schneider Electric hat den MES-Anbieter Proleit AG erworben. Mit diesem Schritt will der französische Konzern seine Kompetenzen bei der Software-gestützten Automatisierung erweitern.‣ weiterlesen

Anzeige
Anzeige
Anzeige