Anzeige
Anzeige
Anzeige
Beitrag drucken

Ein Blick in das neurale Netz

Wann ist ein Pferd ein Pferd?

Fortschritte im KI-Bereich beruhen vor allem auf der Verwendung neuronaler Netze. Bisher wusste man allerdings nicht, wie ein neuronales Netz Entscheidungen trifft. Forschende des Fraunhofer Heinrich-Hertz-Instituts HHI und der Technischen Universität Berlin haben nun eine Technik für diese Aufgabe entwickelt.

 (Bild: ©Naeblys/stock.adobe.com)

(Bild: ©Naeblys/stock.adobe.com)

Viele Unternehmen nutzen bereits lernende und vernetzte KI-Systeme. Im Gesundheitswesen hilft KI beim Anfertigen von Prognosen auf Basis von strukturierten Daten – etwa bei der Bilderkennung. So werden Röntgenbilder als Input in ein KI-System gegeben, der Output ist eine Diagnose. Beim autonomen Fahren müssen Verkehrszeichen, Bäume, Fußgänger und Radfahrer fehlerfrei erkannt werden. Nachvollziehen ließen sich die Entscheidungen der KI-Systeme in der Regel nicht.

Strategien sichtbar gemacht

Mit der Layer-Wise Relevance Propagation (LRP) haben Forschende am Fraunhofer-Institut für Nachrichtentechnik und der Technischen Universität Berlin nun eine Technik entwickelt, die KI-Prognosen erklärbar macht und so unsichere Problemlösungsstrategien aufdecken kann. Die Weiterentwicklung der LRP-Technologie, die sogenannte Spectral Relevance Analysis (Spray) identifiziert und quantifiziert ein breites Spektrum erlernten Entscheidungsverhaltens und soll so auch in riesigen Datensätzen unerwünschte Entscheidungen aufdecken.

Neuronale Netze interpretieren

In der Praxis identifiziert die Technik einzelne Input-Elemente, die für eine Vorhersage genutzt wurden. Wird beispielsweise ein Gewebebild in ein KI-System eingegeben, so wird der Einfluss jedes Pixels auf das Klassifikationsergebnis quantifiziert. Die Vorhersage, wie ‚krebsartig‘ oder ’nicht krebsartig‘ das Gewebebild ist, wird also mit der Angabe der Basis für diese Klassifikation ergänzt. „Nicht nur das Ergebnis soll korrekt sein, sondern auch der Lösungsweg. Bislang wurden KI-Systeme als Black Box angewendet. Man hat darauf vertraut, dass sie das richtige tun“, sagt Dr. Wojciech Samek, Leiter der Forschungsgruppe Machine Learning am Fraunhofer HHI.

Lösungsweg erkennen

Nur wer versteht, wie neuronale Netze funktionieren, kann den Ergebnissen vertrauen. Dass KI-Systeme nicht immer sinnvolle Lösungswege finden, ergaben die Tests der Forscherteams. Beispielsweise klassifizierte ein renommiertes KI-System Bilder anhand des Kontextes. Es ordnete Fotos der Kategorie Schiff zu, wenn viel Wasser im Bild zu sehen war. Die eigentliche Aufgabe, Schiffe zu erkennen, löste es nicht, auch wenn die Mehrzahl der Bilder korrekt identifiziert war. „Zahlreiche KI-Algorithmen wenden unsichere Strategien an und kommen zu wenig sinnvollen Lösungen“, resümiert Samek das Ergebnis der Untersuchungen.

Pferd vom Esel unterscheiden

Die LRP-Technologie entschlüsselt die Funktionsweise von neuronalen Netzen, und findet heraus, anhand welcher Merkmale ein Pferd als Pferd identifiziert wird und nicht als Esel oder Kuh. An jedem Knotenpunkt des Netzes erkennt sie, wie Informationen durch das Netz fließen. Somit lassen sich sogar sehr tiefe neuronale Netze untersuchen. Derzeit erarbeiten die Forscherteams neue Algorithmen, um weitere Fragestellungen zu untersuchen und KI-Systeme sicherer und robuster zu gestalten.


Das könnte Sie auch interessieren:

Nach German Edge Cloud (GEC) gehört jetzt auch das Startup IoTOS zur Friedhelm Loh Group. Die Übernahme gab die Unternehmensgruppe nun bekannt. Die drei Unternehmen der Friedhelm Loh Group – Rittal, German Edge Cloud und IoTOS – bieten zudem mit Bosch Connected Industry eine Komplettlösung zur Integration, Harmonisierung und Analyse industrieller Produktionsdaten an.‣ weiterlesen

Längst differenzieren sich Mittelständler im weltweiten Wettbewerb durch ihre Effizienz, Transparenz und Rückverfolgbarkeit in der Fertigung. Hierfür wurden Manufacturing Execution Systems geschaffen. Und mit einer schlanken modularen Lösung, die schnell betriebsbereit ist, gelingt der Einstieg in die digitale Fertigung auch leicht im Mittelstand.‣ weiterlesen

Die Möglichkeit, auch Legacy-Anwendungen in Prozessautomatisierungsprojekte zu integrieren, ist oft der ausschlaggebende Faktor für Robotic-Process-Automation-Initiativen.‣ weiterlesen

Wie sieht die perfekte Produktion aus? Dieser Frage widmet sich das Managementforum Perfect Production an zwei Terminen: am 24.Oktober in Frankfurt sowie am 21.November in Leipzig. Teilnehmer erfahren anhand von Praxisbeispielen und Diskussionen, wie andere Unternehmen die Digitalisierung angehen.‣ weiterlesen

Sollte Quantentechnologie einmal verfügbar sein, könnte sich das Thema IT-Sicherheit deutlich verändern. Denn Cyberkriminelle dürften sich dann vor allem auf Endpunktangriffe und Social Engineering konzentrieren.‣ weiterlesen

Jede hinreichend komplexe Software dürfte eine unbekannte Anzahl von Fehlern beinhaltet. Zwar existieren Verfahren zur Schätzung der Anzahl dieser Fehler aus Erfahrungswerten, präzise lassen sie sich aber weder quantifizieren noch vollständig lokalisieren.‣ weiterlesen

Haltian hat einen End-to-End-Smart-Factory-Service vorgestellt. Der Dienst kombiniert die IoT-Plattform von Thingsee mit industrietauglichen umgerüsteten Sensoren und AWS IoT Greengrass Edge Computing sowie Private-LTE-Unterstützung.‣ weiterlesen

Die Fachkonferenz Smart MES bringt Produktionsleiter, Werkverantwortliche und Fertigungs-IT aller Unternehmensgrößen zusammen.‣ weiterlesen

Das Joint Venture der beiden Konzerne Osram und Continental stand vor der Aufgabe, eine völlig neue IT-Infrastruktur einzurichten. Teil des Projektes beim globalen Unternehmen war es, einen Service Desk samt Managementsoftware einzurichten - in zwölf Tagen.‣ weiterlesen

Mit Maximilian Brandl hat sich das SCM-Projekthaus Salt Solutions Verstärkung für den Vorstand ins Haus geholt.‣ weiterlesen

Bill McDermott tritt als CEO der SAP SE zurück. Dies gab der Walldorfer Softwarekonzern am Freitag bekannt. Als Nachfolger sollen nun Jennifer Morgan und Christian Klein das Unternehmen als Doppelspitze führen.‣ weiterlesen

Anzeige
Anzeige
Anzeige