Anzeige
Anzeige
Anzeige
Anzeige
Anzeige
Beitrag drucken

Ein Blick in das neurale Netz

Wann ist ein Pferd ein Pferd?

Fortschritte im KI-Bereich beruhen vor allem auf der Verwendung neuronaler Netze. Bisher wusste man allerdings nicht, wie ein neuronales Netz Entscheidungen trifft. Forschende des Fraunhofer Heinrich-Hertz-Instituts HHI und der Technischen Universität Berlin haben nun eine Technik für diese Aufgabe entwickelt.

 (Bild: ©Naeblys/stock.adobe.com)

(Bild: ©Naeblys/stock.adobe.com)

Viele Unternehmen nutzen bereits lernende und vernetzte KI-Systeme. Im Gesundheitswesen hilft KI beim Anfertigen von Prognosen auf Basis von strukturierten Daten – etwa bei der Bilderkennung. So werden Röntgenbilder als Input in ein KI-System gegeben, der Output ist eine Diagnose. Beim autonomen Fahren müssen Verkehrszeichen, Bäume, Fußgänger und Radfahrer fehlerfrei erkannt werden. Nachvollziehen ließen sich die Entscheidungen der KI-Systeme in der Regel nicht.

Strategien sichtbar gemacht

Mit der Layer-Wise Relevance Propagation (LRP) haben Forschende am Fraunhofer-Institut für Nachrichtentechnik und der Technischen Universität Berlin nun eine Technik entwickelt, die KI-Prognosen erklärbar macht und so unsichere Problemlösungsstrategien aufdecken kann. Die Weiterentwicklung der LRP-Technologie, die sogenannte Spectral Relevance Analysis (Spray) identifiziert und quantifiziert ein breites Spektrum erlernten Entscheidungsverhaltens und soll so auch in riesigen Datensätzen unerwünschte Entscheidungen aufdecken.

Neuronale Netze interpretieren

In der Praxis identifiziert die Technik einzelne Input-Elemente, die für eine Vorhersage genutzt wurden. Wird beispielsweise ein Gewebebild in ein KI-System eingegeben, so wird der Einfluss jedes Pixels auf das Klassifikationsergebnis quantifiziert. Die Vorhersage, wie ‚krebsartig‘ oder ’nicht krebsartig‘ das Gewebebild ist, wird also mit der Angabe der Basis für diese Klassifikation ergänzt. „Nicht nur das Ergebnis soll korrekt sein, sondern auch der Lösungsweg. Bislang wurden KI-Systeme als Black Box angewendet. Man hat darauf vertraut, dass sie das richtige tun“, sagt Dr. Wojciech Samek, Leiter der Forschungsgruppe Machine Learning am Fraunhofer HHI.

Lösungsweg erkennen

Nur wer versteht, wie neuronale Netze funktionieren, kann den Ergebnissen vertrauen. Dass KI-Systeme nicht immer sinnvolle Lösungswege finden, ergaben die Tests der Forscherteams. Beispielsweise klassifizierte ein renommiertes KI-System Bilder anhand des Kontextes. Es ordnete Fotos der Kategorie Schiff zu, wenn viel Wasser im Bild zu sehen war. Die eigentliche Aufgabe, Schiffe zu erkennen, löste es nicht, auch wenn die Mehrzahl der Bilder korrekt identifiziert war. „Zahlreiche KI-Algorithmen wenden unsichere Strategien an und kommen zu wenig sinnvollen Lösungen“, resümiert Samek das Ergebnis der Untersuchungen.

Pferd vom Esel unterscheiden

Die LRP-Technologie entschlüsselt die Funktionsweise von neuronalen Netzen, und findet heraus, anhand welcher Merkmale ein Pferd als Pferd identifiziert wird und nicht als Esel oder Kuh. An jedem Knotenpunkt des Netzes erkennt sie, wie Informationen durch das Netz fließen. Somit lassen sich sogar sehr tiefe neuronale Netze untersuchen. Derzeit erarbeiten die Forscherteams neue Algorithmen, um weitere Fragestellungen zu untersuchen und KI-Systeme sicherer und robuster zu gestalten.


Das könnte Sie auch interessieren:

Novayre Solutions SL und dessen RPA-Plattform Jidoka gehören nun zu Appian. Mit dem Erwerb will das amerikanischen IT-Unternehmen seine Prozessautomatisierungsplattform um Werkzeuge für Robotic Process Automation ergänzen.‣ weiterlesen

Nutzer von Citrix-Systemen sollten unbedingt die aktuell bekannt gewordene Sicherheitslücke per Workaround schließen. Das meldet das BSI erneut, nachdem sich die Zahl der bekannt gewordenen Cyberangriffe über diese Schwachstelle häufen.‣ weiterlesen

Jörg Jung leitet beim ERP-Hersteller Infor seit mehr als zwei Jahren als verantwortlicher Geschäftsführer die Regionen Zentral- und Osteuropa. In diesem Zeitraum konnte der Softwareanbieter sein Geschäft fast verdoppeln, merkte Jung im Gespräch mit der IT&Production an. Vor allem der Absatz mit Cloud-Lösungen scheint zu brummen: In den letzten zwei Jahren sei der Umsatz mit den Multi-Tenant-Lösungen weltweit um den Faktor zehn gestiegen.‣ weiterlesen

Rockwell Automation hat den israelischen Cybersecurity-Anbieter Avnet Data Security übernommen. Das Unternehmen bietet seinen Kunden Services wie Risikobewertungen, Penetrationstests, Netzwerk- und Sicherheitslösungen sowie Schulungen zur Verschmelzung von IT und OT unter dem Gesichtspunkt der Cybersecurity an. ‣ weiterlesen

In der Werkshalle von morgen sind nur noch die Außenwände fest verbaut. Maschinen und Anlagen bewegen sich frei und kommunizieren miteinander. Wichtige Voraussetzung hierfür: Eine dezentrale Versorgungs- und Dateninfrastruktur. Mit dem intelligenten Boden hat Bosch Rexroth ein solches System entwickelt - und dabei Lösungen von Weidmüller verbaut.‣ weiterlesen

In einer Industrie 4.0 stellen vernetzte Maschinen nicht nur Produkte her, sie generieren auch massenhaft Daten. Mit einem ERP-System als Informationsdrehscheibe lassen sich diese Produktionsdaten mit anderen Geschäftsbereichen verknüpfen und so die Wertschöpfung ankurbeln.‣ weiterlesen

Per Radiofrequenzidentifikation lassen sich Waren entlang der gesamten Lieferkette nachverfolgen - oder gleich lückenlos ihren Zustand dokumentieren. Erst RFID-Technologie ermöglicht viele Anwendungen, die mit Industrie 4.0 verbunden werden.‣ weiterlesen

Der ERP-Anbieter Proalpha hat einen Wechsel an der Unternehmensspitze bekanntgegeben. Eric Verniaut übernimmt das Amt des CEO.‣ weiterlesen

Die Siemens AG hat die AIT GmbH übernommen. Das Stuttgarter Unternehmen bietet Softwarelösungen auf der Basis von Microsoft .NET Plattformen an.‣ weiterlesen

Weniger Energie zu verbrauchen, heißt nicht automatisch, auch Kosten einzusparen. Viele Energiemanager kennen das: Vielleicht war das Jahr wärmer, die Auftragslage schlechter, vielleicht konnten sie durch Umstrukturierung der Arbeitsabläufe etwas sparen. Welcher der Punkte zutrifft, weiß man allerdings erst, wenn die Daten genau analysiert wurden. Und genau das verlangt auch die Norm ISO50001, die nach der letzten Revision die Leistungsindikatoren in den Fokus rückt.‣ weiterlesen

Obwohl der Anteil individuell programmierter Geschäftssoftware insgesamt rückläufig ist, setzen speziell mittelständische Fertiger noch oft auf Individuallösungen. Dabei gibt es Alternativen, um Unternehmensprozesse weitaus effizienter und risikoloser abzubilden.‣ weiterlesen

Anzeige
Anzeige
Anzeige