Anzeige
Anzeige
Anzeige
Beitrag drucken

Explainable Artificial Intelligence

KI-Entscheidungen verstehen

Wie KI-Systeme zu Entscheidungen kommen, bleibt oft verborgen. Um sich wirklich auf solche Systeme verlassen zu können, muss die Blackbox geöffnet werden. Dafür sorgt der Ansatz Explainable AI (XAI), bei dem z.B. interpretierbarer KPI-Labels zum Einsatz kommen.

Layer-Modell Qualitatives Labeln (Bild: PSI FLS Fuzzy Logik & Neuro Systeme GmbH)

Layer-Modell Qualitatives Labeln (Bild: PSI FLS Fuzzy Logik & Neuro Systeme GmbH)

Qualitatives Labeln ist eine KI-Methode, die Entscheidungs- und Optimierungsalgorithmen mit maschinellem Lernen verbindet und bereits industriell eingesetzt wird. Sie zielt darauf ab, Zusammenhänge aus skalierbaren Rohdaten zu erlernen, die in beliebigen Geschäftsprozessen entstehen. Das Ziel ist eine maximale Annährung an die definierten Geschäftsprozessziele. dafür legt die Lösung auf den Input- und Output-Mustern des betreffenden Prozesses KPI-basierte Bewertungen fest. Diese definieren, welche Muster für welche Werte eher positiv und für welche eher negativ zur Erreichung der Geschäftsprozessziele sind. Im nächsten Schritt lassen sich über diese Bewertungen Zeitreihen bilden und sogenannte Datencluster ermitteln. Die Datencluster sind entweder als Ergebnis einer KI-Geschäftsprozessdatenanalyse zu verstehen oder dienen als Basis für darauf aufbauende KI-Systeme. Doch wie kann dieses Vorgehen dabei helfen, KI-Systeme besser zu verstehen? Indem qualitatives Labeln einen Zusammenhang herstellt zwischen der Datenperspektive des Geschäftsprozesses und den angeschlossenen KI-Algorithmen, entsteht eine neue, KPI-bezogene Sicht auf die Ergebnisse des Geschäftsprozesses. Dadurch sind auch die Ergebnisse der mit den gelabelten Daten trainierten KI-Systeme verständlicher. Durch die KI-basierte Bearbeitung des Geschäftsprozesses öffnet sich eine zusätzliche, automatisiert erlernte und erklärbare Sicht auf die Perspektive des Zielgeschäftsprozesses. Kurzum: War ein KI-System aus der Perspektive des Geschäftsprozesses bislang eine Blackbox, kann eine geschäftsprozessbezogene Erklärungskomponente helfen, das Verhalten des KI-Systems nachzuvollziehen.

Machine Learning

Dreh- und Angelpunkt des qualitativen Labelns ist ein maschinelles Lernverfahren: Dieses erkennt anhand von Geschäftsprozessdaten selbsttätig KPI-Zielkonflikte aus Zeitreihendaten. Als Initialinput sind neben den Prozessrohdaten lediglich KPI-Bewertungsfunktionen notwendig. Pro Geschäftsprozess-KPI wird definiert, welche Datenwerte dem KPI-Ziel als eher zuträglich (positiv) und welche Datenwerte als eher abträglich (negativ) einzustufen sind. Über die Zeitreihenbezüge lassen sich die Prozessdaten schließlich derart semantisch ordnen, dass der Algorithmus selbstständig erkennt, in welchen Situationen die Rohdaten wie zu labeln sind. Das System ermittelt also, welche Datenkonstellationen und -muster sich positiv und welche sich negativ auf die Erreichung der KPI-Ziele auswirken. Im Ergebnis kann das System methodisch abgesichert Zusammenhänge erlernen. Wo manuelle Labeling-Prozesse zunehmend an ihre Grenzen stoßen und zum Flaschenhals der Datenaufbereitung werden, kann Qualitatives Labeln als umgebender, datenaufbereitender Layer jedes KI-System unterstützen, indem Zusammenhänge auf Rohdaten maschinell voranalysiert und hinsichtlich ihrer Wirkung auf die Ziel-KPIs interpretiert werden.

Einfach zu interpretieren

Abweichend von anderen Systemen stützt sich dieses Verfahren dabei zunächst nicht auf KI-Fachwissen, sondern auf Wissen über den Prozess, für den das KI-System entwickelt wurde, indem Prozessrohdaten durch Bewerten von Prozess-KPIs qualifiziert werden. Auf diese Weise entstehen qualitativ gelabelte Daten, die in Verbindung mit einer Visualisierung der gelernten Zusammenhänge auch für KI-Laien interpretierbare Ergebnisse liefern. Damit erhalten auch darauf aufbauende KI-Verfahren eine einfacher zu verstehende Lerngrundlage.


Das könnte Sie auch interessieren:

Siemens beendet das erste Halbjahr des laufenden Geschäftsjahres mit positiven Neuigkeiten. Umsatzerlöse und Gewinn legen kräftig zu.‣ weiterlesen

Insgesamt 8,2Mrd.€ hat der Maschinen- und Anlagenbau im Jahr 2019 für Forschung und Entwicklung ausgegeben. Auch in der Pandemie behalten F&E-Ausgaben einen hohen Stellenwert.‣ weiterlesen

Seit rund 100 Jahren steht die Automobilindustrie wie keine andere für die Fabrikarbeit am Fließband. Doch jetzt deutet sich eine Technologiewende an. Künftig könnten Fahrerlose Transportfahrzeuge Karosserien, Material und ganze Fahrzeuge durch die Fabrik bewegen. In mehreren Modellfabriken fahren die Automaten bereits durchs Werk.‣ weiterlesen

Immer mehr Anlagen sollen Betriebsdaten im IoT zur Bearbeitung bereitstellen. Mit dem Susietec-Portfolio will Kontron insbesondere den Aufbau von IoT-Lösungen für bestehende Anlagen unterstützen. Der Anbieter von IoT- und Embedded-Computing-Technologie rechnet für 2021 mit mehr als 50 Prozent Wachstum in diesem Geschäftsfeld.‣ weiterlesen

Im März haben die Bestellungen im Maschinen- und Anlagenbau im Vergleich zum Vorjahr deutlich zugelegt. Dabei kamen sowohl aus dem Aus- als auch aus dem Inland positive Signale.‣ weiterlesen

Vor wenigen Jahren galt MES-Software vielen noch als Spezialsoftware mit nur aufwendig erschließbarem Nutzen. Inzwischen ist sie fester Bestandteil der meisten prozessnahen IT-Architekturen in der Prozess- und gerade der Pharmaindustrie. Insbesondere wenn viele Systemfunktionen auf die Prozessführung nach ISA95 entfallen und chargenorientiert produziert wird.‣ weiterlesen

Automobilhersteller agieren bislang erfolgreich in ihren eher geschlossenen Wertschöpfungsketten. Sie verstehen den Markt als Nullsummenspiel. Unternehmen wie Apple haben vorgemacht, dass es auch anders geht: Von offenen Ökosystemen können alle profitieren. Wann öffnet sich die Automobilindustrie für diese Idee?‣ weiterlesen

Mit dem Wechsel von Kathleen Mitford zu Microsoft wird Catherine Kniker zur EVP (Executive Vice Presdient) und Chief Stategy Officer bei PTC ernannt.‣ weiterlesen

Gemeinsam mit CEO Peter Sorowka leitet Carsten Stiller seit 1. April das Softwareunternehmen Cybus. Er verantwortet die Bereiche Marketing und Vertrieb.‣ weiterlesen

Siemens Digital Industries bekommt einen neuen CTO. Dirk Didascalou soll zum 1. September neuer Technikchef werden.‣ weiterlesen

Die Wirtschaft blickt überwiegend optimistisch in die Zukunft: Knapp 40 Prozent der Unternehmen wollen laut der jüngsten Konjunkturumfrage des Instituts der deutschen Wirtschaft 2021 im Vergleich zu 2020 mehr produzieren.‣ weiterlesen

Anzeige
Anzeige
Anzeige
Anzeige
Anzeige
Anzeige