Anzeige
Anzeige
Beitrag drucken

Explainable Artificial Intelligence

KI-Entscheidungen verstehen

Wie KI-Systeme zu Entscheidungen kommen, bleibt oft verborgen. Um sich wirklich auf solche Systeme verlassen zu können, muss die Blackbox geöffnet werden. Dafür sorgt der Ansatz Explainable AI (XAI), bei dem z.B. interpretierbarer KPI-Labels zum Einsatz kommen.

Layer-Modell Qualitatives Labeln (Bild: PSI FLS Fuzzy Logik & Neuro Systeme GmbH)

Layer-Modell Qualitatives Labeln (Bild: PSI FLS Fuzzy Logik & Neuro Systeme GmbH)

Qualitatives Labeln ist eine KI-Methode, die Entscheidungs- und Optimierungsalgorithmen mit maschinellem Lernen verbindet und bereits industriell eingesetzt wird. Sie zielt darauf ab, Zusammenhänge aus skalierbaren Rohdaten zu erlernen, die in beliebigen Geschäftsprozessen entstehen. Das Ziel ist eine maximale Annährung an die definierten Geschäftsprozessziele. dafür legt die Lösung auf den Input- und Output-Mustern des betreffenden Prozesses KPI-basierte Bewertungen fest. Diese definieren, welche Muster für welche Werte eher positiv und für welche eher negativ zur Erreichung der Geschäftsprozessziele sind. Im nächsten Schritt lassen sich über diese Bewertungen Zeitreihen bilden und sogenannte Datencluster ermitteln. Die Datencluster sind entweder als Ergebnis einer KI-Geschäftsprozessdatenanalyse zu verstehen oder dienen als Basis für darauf aufbauende KI-Systeme. Doch wie kann dieses Vorgehen dabei helfen, KI-Systeme besser zu verstehen? Indem qualitatives Labeln einen Zusammenhang herstellt zwischen der Datenperspektive des Geschäftsprozesses und den angeschlossenen KI-Algorithmen, entsteht eine neue, KPI-bezogene Sicht auf die Ergebnisse des Geschäftsprozesses. Dadurch sind auch die Ergebnisse der mit den gelabelten Daten trainierten KI-Systeme verständlicher. Durch die KI-basierte Bearbeitung des Geschäftsprozesses öffnet sich eine zusätzliche, automatisiert erlernte und erklärbare Sicht auf die Perspektive des Zielgeschäftsprozesses. Kurzum: War ein KI-System aus der Perspektive des Geschäftsprozesses bislang eine Blackbox, kann eine geschäftsprozessbezogene Erklärungskomponente helfen, das Verhalten des KI-Systems nachzuvollziehen.

Machine Learning

Dreh- und Angelpunkt des qualitativen Labelns ist ein maschinelles Lernverfahren: Dieses erkennt anhand von Geschäftsprozessdaten selbsttätig KPI-Zielkonflikte aus Zeitreihendaten. Als Initialinput sind neben den Prozessrohdaten lediglich KPI-Bewertungsfunktionen notwendig. Pro Geschäftsprozess-KPI wird definiert, welche Datenwerte dem KPI-Ziel als eher zuträglich (positiv) und welche Datenwerte als eher abträglich (negativ) einzustufen sind. Über die Zeitreihenbezüge lassen sich die Prozessdaten schließlich derart semantisch ordnen, dass der Algorithmus selbstständig erkennt, in welchen Situationen die Rohdaten wie zu labeln sind. Das System ermittelt also, welche Datenkonstellationen und -muster sich positiv und welche sich negativ auf die Erreichung der KPI-Ziele auswirken. Im Ergebnis kann das System methodisch abgesichert Zusammenhänge erlernen. Wo manuelle Labeling-Prozesse zunehmend an ihre Grenzen stoßen und zum Flaschenhals der Datenaufbereitung werden, kann Qualitatives Labeln als umgebender, datenaufbereitender Layer jedes KI-System unterstützen, indem Zusammenhänge auf Rohdaten maschinell voranalysiert und hinsichtlich ihrer Wirkung auf die Ziel-KPIs interpretiert werden.

Einfach zu interpretieren

Abweichend von anderen Systemen stützt sich dieses Verfahren dabei zunächst nicht auf KI-Fachwissen, sondern auf Wissen über den Prozess, für den das KI-System entwickelt wurde, indem Prozessrohdaten durch Bewerten von Prozess-KPIs qualifiziert werden. Auf diese Weise entstehen qualitativ gelabelte Daten, die in Verbindung mit einer Visualisierung der gelernten Zusammenhänge auch für KI-Laien interpretierbare Ergebnisse liefern. Damit erhalten auch darauf aufbauende KI-Verfahren eine einfacher zu verstehende Lerngrundlage.

Beitrag drucken

Explainable Artificial Intelligence

KI-Entscheidungen verstehen

Wie KI-Systeme zu Entscheidungen kommen, bleibt oft verborgen. Um sich wirklich auf solche Systeme verlassen zu können, muss die Blackbox geöffnet werden. Dafür sorgt der Ansatz Explainable AI (XAI), bei dem z.B. interpretierbarer KPI-Labels zum Einsatz kommen. (mehr …)


Das könnte Sie auch interessieren:

Das übergreifende Manufacturing Operations Management wird oft als Weiterentwicklung klassischer MES-Konzepte verstanden. Reichern Betreiber ihre MOM-Systeme mit Sensordaten an, werden vielfältige Optimierungen auf der Basis von Echtzeit-Daten möglich. Im Beispiel eines japanischen Produzenten waren es etwa die Reduzierung von Stillstandszeiten und Kosten.‣ weiterlesen

Insgesamt 15,6Mrd. Stunden betrug das Arbeitsvolumen im dritten Quartal 2022. Laut IAB ein Anstieg von 0,1 Prozent gegenüber dem Vorquartal. Die Zahl der Erwerbstätigen erreichte im dritten Quartal einen neuen Höchststand.‣ weiterlesen

Forschende des CISPA Helmholtz-Zentrum für Informationssicherheit und des Instituts Kastel am Karlsruher Instituts für Technologie (KIT) haben die Ergebnisse ihrer Machbarkeitsstudie zum Thema ’Encrypted Computing’ an die Agentur für Innovation in der Cybersicherheit (Cyberagentur) übergeben.‣ weiterlesen

Komplexe Materialien auf Basis von Seltenen Erden sind wichtig für Hightech-Anwendungen, wie etwa für Permanentmagnete oder in Bildschirme. Die Chemie molekularer und nanoskaliger Verbindungen der Seltenen Erden sowie ihre physikalischen Eigenschaften untersucht nun der neue Sonderforschungsbereich SFB ’4f for Future’, den das Karlsruher Institut für Technologie (KIT) koordiniert.‣ weiterlesen

Sorgen sich Unternehmen bei der Analyse ihrer steigenden Datenmengen um Performance und IT-Sicherheit, sollten sie sich das Edge Computing-Konzept anschauen. Denn diese Zwischenschicht entlastet Netzwerke und anonymisiert Daten für ihre rechtssichere Cloud-Verarbeitung.‣ weiterlesen

Laut Ifo Institut ist die Zahl der Kurzarbeiter wieder leicht gestiegen – insbesondere in der Industrie. Im Vergleich zur Corona-Krise sei das Niveau jedoch noch sehr gering, so die Wirtschaftsforscher.‣ weiterlesen

Zwar laufen die Geschäfte der IT- und Telekommunikationsunternehmen besser als erwartet, laut Branchenverband Bitkom bleiben Unsicherheiten für die kommenden Monate hoch.‣ weiterlesen

Im Materialplanungslauf stellen Firmen sicher, ihren Materialbedarf zu decken. Aufgrund verschiedener Einflüsse errechnen die Systeme dabei oft größere Mengen, als benötigt werden - auch bei akutem Bedarf. Das neue Critical-Part-Information-System in der Dispositionssoftware von SCT soll das verhindern.‣ weiterlesen

Der europäische Cloudanbieter OVHcloud baut sein Portfolio in den Bereichen High-Performance Object Storage und Standard Object Storage aus. Die Speichersysteme gliedert der Anbieter in fünf Produktgruppen.‣ weiterlesen

Die Open Industry 4.0 Alliance kooperiert ab sofort mit Eclass. Die Allianz will den Standard als Informationsmodell einsetzen.‣ weiterlesen

China steigt in Sachen Roboterdichte in die Top-5-Länder weltweit auf. Mit 322 Einheiten pro 10.000 Mitarbeiter hat das Land die USA überholt.‣ weiterlesen