Anzeige
Anzeige
Anzeige
Beitrag drucken

Explainable Artificial Intelligence

KI-Entscheidungen verstehen

Wie KI-Systeme zu Entscheidungen kommen, bleibt oft verborgen. Um sich wirklich auf solche Systeme verlassen zu können, muss die Blackbox geöffnet werden. Dafür sorgt der Ansatz Explainable AI (XAI), bei dem z.B. interpretierbarer KPI-Labels zum Einsatz kommen.

Layer-Modell Qualitatives Labeln (Bild: PSI FLS Fuzzy Logik & Neuro Systeme GmbH)

Layer-Modell Qualitatives Labeln (Bild: PSI FLS Fuzzy Logik & Neuro Systeme GmbH)

Qualitatives Labeln ist eine KI-Methode, die Entscheidungs- und Optimierungsalgorithmen mit maschinellem Lernen verbindet und bereits industriell eingesetzt wird. Sie zielt darauf ab, Zusammenhänge aus skalierbaren Rohdaten zu erlernen, die in beliebigen Geschäftsprozessen entstehen. Das Ziel ist eine maximale Annährung an die definierten Geschäftsprozessziele. dafür legt die Lösung auf den Input- und Output-Mustern des betreffenden Prozesses KPI-basierte Bewertungen fest. Diese definieren, welche Muster für welche Werte eher positiv und für welche eher negativ zur Erreichung der Geschäftsprozessziele sind. Im nächsten Schritt lassen sich über diese Bewertungen Zeitreihen bilden und sogenannte Datencluster ermitteln. Die Datencluster sind entweder als Ergebnis einer KI-Geschäftsprozessdatenanalyse zu verstehen oder dienen als Basis für darauf aufbauende KI-Systeme. Doch wie kann dieses Vorgehen dabei helfen, KI-Systeme besser zu verstehen? Indem qualitatives Labeln einen Zusammenhang herstellt zwischen der Datenperspektive des Geschäftsprozesses und den angeschlossenen KI-Algorithmen, entsteht eine neue, KPI-bezogene Sicht auf die Ergebnisse des Geschäftsprozesses. Dadurch sind auch die Ergebnisse der mit den gelabelten Daten trainierten KI-Systeme verständlicher. Durch die KI-basierte Bearbeitung des Geschäftsprozesses öffnet sich eine zusätzliche, automatisiert erlernte und erklärbare Sicht auf die Perspektive des Zielgeschäftsprozesses. Kurzum: War ein KI-System aus der Perspektive des Geschäftsprozesses bislang eine Blackbox, kann eine geschäftsprozessbezogene Erklärungskomponente helfen, das Verhalten des KI-Systems nachzuvollziehen.

Machine Learning

Dreh- und Angelpunkt des qualitativen Labelns ist ein maschinelles Lernverfahren: Dieses erkennt anhand von Geschäftsprozessdaten selbsttätig KPI-Zielkonflikte aus Zeitreihendaten. Als Initialinput sind neben den Prozessrohdaten lediglich KPI-Bewertungsfunktionen notwendig. Pro Geschäftsprozess-KPI wird definiert, welche Datenwerte dem KPI-Ziel als eher zuträglich (positiv) und welche Datenwerte als eher abträglich (negativ) einzustufen sind. Über die Zeitreihenbezüge lassen sich die Prozessdaten schließlich derart semantisch ordnen, dass der Algorithmus selbstständig erkennt, in welchen Situationen die Rohdaten wie zu labeln sind. Das System ermittelt also, welche Datenkonstellationen und -muster sich positiv und welche sich negativ auf die Erreichung der KPI-Ziele auswirken. Im Ergebnis kann das System methodisch abgesichert Zusammenhänge erlernen. Wo manuelle Labeling-Prozesse zunehmend an ihre Grenzen stoßen und zum Flaschenhals der Datenaufbereitung werden, kann Qualitatives Labeln als umgebender, datenaufbereitender Layer jedes KI-System unterstützen, indem Zusammenhänge auf Rohdaten maschinell voranalysiert und hinsichtlich ihrer Wirkung auf die Ziel-KPIs interpretiert werden.

Einfach zu interpretieren

Abweichend von anderen Systemen stützt sich dieses Verfahren dabei zunächst nicht auf KI-Fachwissen, sondern auf Wissen über den Prozess, für den das KI-System entwickelt wurde, indem Prozessrohdaten durch Bewerten von Prozess-KPIs qualifiziert werden. Auf diese Weise entstehen qualitativ gelabelte Daten, die in Verbindung mit einer Visualisierung der gelernten Zusammenhänge auch für KI-Laien interpretierbare Ergebnisse liefern. Damit erhalten auch darauf aufbauende KI-Verfahren eine einfacher zu verstehende Lerngrundlage.


Das könnte Sie auch interessieren:

Das Fraunhofer-Institut für Photonische Mikrosysteme IPMS entwickelt zusammen mit europäischen Partnern im Projekt QLSI eine skalierbare Technologie für Silizium-Qubits für Quantencomputer.‣ weiterlesen

Mit dem Strategiepapier ‘Cyber Security Design Principles‘ will die Open Industry 4.0 Alliance darüber informieren, wie Unternehmen das Thema Sicherheit von der Werkshalle bis zur Cloud umsetzen können.‣ weiterlesen

Mit ihren Systemen rund um Dämpfe, Gase und Ventile spielt die GEMÜ Gruppe weltweit in der ersten Reihe. Als digitaler Knotenpunkt dient das ERP-System PSIpenta. Dessen Module zur adaptiven Produktionsplanung- und Steuerung verhelfen dem Familienunternehmen über Werks- und Landesgrenzen hinweg zu fast hundertprozentiger Liefertermintreue.‣ weiterlesen

Es gibt keinen Textauszug, da dies ein geschützter Beitrag ist.‣ weiterlesen

Aus dem Industrie-4.0-Barometer der Management- und IT-Beratung MHP geht hervor, dass sich die Position eines CIO in der Geschäftsführung positiv auf Umsetzung von Industrie-4.0-Ansätzen auswirkt.‣ weiterlesen

Durch die Pandemie und durch die Digitalisierung steigt der Innovationsdruck auf die deutsche Industrie. Wie die aktuelle CGI-Studie zeigt, können agile Unternehmen besser mit den damit verbundenen Herausforderungen umgehen.‣ weiterlesen

Das Internet der Dinge bringt physische und digitale Welten zunehmend zusammen. Schon längst geht es nicht mehr nur um die pure Vernetzung von Geräten, sondern um Systeme, die Menschen, digitale Lösungen und Objekte aus der realen Welt verknüpfen.‣ weiterlesen

Kooperationen mit Technologie-Startups bieten für etablierte Unternehmen Chancen, um die digitale Transformation zu bewältigen und wettbewerbsfähig zu bleiben. Doch selbst wenn große Organisationen schon mit jungen Firmen kooperieren, nutzen sie das Potenzial dieser Zusammenarbeit oft kaum aus.‣ weiterlesen

231.000 offene Stellen weniger als im vierten Quartal 2019 verzeichnet das Institut für Arbeitsmarkt und Berufsforschung in der aktuellen Stellenerhebung. Demnach ist die Zahl der offenen Stellen gegenüber dem dritten Quartal 2020 jedoch gestiegen.‣ weiterlesen

Die vermehrte Arbeit im Homeoffice reduziert die CO2-Emissionen, die beispielsweise durch Pendeln entstehen. Auf der anderen Seite steigt der Stromverbrauch zuhause. Wie dieser reduziert werden kann, zeigen Tipps der Fachgemeinschaft für effiziente Energieanwendung.‣ weiterlesen

Nach 90,3 Punkten im Januar ist der Ifo-Geschäftsklimaindex im Februar gestiegen. Die Unternehmen schätzen dabei nicht nur die aktuelle Lage besser ein sondern sind auch mit Blick auf die kommenden Monate weniger pessimistisch.‣ weiterlesen

Anzeige
Anzeige
Anzeige
Anzeige
Anzeige
Anzeige