Explainability in KI- und ML-Systemen

Ohne Spezialwissen zu Ergebnissen

Gerade bei innovativen Technologien wie künstlicher Intelligenz ist die Bedienung nicht erste Priorität der Softwarehersteller. Aus Sicht der Industrie ist das bedauerlich, denn anlagennah Beschäftigte haben oft die interessantesten Impulse für werksnahe KI-Projekte. Über integrierte Explainability rücken KI-Tools nun näher an die Prozessspezialisten heran.

Sollen im industriellen Internet der Dinge (IIoT) Fragestellungen mit KI-Technologien wie Machine Learning beantworten werden, muss ein weiter Bogen geschlagen werden, um zu Ergebnissen zu kommen: Vom spezifischen Produktionswissen hin zu KI, Datenwissenschaft und Modellbildung und zurück zu Erkenntnissen, die im Produktionsalltag umsetzbar sind. Mit der Zahl der Projektbeteiligten steigt das Risiko für Missverständnisse, Einschränkungen und Vereinfachungen oder von zu akademischen Ergebnissen. Je selbständiger Mitarbeiter mit KI-Tools arbeiten können, die sich mit den Anlagen auskennen, umso größer sind meist die Aussichten auf greifbare Verbesserungen. Eine Voraussetzung dafür ist die sogenannte Explainability. Damit gemeint ist die Fähigkeit der Systeme, eine für Menschen interpretierbare Beschreibung der Ergebnisse bereitzustellen. Denn um Prozesse zu optimieren, gilt es nicht nur zu wissen, was passiert, sondern auch warum. Eine weitere Voraussetzung ist eine möglichst benutzerfreundliche Bedienbarkeit der KI-Systeme. So sollten diese alles, was zur Lösung der Fragestellung relevant ist und nicht von den Anwendern geliefert werden kann, selbst herausfinden.

Beispiel Textilindustrie

Ein Anwendungsbeispiel von Machine Learning in der Produktion ist die Stoffherstellung in der Textilindustrie. Neuere Maschinen liefern über unterschiedliche Sensoren qualitätsrelevante Daten – beispielsweise zur Feinheit und Qualität des Stoffbandes, zum Druck auf den Walzen, Garnfehlern, dem Fadenlauf oder zu Knoten im Garn. Um die Qualität zu verbessern kann ein KI-Modell entwickelt und trainiert werden, das auf Basis der Sensordaten die Qualität vorhersagen kann. Früher mussten für solche Projekte Dienstleister ohne Domänenwissen beauftragt werden. Neuere Software-Tools ermöglichen es nach dem Import kompletter Pools von Rohdaten, sehr verschiedene Fragestellungen zu adressieren, ohne die Daten erneut anfassen zu müssen. Das Modell zur Beantwortung generiert und trainiert sich selbst. Damit rückt KI-Technik einen großen Schritt näher an den industriellen Anwender heran.