Vertrauen in künstliche Intelligenz
Akzeptanz schaffen, nur wie?
Korrekte Daten
Die Daten müssen mit der Realität übereinstimmen und zur Anwendung passen. Mittels des Mapping-Ansatzes können Daten, deren Korrektheit bestätigt ist, eingesetzt oder Plausibilitäts-Regeln bestimmt werden. So lässt sich einer Diskrepanz zwischen den genutzten Daten und der Realität vorbeugen.
Vertrauenswürdige Umsetzung
Die Vertrauenswürdigkeit wird durch die Infrastruktur des KI-Systems bestimmt. Neben dem Einsatz qualitativ hochwertiger Technologien ist auch die Kooperation von Experten der jeweiligen Anwendungsdomänen von Vorteil sowie mit Spezialisten im Bereich KI-Entwicklung und IT-Sicherheit. Manipulationsmöglichkeiten sowie der Missbrauch der Anwendungen und der Daten können so reduziert werden. Die neunte Ausgabe von Rockwell Automations „State of Smart Manufacturing“ Report liefert Einblicke in Trends und Herausforderungen für Hersteller. Dazu wurden über 1.500 Fertigungsunternehmen befragt, knapp 100 der befragten Unternehmen kommen aus Deutschland. ‣ weiterlesen
KI in Fertigungsbranche vorn
Nachvollziehbare Ergebnisse
KI wird zunehmend in automatisierte IT-Systeme eingebunden sein. Da die Eingriffsmöglichkeiten extrem restriktiv sind, muss mit Tests, Simulationen und Validierungen sichergestellt werden, dass die KI ihre Funktionen korrekt ausführt. Ebenso kommt der Definition der Verantwortung sowie der daraus resultierenden Haftung eine besondere Bedeutung zu – auch diese Aspekte tragen zum Vertrauen bei. Zudem sollte der Mensch als kontrollierender Faktor gemäß des Konzeptes ‚Keep the human in the loop‘ in den Kreislauf der KI eingebunden werden. Daraus folgt, dass das Ergebnis der KI als Handlungsempfehlung zu verstehen ist und somit der Mensch entscheidet, ob er dieser folgt oder nicht. Die Nutzer bleiben auf diese Weise selbstbestimmt.
Klare Verantwortlichkeit
In erster Linie liegt es an den Unternehmen, Vertrauen aufzubauen – sowohl bei ihren Mitarbeitern und Kunden, als auch in der Gesellschaft insgesamt. Dies lässt sich durch grundlegende Prinzipien zur Entwicklung sowie zum Einsatz von KI-basierten Anwendungen erreichen. Darin werden wesentliche Handlungsprämissen wie der Vorrang des menschlichen Handels und die Verpflichtung zu gesellschaftlichem und ökologischem Wohlergeben von dem Unternehmen niedergelegt. Der Thin[gk]athon, veranstaltet vom Smart Systems Hub, vereint kollaborative Intelligenz und Industrie-Expertise, um in einem dreitägigen Hackathon innovative Lösungsansätze für komplexe Fragestellungen zu generieren. ‣ weiterlesen
Innovationstreiber Thin[gk]athon: Kollaborative Intelligenz trifft auf Industrie-Expertise
Mitunter Erfolgsentscheidend
Der Einsatz von künstlicher Intelligenz dient als Basis einer komplexen Urteilsfindung. Doch aufgrund der Tatsache, dass die Prozesse hin zur KI-Entscheidung in einer Blackbox ablaufen, gibt es keine Gewissheit darüber, wie die Ergebnisse zustande kommen und ob sie valide sind. Viele Beispiele zeigen, dass Entwicklung und Einsatz KI-basierter Anwendungen einer hohen Methodenkompetenz bedürfen – insbesondere in Bezug auf die Modellgestaltung zur Datenerfassung- und nutzung. Insgesamt müssen diese Herausforderungen gelöst werden, denn die daraus resultierende Vertrauenswürdigkeit ist maßgeblich für die Akzeptanz der KI-Anwendung. Ebenso trägt die Aufklärung bezüglich der Chancen und Risiken von KI-Technologien dazu bei, Vertrauen zu schaffen. Und auch ethische Aspekte sind zu berücksichtigen – Unterstützung bei der Umsetzung von KI-Systemen gemäß ethischer Kriterien wird mittlerweile auch Tool-basiert angeboten.
