Anzeige
Anzeige
Anzeige
Beitrag drucken

Künstliche Intelligenz

Prüfkriterien zur KI-Zertifizierung

Um das wirtschaftliche und gesellschaftliche Potential von künstlicher Intelligenz auszuschöpfen, müssen Menschen den Entscheidungen von KI-Systemen und den mit ihnen verbundenen Prozessen vertrauen. Dazu kann eine entsprechende Zertifizierung beitragen. Nach welchen Kriterien dies geschehen könnte, zeigt die Plattform Lernende Systeme in einem aktuellen Whitepaper.

Bild: ©monsitj/stock.adobe.com

Bild: ©monsitj/stock.adobe.com

Die Zertifizierung ist eine Möglichkeit, um die Qualität eines KI-Systems sicherzustellen. Sie ist eine meist zeitlich begrenzte Bestätigung durch unabhängige Dritte, dass vorgegebene Standards, Normen oder Richtlinien eingehalten werden. Dabei gilt: Nicht jede KI-Anwendung muss zertifiziert werden. Während ein Großteil der KI-Systeme unproblematisch sein dürfte, wie etwa Algorithmen zur Identifizierung von Spammails, gibt es Anwendungen, die einer genaueren Prüfung unterzogen werden sollten, heißt es in in einem aktuellen Whitepaper der Plattform Lernende Systeme. Die Autoren schlagen darin vor, für die Entscheidung, ob ein System zertifiziert werden soll, die sogenannte Kritikalität des Systems zu bewerten. Zu fragen sei, ob ein System Menschenleben oder Rechtsgüter wie die Umwelt gefährde und wie viel Handlungsspielraum dem Menschen bei der Auswahl und Nutzung der Anwendung bleibt, etwa um bestimmte Funktionen abzuschalten. Entscheidend für die Kritikalität ist stets der Anwendungskontext. Das gleiche System kann in einem Anwendungskontext unproblematisch und in einem anderen höchst kritisch sein. So könne ein Staubsaugerroboter trotz seines hohen Maßes an Autonomie zunächst als vergleichsweise unproblematisch gelten, sammelt er aber Daten, die er seinem Hersteller zur Verfügung stellt, kann die Bewertung kritischer ausfallen.

Überregulierung ist zu vermeiden

„Eine Zertifizierung kann für eine Vielzahl von KI-Systemen dazu beitragen, ihr gesellschaftliches Nutzenpotential sicher und gemeinwohlorientiert auszuschöpfen. Damit dies im Einklang mit gesellschaftlich anerkannten Werten geschieht, muss eine Form von Zertifizierung gefunden werden, die von wichtigen ethischen Prinzipien geleitet wird, aber gleichzeitig auch ökonomische Prinzipien erfüllt, Überregulierung vermeidet sowie Innovationen fördert. Im besten Fall kann eine Zertifizierung selbst zum Auslöser neuer Entwicklungen für einen europäischen Weg in der KI-Anwendung werden“, sagt Jessica Heesen, Leiterin des Forschungsschwerpunkts Medienethik und Informationstechnik am Internationalen Zentrum für Ethik in den Wissenschaften (IZEW) der Universität Tübingen sowie Co-Leiterin der Arbeitsgruppe IT-Sicherheit, Privacy, Recht und Ethik. Bei einem höheren Kritikalitätsgrad, wie zum Beispiel einer KI, die zur Verteilung von Studienplätzen eingesetzt wird, empfehlen Autoren, den Staat als regulierende Instanz einzusetzen. Für besonders kritische Anwendungskontexte wie einer biometrischen Fernidentifikation könnte der Staat Verbote oder Einschränkungen beim Einsatz aussprechen.

Die anzulegenden Prüfkriterien unterteilen die Autoren in Mindestkriterien, die immer erfüllt werden müssen, und darüber hinaus gehende freiwillige Kriterien. Zu den Mindestkriterien zählten Transparenz, Sicherheit, Diskriminierungsfreiheit oder Schutz der Privatheit. Als weitere Kriterien nennt das Whitepaper etwa Nutzerfreundlichkeit oder Nachhaltigkeit. Die Zertifizierung sollte durchgeführt werden, bevor das KI-System in der Praxis zum Einsatz kommt. Allerdings entwickeln sich vor allem lernende KI-Systeme nach Inbetriebnahme weiter, was turnusmäßige Re-Zertifizierungen notwendig machen kann. Zudem empfehlen die Autoren, Bürger in Zertifizierungsprozesse einzubeziehen und bereits in der Schule Wissen zur Funktionsweise von KI-Systemen zu vermitteln.

Beitrag drucken

Prüfkriterien zur KI-Zertifizierung

Um das wirtschaftliche und gesellschaftliche Potential von künstlicher Intelligenz auszuschöpfen, müssen Menschen den Entscheidungen von KI-Systemen und den mit ihnen verbundenen Prozessen vertrauen. Dazu kann eine entsprechende Zertifizierung beitragen. Nach welchen Kriterien dies geschehen könnte, zeigt die Plattform Lernende Systeme in einem aktuellen Whitepaper. (mehr …)


Das könnte Sie auch interessieren:

Autoneum CZ verfolgt das Ziel, alle Logistikprozesse zu digitalisieren. Auf dem Weg dorthin wurde im Jahr 2019 die Produktionsplanung digitalisiert. Die hohen Anforderungen erfüllt das Advanced Planning and Scheduling-System von Asprova.‣ weiterlesen

Das Ludwigshafener Softwarehaus Fasihi hat ein digitales Assistenzsystem ins Programm genommen. Es unterstützt Mitarbeiter in der Produktion durch die Anzeige von Dokumenten wie Handbücher, Anleitungen, Betriebs- und Verfahrensanweisungen oder auch Informationen aus Modulen wie einer Gefahrstoffdatenbank.‣ weiterlesen

Die FOG Software Group will mit der Übernahme von Facton ihr Portfolio an Softwarelösungen für die intelligente Fertigung ausbauen.‣ weiterlesen

Eplan startet mit der Gründung eines neuen Partnernetzwerks in das neue Jahr. Durch den Austausch der Partner soll unter anderem die Integration unterschiedlicher Systeme vereinfacht werden.‣ weiterlesen

Am Unternehmenshauptsitz von Dyer Engineering laufen bis zu 1.000 Aufträge gleichzeitig ab, bis zu 5.000 Komponenten sind dafür im Umlauf. Wer da auf technische Unterstützung verzichtet, verliert schnell den Überblick und riskiert Stillstände und Zusatzaufwand. Gelöst hat die Firma dieses Problem mit einer Asset-Tracking-Lösung auf Bluetooth-Basis.‣ weiterlesen

Mit der Übernahme des US-Unternehmens Diversified Automation will Leadec seine Präsenz in Nordamerika stärken.‣ weiterlesen

Wer bei der SMS Group in Hilchenbach wirklich alle Maschinendaten in die MES-Software integrieren will, muss bis zu 30 Jahre alte Steuerungen zum Reden bringen. Wie das geht, wussten die Mitarbeiter des Metallspezialisten zwar. Aus Zeitgründen erhielt jedoch der Dienstleister Schmid Engineering den Auftrag, die 55 Maschinen ans MES anzuschließen.‣ weiterlesen

Campus-Netze sind in Deutschland zur Zeit der vielversprechendste Ansatz, wenn es um den industriellen Einsatz von 5G-Funktechnik geht. Denn erstmals erlaubt die Bundesnetzagentur auch Unternehmen außerhalb der Telekommunikationsbranche, Funkfrequenzen zu buchen. Doch welche Konzepte für den Aufbau eines Campus-Netzes gibt es?‣ weiterlesen

Um den Robotereinsatz bei kleineren und mittleren Unternehmen zu fördern, wurde Ende des vergangenen Jahres der Deutsche Robotik Verband gegründet.‣ weiterlesen

Auf 2021 blicken die Entscheider in der Branche mit einer Mischung aus Zurückhaltung und leichtem Optimismus. Dies geht aus dem aktuellen Maschinenbau-Barometer von PwC hervor.‣ weiterlesen

Die SmartFaxtory KL arbeitet an der Realisierung an einem Shared Production-Ansatz und bildet so die Grundlage für das europäische Infrastrukturprojekt GAIA-X.‣ weiterlesen

Anzeige
Anzeige
Anzeige
Anzeige
Anzeige
Anzeige