Anzeige
Anzeige
Anzeige
Beitrag drucken

Künstliche Intelligenz

Prüfkriterien zur KI-Zertifizierung

Um das wirtschaftliche und gesellschaftliche Potential von künstlicher Intelligenz auszuschöpfen, müssen Menschen den Entscheidungen von KI-Systemen und den mit ihnen verbundenen Prozessen vertrauen. Dazu kann eine entsprechende Zertifizierung beitragen. Nach welchen Kriterien dies geschehen könnte, zeigt die Plattform Lernende Systeme in einem aktuellen Whitepaper.

Bild: ©monsitj/stock.adobe.com

Bild: ©monsitj/stock.adobe.com

Die Zertifizierung ist eine Möglichkeit, um die Qualität eines KI-Systems sicherzustellen. Sie ist eine meist zeitlich begrenzte Bestätigung durch unabhängige Dritte, dass vorgegebene Standards, Normen oder Richtlinien eingehalten werden. Dabei gilt: Nicht jede KI-Anwendung muss zertifiziert werden. Während ein Großteil der KI-Systeme unproblematisch sein dürfte, wie etwa Algorithmen zur Identifizierung von Spammails, gibt es Anwendungen, die einer genaueren Prüfung unterzogen werden sollten, heißt es in in einem aktuellen Whitepaper der Plattform Lernende Systeme. Die Autoren schlagen darin vor, für die Entscheidung, ob ein System zertifiziert werden soll, die sogenannte Kritikalität des Systems zu bewerten. Zu fragen sei, ob ein System Menschenleben oder Rechtsgüter wie die Umwelt gefährde und wie viel Handlungsspielraum dem Menschen bei der Auswahl und Nutzung der Anwendung bleibt, etwa um bestimmte Funktionen abzuschalten. Entscheidend für die Kritikalität ist stets der Anwendungskontext. Das gleiche System kann in einem Anwendungskontext unproblematisch und in einem anderen höchst kritisch sein. So könne ein Staubsaugerroboter trotz seines hohen Maßes an Autonomie zunächst als vergleichsweise unproblematisch gelten, sammelt er aber Daten, die er seinem Hersteller zur Verfügung stellt, kann die Bewertung kritischer ausfallen.

Überregulierung ist zu vermeiden

„Eine Zertifizierung kann für eine Vielzahl von KI-Systemen dazu beitragen, ihr gesellschaftliches Nutzenpotential sicher und gemeinwohlorientiert auszuschöpfen. Damit dies im Einklang mit gesellschaftlich anerkannten Werten geschieht, muss eine Form von Zertifizierung gefunden werden, die von wichtigen ethischen Prinzipien geleitet wird, aber gleichzeitig auch ökonomische Prinzipien erfüllt, Überregulierung vermeidet sowie Innovationen fördert. Im besten Fall kann eine Zertifizierung selbst zum Auslöser neuer Entwicklungen für einen europäischen Weg in der KI-Anwendung werden“, sagt Jessica Heesen, Leiterin des Forschungsschwerpunkts Medienethik und Informationstechnik am Internationalen Zentrum für Ethik in den Wissenschaften (IZEW) der Universität Tübingen sowie Co-Leiterin der Arbeitsgruppe IT-Sicherheit, Privacy, Recht und Ethik. Bei einem höheren Kritikalitätsgrad, wie zum Beispiel einer KI, die zur Verteilung von Studienplätzen eingesetzt wird, empfehlen Autoren, den Staat als regulierende Instanz einzusetzen. Für besonders kritische Anwendungskontexte wie einer biometrischen Fernidentifikation könnte der Staat Verbote oder Einschränkungen beim Einsatz aussprechen.

Die anzulegenden Prüfkriterien unterteilen die Autoren in Mindestkriterien, die immer erfüllt werden müssen, und darüber hinaus gehende freiwillige Kriterien. Zu den Mindestkriterien zählten Transparenz, Sicherheit, Diskriminierungsfreiheit oder Schutz der Privatheit. Als weitere Kriterien nennt das Whitepaper etwa Nutzerfreundlichkeit oder Nachhaltigkeit. Die Zertifizierung sollte durchgeführt werden, bevor das KI-System in der Praxis zum Einsatz kommt. Allerdings entwickeln sich vor allem lernende KI-Systeme nach Inbetriebnahme weiter, was turnusmäßige Re-Zertifizierungen notwendig machen kann. Zudem empfehlen die Autoren, Bürger in Zertifizierungsprozesse einzubeziehen und bereits in der Schule Wissen zur Funktionsweise von KI-Systemen zu vermitteln.

Beitrag drucken

Prüfkriterien zur KI-Zertifizierung

Um das wirtschaftliche und gesellschaftliche Potential von künstlicher Intelligenz auszuschöpfen, müssen Menschen den Entscheidungen von KI-Systemen und den mit ihnen verbundenen Prozessen vertrauen. Dazu kann eine entsprechende Zertifizierung beitragen. Nach welchen Kriterien dies geschehen könnte, zeigt die Plattform Lernende Systeme in einem aktuellen Whitepaper. (mehr …)


Das könnte Sie auch interessieren:

Knapp die Hälfte der im Rahmen einer von Hewlett Packard Enterprise in Auftrag gegebenen Studie befragten Firmen in Deutschland hat die eigene Cloud-Nutzung seit Beginn der Corona-Krise ausgebaut.‣ weiterlesen

Ohne Digitalisierung und Automation kann kein Fertigungsunternehmen langfristig bestehen, ist Marco Bauer, Geschäftsführer der BAM GmbH, überzeugt. Er setzt daher auf eine digitale automatisierte Prozesskette von Onlineshop bis zu den Fertigungszellen. Zentrales Element ist die automatisierte CAM-Programmierung mit Hypermill.‣ weiterlesen

Google Cloud und Siemens wollen im Rahmen einer Partnerschaft und unter Einsatz von KI-Technologien Fertigungsprozesse verbessern.‣ weiterlesen

Die ZEW-Konjunkturerwartungen für Deutschland sinken in der aktuellen Umfrage vom April 2021 um 5,9 Punkte und liegen damit bei 70,7 Punkten. Dies ist der erste Rückgang seit November 2020. Laut ZEW liegen die Erwartungen nach wie vor auf einem sehr hohen Niveau.‣ weiterlesen

Drei Viertel der Entscheider in deutschen Industrieunternehmen sehen ihren Markt im Prozess der digitalen Transformation. Die Hälfte der Unternehmen setzt dabei bereits auf den Einsatz von Industrial IoT-Technologien. Zu diesen Ergebnissen kommt eines Studie des IIoT-Spezialisten Relayr, die unter 200 Entscheidern aus der Fertigungsindustrie in Deutschland im Sommer 2020 vom Marktforschungsunternehmen Forsa durchgeführt wurde.‣ weiterlesen

Damit die anspruchsvollen Maschinen von Heidelberger Druckmaschinen nicht ungeplant ausfallen, bietet das Unternehmen die Software Maintenance Manager zur vorausschauenden Wartung an. Jetzt hat Tochterunternehmen Docufy das Tool hinter der Lösung als White-Label-Angebot auf den Markt gebracht.‣ weiterlesen

Im Rahmen einer Partnerschaft wollen T-Systems und GFT gemeinsame Lösungen für die Fertigungsindustrie anbieten, mit denen Fehler in der Produktion schneller erkannt werden können.‣ weiterlesen

John Abel wechselt von Veritas zu Extreme Networks, wo er künftig die Position des CIOs wahrnehmen wird.‣ weiterlesen

Nach fünf Messetagen ging am Freitag die Hannover Messe zu Ende. Insgesamt 90.000 Teilnehmer haben sich für die digitale Edition der Industrieschau registriert. Auch ohne Präsenzveranstaltung zog die Deutsche Messe ein positives Fazit. Ein Ersatz sei die digitale Messe jedoch nicht, so Dr. Jochen Köckler, Vorstandsvorsitzender der Deutschen Messe. Die nächste Messe soll als Hybridveranstaltung teilnehmen.‣ weiterlesen

Produzierende Unternehmen brauchen Transparenz über Zusammenhänge, über Kosten und Erträge und die Prozessqualität. Business Intelligence ist die Antwort der Softwareanbieter für dieses Problem. Für SAP S/4Hana-Anwender könnte dafür insbesondere die SAP Analytics Cloud interessant sein.‣ weiterlesen

Seit gut eineinhalb Jahren betreibt Simus Systems eine Online-Plattform, auf der Auftraggeber und Auftragnehmer die Metallbearbeitung von Bauteilen kalkulieren - und das Interesse am Tool ist rege. Anwender laden ihr CAD-Modell hoch und erhalten eine valide Vorkalkulation des geplanten Bauteils.‣ weiterlesen

Anzeige
Anzeige
Anzeige