Der EU AI Act – Chance oder Hürde?

Europaweite Spielregeln für KI-Systeme kommen

Können Menschen die Antworten von KI-Systemen nicht nachvollziehen, ist nach dem Black-Box-Prinzip ein Vertrauensverlust zu erwarten. Mit dem ‚Artificial Intelligence Act‘ will die EU diesem vorbeugen, indem sie europaweite Qualitätsstandards und Regeln für KI-Systeme schafft. Ist der Vorschlag ein großer Wurf?

(Bild: ©mixmagic/stock.adobe.com)

Der AIA ist das weltweit erste Gesetz, das Systeme mit künstlicher Intelligenz in allen Lebensbereichen regulieren soll. Daher findet dieser Prozess auch international große Beachtung. Im Wesentlichen zielt die Gesetzgebung darauf ab, bestehende Grundrechte und Werte der Europäischen Union zu wahren, das Vertrauen in KI-Systeme zu stärken und den Binnenmarkt in Europa abzusichern. Die EU verfolgt bei diesem Gesetz den risikobasierten Ansatz. Der AIA sieht vor, dass KI-Anwendungen in vier Risikoklassen eingeteilt werden: inakzeptables, hohes, begrenztes und minimales Risiko. Für Anwendungen mit inakzeptablem Risiko, wie KI-getriebene Social-Scoring-Systeme, sieht die EU ein generelles Verbot vor. Anwendungen der Klasse mit einem hohen Risiko müssen sich einer Reihe von rechtlichen Verpflichtungen vor der Markteinführung unterziehen, einschließlich einer umfassenden Konformitätsbewertung.

Lösungsvorschlag mitgeliefert

Hierfür enthält der Gesetzesvorschlag eine anwendbare Methodik zur Einstufung von Hochrisiko-KI-Systemen, das heißt jenen Systemen, die erhebliche Gefahren für die Gesundheit und Sicherheit oder die Grundrechte von Personen bergen könnten. Solche KI-Systeme müssen künftig den Auflagen für vertrauenswürdige KI entsprechen und vor Inbetriebnahme einer Konformitätsbewertung unterzogen werden, in der Mindestanforderungen etwa bei Transparenz, Risikomanagement, Robustheit und Cybersicherheit geprüft werden. Die Dokumentationspflichten dazu umfassen seine detaillierte Spezifikation der verwendeten Trainings-, Validierungs- und Testdatensätze. Der AIA sieht außerdem vor, dass unabhängige Behörden die Einhaltung der Regeln überwachen und bei Verstößen Sanktionen verhängen können. Bei Verstößen sind Geldbußen in Höhe von bis zu 30 Millionen Euro oder von bis zu sechs Prozent des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres vorgesehen. (Stand November 2022)

ANZEIGE

Die Transformation meistern

Unternehmen stehen unter erheblichem Transformationsdruck, um ihre Wettbewerbsfähigkeit zu sichern. Doch es benötigt erfahrene Experten für die Gestaltung dieser digitalen und organisatorischen Prozesse.‣ weiterlesen

Vertrauen in Produkte schaffen

Erst sechs Prozent der deutschen Unternehmen gaben in einer Umfrage an, KI-gestützte Systeme zu nutzen. Neben vielen weiteren Aspekten ist es wichtig, bei der Einführung von KI-Systemen Datenschutz und IT-Sicherheit, Haftungs- und Verantwortungsfragen sowie ethische Bedenken zu berücksichtigen. Darüber hinaus erwartet die Gesellschaft, dass KI-Systeme auf die Besonderheiten beim Umgang mit personenbezogenen Daten eingestellt sind und Diskriminierungen vermeiden. Hierzu gehört auch die Kommunikation mit Kunden und Verbrauchern über die Verwendung von KI in Produkten. Solche Maßnahmen können zum Vertrauensaufbau bei KI-basierten Produkten beitragen – ein zentraler Faktor beim Aufbau dieses europäischen Wirtschaftszweiges.

Transparente KI-Anbieter

So zielt der AI Act auch darauf ab, künstliche Intelligenz zu einer sicheren und verantwortungsgerechten Technologie zu entwickeln. Die EU-Kommission kommt damit auch der Forderung aus der Wirtschaft nach, einen Rechtsrahmen für den Einsatz solcher Technologien und gleichzeitig Investitionssicherheit zu schaffen. Somit steigt die Wahrscheinlichkeit, dass noch weitere Industrieunternehmen KI-Systeme in ihre Prozesse integrieren und von den Vorteilen profitieren können. Die meisten KI-Appklikationen in der Industrie dürften in eine Kategorie niedrigeren Risikos fallen, da es sich hierbei um Systeme zur Predictive Maintenance oder Systeme ohne Verwendung von personenbezogenen Daten handelt. Hier fallen dann für die Unternehmen lediglich besondere Transparenzpflichten oder die Einhaltung von freiwilligen Verhaltenskodizes an. Die wesentliche Last der Risiko-Klassifizierung und Konformitätsbewertung wird hier auf den Anbieter der KI-Systeme entfallen.

Mehrarbeit in Aussicht

Im Rahmen ihrer Produktentwicklung integrieren Industrieunternehmen zunehmend Software und KI-Systeme ins Portfolio. Daher müssen Industrieunternehmen künftig sicherstellen, dafür einen sicheren Rahmen zu schaffen, der den Anforderungen an Datenschutz und Ethik genügt. Der AIA betrachtet nicht nur die KI-Systeme selbst, sondern auch die Produkte, die auf KI basieren oder diese integrieren. Die Hersteller solcher Erzeugnisse müssen künftig wohl sicherstellen, dass ihre KI-Produkte den Anforderungen des Gesetzes entsprechen und möglichst nicht als hochriskant eingestuft werden. Dies betrifft insbesondere Produkte im Gesundheits- oder Sicherheitsbereich. Die Inverkehrbringer übernehmen dabei künftig Verantwortung für die Konformität des KI-Systems gemäß AIA. Im Grunde werden sie ähnlichen Pflichten wie die klassischen IT-Anbieter nachkommen müssen. Dies betrifft die Konformitätsbewertungsverfahren, das Qualitätsmanagementsystem, die technische Dokumentation, die Entwicklungsprozesse und das Monitoring nach dem Inverkehrbringen des KI-Systems. Künftig werden Hersteller sicherstellen müssen, dass ihre KI-Systeme ethisch unbedenklich sind und nicht gegen Datenschutzvorschriften verstoßen. Darüber hinaus müssen die Systeme transparent und nachvollziehbar aufgesetzt sein, um von Behörden überprüfbar zu sein.

ANZEIGE

MES-Integrator und 360-Grad-Partner für optimierte Fertigung

Das Manufacturing Execution System (MES) HYDRA optimiert Produktionsprozesse für Fertigungsunternehmen, um Wettbewerbsvorteile zu erzielen.‣ weiterlesen

Inkrafttreten in 24 Monaten

Der AI Act bietet Unternehmen einen Rahmen, ihre Innovationskraft auf das Potenzial von KI auszurichten. Gleichzeitig müssen Unternehmen nachweislich die Sicherheit und Rechte von Verbrauchern schützen und die Haftungsrisiken ihrer KI-Systeme und -Produkte bewerten. Der AIA kann somit als Wegweiser für eine verantwortungsvolle und nachhaltige Anwendung von KI-Technologien in der Produktion und bei der Entwicklung von Produkten dienen. Der nun abschließende Trilog zwischen der Europäischen Kommission, dem Rat der Europäischen Union und dem Europäischen Parlament soll noch 2023 stattfinden und somit könnte das Gesetz noch in diesem Jahr in Kraft treten. Im Übrigen mussten seit der Vorlage des Gesetzes mehr als 3.000 Änderungsanträge eingearbeitet werden. Gemäß seines Art. 85 wird das AI-Gesetz dann voraussichtlich 24 Monate nach der Verabschiedung anwendbar sein – dieser Zeitraum kann sich aber auch noch deutlich verkürzen.

Das könnte Sie auch interessieren:

Basis für produktlebenslange Optimierungen
Der virtuelle Zwilling und der digitale Produktpass

Viele Produzenten werden in den nächsten Jahren Energie-Labels und digitale Produktpässe einrichten müssen. Auch die Energiepreise treiben nachhaltigere Prozesse voran. Der digitale Zwilling rückt als Datenmodell in den Fokus. ‣ weiterlesen

Studie untersucht Industriesektoren in China
Industrie 4.0 hat weder positiven noch negativen Einfluss auf Energieverbrauch

Stimmt es, dass die Industrie 4.0 die Energieeffizienz verbessert und damit die Energieintensität in der Industrie verringert? Ein Team des Forschungsinstituts für Nachhaltigkeit (RIFS) hat zehn Sektoren der industriellen Fertigung Chinas zwischen 2006 und 2019 daraufhin analysiert. Das Fazit der Studie: Die Digitalisierung scheint nicht automatisch Energiesparpotenziale in der fertigenden Industrie zu entfalten. ‣ weiterlesen

Neue Funktionen von Guided Selling bis Case Management
SAP-Cloudsoftware für Service und Vertrieb mit 2023er-Update

Vertrieb und Service sollen bestehende Kunden an das Unternehmen binden und neue gewinnen. Mit der Version V2 hat SAP seine dabei unterstützende CRM-Software erweitert. Der Anbieter verspricht unter anderem höhere Effizienz und intuitivere Bedienung. ‣ weiterlesen

Large Language Models in Business-Software
Generative KI in ERP- und CRM-Systemen

Viele Unternehmen integrieren derzeit künstliche Intelligenz (KI) in ihre Geschäftsprozesse. Insbesondere generative KI-Systeme, die eigene Inhalte erstellen können, bieten großes Potenzial. Zum Beispiel bei der Automatisierung von Routineaufgaben. ‣ weiterlesen

Plus 74 Prozent in 10 Jahren
Industrie steigert Investitionen in Klimaschutz

Etwas mehr als 4Mrd.€ hat die deutsche Industrie im Jahr 2021 im Bereich Klimaschutz investiert. Wie das Statistische Bundesamt mitteilt, floss etwa die Hälfte dieser Investitionen in die Nutzung erneuerbarer Energien. ‣ weiterlesen

Krisenfest mit solider ERP-Software
Krisenfest mit solider ERP-Software

Der Druck auf Produktionsbetriebe bleibt hoch. Neben gesetzlichen Forderungen kommen Anzeichen einer Rezession bis hin zu Absatzsorgen hinzu. Viele Lieferketten stehen weiter unter Druck und Energie- sowie Rohstoffpreise werden zunehmend schwer zu kalkulieren. Hinzu kommt oft die Unsicherheit, welche Schritte der digitalen Transformation in dieser Lage schnelle Ergebnisse hervorbringen. Dabei sind jene Unternehmen klar im Vorteil, bei denen eine performante ERP-Software die nötigen Weichenstellungen schnell und effektiv unterstützt. ‣ weiterlesen

Applikationszentrum Bahngeführte Roboterbearbeitung
Fraunhofer-Forscher bringen Robotern hochpräzises Arbeiten bei

Roboter sind im Vergleich zu Bearbeitungszentren preiswert in der Anschaffung und flexibel in mehreren Bewegungsachsen programmierbar. Kommt es auf besondere Genauigkeit beim Zerspanen, Fügen oder Umformen an, müssen sie jedoch oft passen. Die Forscher des neu geschaffenen Applikationszentrums Bahngeführte Roboterbearbeitung am Fraunhofer IWU wollen dies ändern. ‣ weiterlesen

Digitalgestützte Zusammenarbeit
ERP-Prozesse und Projektarbeit eng verzahnt

Wie wichtig ein ERP-Datum auch ist – Hinweise auf den nächsten Prozessschritt finden sich darin selten. Die Mitarbeitenden der verschiedenen Abteilungen müssen die Projekte über andere Kommunikationswege voranbringen. Martin Gáyer von AMS.Solution schildert, wie der ERP-integrierte AMS.Taskmanager dazu Menschen innerhalb und außerhalb eines Unternehmens zusammenbringen kann.
‣ weiterlesen

Daten und Prozesse auf künstliche Intelligenz vorbereiten
ERP-Arbeitsplatz für die KI einrichten

Prozessautomatisierung, Anomalieerkennung, Lageroptimierung – im ERP-Kontext gibt es viele Einsatzmöglichkeiten für KI. Mit den neuen Fähigkeiten der Large Language Models wie GPT könnten sich bald sogar ganze Prozessketten durch künstliche Intelligenz unterstützen lassen. Doch dafür müssen Unternehmen ihre Daten vorbereiten und ihre Prozesse klar definiert im ERP-System verankern. ‣ weiterlesen

CO2-Fußabdruck und Ökobilanz verbessern
ERP-Software mit integriertem Nachhaltigkeitsmanagement

Die EU Taxonomy definiert erstmals auf europäischer Ebene, was unter einer nachhaltigen Wirtschaft zu verstehen ist. In Deutschland trat kürzlich das Lieferkettensorgfaltspflichtengesetz in Kraft – und die Anforderungen nach transparenten Nachhaltigkeitsinformationen werden ebenfalls steigen. Unternehmen kommen am Thema Nachhaltigkeit nicht vorbei. Wer anfallende Aufgaben effektiv und effizient lösen will, könnte auf ein ERP-System mit integriertem Energiemanagementsystem setzen. ‣ weiterlesen

Ingenieurmonitor
Engpässe bei Ingenieurberufen in Energie- und Elektrotechnik

„In den kommenden Jahren wird durch Demografie, Digitalisierung und Klimaschutz der Bedarf an Beschäftigten in Ingenieur- und Informatikberufen deutlich zunehmen“, sagt VDI-Arbeitsmarktexperte Ingo Rauhut. Der Ingenieurmonitor für das zweite Quartal 2023 zeigt einen starken Engpass bei den Ingenieurberufen Energie- und Elektrotechnik.‣ weiterlesen