Können Menschen die Antworten von KI-Systemen nicht nachvollziehen, ist nach dem Black-Box-Prinzip ein Vertrauensverlust zu erwarten. Mit dem ‚Artificial Intelligence Act‘ will die EU diesem vorbeugen, indem sie europaweite Qualitätsstandards und Regeln für KI-Systeme schafft. Ist der Vorschlag ein großer Wurf?
(Bild: ©mixmagic/stock.adobe.com)
Der AIA ist das weltweit erste Gesetz, das Systeme mit künstlicher Intelligenz in allen Lebensbereichen regulieren soll. Daher findet dieser Prozess auch international große Beachtung. Im Wesentlichen zielt die Gesetzgebung darauf ab, bestehende Grundrechte und Werte der Europäischen Union zu wahren, das Vertrauen in KI-Systeme zu stärken und den Binnenmarkt in Europa abzusichern. Die EU verfolgt bei diesem Gesetz den risikobasierten Ansatz. Der AIA sieht vor, dass KI-Anwendungen in vier Risikoklassen eingeteilt werden: inakzeptables, hohes, begrenztes und minimales Risiko. Für Anwendungen mit inakzeptablem Risiko, wie KI-getriebene Social-Scoring-Systeme, sieht die EU ein generelles Verbot vor. Anwendungen der Klasse mit einem hohen Risiko müssen sich einer Reihe von rechtlichen Verpflichtungen vor der Markteinführung unterziehen, einschließlich einer umfassenden Konformitätsbewertung.
Hierfür enthält der Gesetzesvorschlag eine anwendbare Methodik zur Einstufung von Hochrisiko-KI-Systemen, das heißt jenen Systemen, die erhebliche Gefahren für die Gesundheit und Sicherheit oder die Grundrechte von Personen bergen könnten. Solche KI-Systeme müssen künftig den Auflagen für vertrauenswürdige KI entsprechen und vor Inbetriebnahme einer Konformitätsbewertung unterzogen werden, in der Mindestanforderungen etwa bei Transparenz, Risikomanagement, Robustheit und Cybersicherheit geprüft werden. Die Dokumentationspflichten dazu umfassen seine detaillierte Spezifikation der verwendeten Trainings-, Validierungs- und Testdatensätze. Der AIA sieht außerdem vor, dass unabhängige Behörden die Einhaltung der Regeln überwachen und bei Verstößen Sanktionen verhängen können. Bei Verstößen sind Geldbußen in Höhe von bis zu 30 Millionen Euro oder von bis zu sechs Prozent des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres vorgesehen. (Stand November 2022)
Erst sechs Prozent der deutschen Unternehmen gaben in einer Umfrage an, KI-gestützte Systeme zu nutzen. Neben vielen weiteren Aspekten ist es wichtig, bei der Einführung von KI-Systemen Datenschutz und IT-Sicherheit, Haftungs- und Verantwortungsfragen sowie ethische Bedenken zu berücksichtigen. Darüber hinaus erwartet die Gesellschaft, dass KI-Systeme auf die Besonderheiten beim Umgang mit personenbezogenen Daten eingestellt sind und Diskriminierungen vermeiden. Hierzu gehört auch die Kommunikation mit Kunden und Verbrauchern über die Verwendung von KI in Produkten. Solche Maßnahmen können zum Vertrauensaufbau bei KI-basierten Produkten beitragen – ein zentraler Faktor beim Aufbau dieses europäischen Wirtschaftszweiges.
Vorhaben zum Nachweis der Energieoptimierung und die Verpflichtung, CSR-Berichte zu erstellen, beschäftigen die Industrie. Auch wenn diese zunächst mit Umstrukturierungen und finanziellen Aufwänden verbunden sind, so investieren Industrieunternehmen damit langfristig in ihre Zukunftssicherheit.‣ weiterlesen
So zielt der AI Act auch darauf ab, künstliche Intelligenz zu einer sicheren und verantwortungsgerechten Technologie zu entwickeln. Die EU-Kommission kommt damit auch der Forderung aus der Wirtschaft nach, einen Rechtsrahmen für den Einsatz solcher Technologien und gleichzeitig Investitionssicherheit zu schaffen. Somit steigt die Wahrscheinlichkeit, dass noch weitere Industrieunternehmen KI-Systeme in ihre Prozesse integrieren und von den Vorteilen profitieren können. Die meisten KI-Appklikationen in der Industrie dürften in eine Kategorie niedrigeren Risikos fallen, da es sich hierbei um Systeme zur Predictive Maintenance oder Systeme ohne Verwendung von personenbezogenen Daten handelt. Hier fallen dann für die Unternehmen lediglich besondere Transparenzpflichten oder die Einhaltung von freiwilligen Verhaltenskodizes an. Die wesentliche Last der Risiko-Klassifizierung und Konformitätsbewertung wird hier auf den Anbieter der KI-Systeme entfallen.
Im Rahmen ihrer Produktentwicklung integrieren Industrieunternehmen zunehmend Software und KI-Systeme ins Portfolio. Daher müssen Industrieunternehmen künftig sicherstellen, dafür einen sicheren Rahmen zu schaffen, der den Anforderungen an Datenschutz und Ethik genügt. Der AIA betrachtet nicht nur die KI-Systeme selbst, sondern auch die Produkte, die auf KI basieren oder diese integrieren. Die Hersteller solcher Erzeugnisse müssen künftig wohl sicherstellen, dass ihre KI-Produkte den Anforderungen des Gesetzes entsprechen und möglichst nicht als hochriskant eingestuft werden. Dies betrifft insbesondere Produkte im Gesundheits- oder Sicherheitsbereich. Die Inverkehrbringer übernehmen dabei künftig Verantwortung für die Konformität des KI-Systems gemäß AIA. Im Grunde werden sie ähnlichen Pflichten wie die klassischen IT-Anbieter nachkommen müssen. Dies betrifft die Konformitätsbewertungsverfahren, das Qualitätsmanagementsystem, die technische Dokumentation, die Entwicklungsprozesse und das Monitoring nach dem Inverkehrbringen des KI-Systems. Künftig werden Hersteller sicherstellen müssen, dass ihre KI-Systeme ethisch unbedenklich sind und nicht gegen Datenschutzvorschriften verstoßen. Darüber hinaus müssen die Systeme transparent und nachvollziehbar aufgesetzt sein, um von Behörden überprüfbar zu sein.
Der AI Act bietet Unternehmen einen Rahmen, ihre Innovationskraft auf das Potenzial von KI auszurichten. Gleichzeitig müssen Unternehmen nachweislich die Sicherheit und Rechte von Verbrauchern schützen und die Haftungsrisiken ihrer KI-Systeme und -Produkte bewerten. Der AIA kann somit als Wegweiser für eine verantwortungsvolle und nachhaltige Anwendung von KI-Technologien in der Produktion und bei der Entwicklung von Produkten dienen. Der nun abschließende Trilog zwischen der Europäischen Kommission, dem Rat der Europäischen Union und dem Europäischen Parlament soll noch 2023 stattfinden und somit könnte das Gesetz noch in diesem Jahr in Kraft treten. Im Übrigen mussten seit der Vorlage des Gesetzes mehr als 3.000 Änderungsanträge eingearbeitet werden. Gemäß seines Art. 85 wird das AI-Gesetz dann voraussichtlich 24 Monate nach der Verabschiedung anwendbar sein – dieser Zeitraum kann sich aber auch noch deutlich verkürzen.
Ein neuer Supercomputer soll Forschende am Karlsruher Institut für Technologie dabei unterstützen, neue Materialien etwa für die Medizin- oder Energieforschung schneller zu entwickeln.‣ weiterlesen
Version 5.2.9 der xSuite Business Solutions steht für den Einsatz bereit. Die Workflows des SAP-basierten Produktportfolios sind jetzt komplett in SAP Fiori ausführbar und wurden für das neue SAP S/4Hana 2022 zertifiziert. Hersteller xSuite hat zudem sein Softwareangebot in neue Basis- und Premiumpakete umgeschnürt.‣ weiterlesen
Mit dem Aufbau von Wirtschaftskreisläufen könnten Fertigungsunternehmen einige der akuten Herausforderungen wie Preissteigerungen und Ressourceneffizienz wirkungsvoll adressieren. Dazu müssen Firmen allerdings eine Reihe von Qualifikationen erlangen. Das ERP-System kann dafür den Rahmen bilden.‣ weiterlesen
Wie belegen Unternehmen die Ergebnisse ihrer ESG-Initiativen? Mit Auswertungen und Reports aus ihrer Unternehmenssoftware. Die Anwendung des ERP-Anbieters IFS Applications für solche Aufgaben heißt Sustainability Hub.‣ weiterlesen
Acatech-Präsident Jan Wörner wird Co-Vorsitzender der Plattform Lernende Systeme. Gemeinsam mit Bundesministerin Bettina Stark-Watzinger bildet er die neue Doppelspitze des KI-Netzwerks. Der scheidende Co-Vorsitzende Reinhard Ploss bleibt der Plattform verbunden.‣ weiterlesen
Analysesoftware-Spezialist Alteryx hat sein Produkt Analytics Cloud Platform funktional erweitert. Die neu gestaltete Designer Cloud-Benutzeroberfläche ist jetzt mit mehr als 30 erweiterten Tools zur Vorbereitung, Zusammenführung, Analyse und Automatisierung verfügbar, schreibt der Anbieter in der Pressemitteilung zum Release.‣ weiterlesen
Integrieren Hersteller Technologien mit dem Prädikat 'Green Manufacturing', ist der Blick oft nur auf den unmittelbaren ökologischen und ökonomischen Nutzen gerichtet. Oft fehlt die Berechnung der Gesamtbilanz dieser Digitalisierungsmaßnahmen und der Weitblick in Sachen Nachhaltigkeit.‣ weiterlesen
Eigentlich soll der Low-Code-Ansatz vieles einfacher machen, wenn sich etwa Fachabteilungen ihre eigenen Anwendungen aufsetzen können. Doch in den IT-Abteilungen steigt dadurch der Aufwand für Support und Entwicklung. Eine zentrale Integrationsplattform kann diesem Effekt entgegenwirken.‣ weiterlesen
Die Anbindung der Produktionsmaschinen an die IT-Systeme beeinflusst zunehmend die Effizienz und Flexibilität einer Fabrik. Die wohl höchste Hürde solcher Integrationen ist, den vielen verschiedenen Maschinen die gleiche Sprache beizubringen. Wer das plant, aber die Individualentwicklung dahinter scheut, sollte sich die Software MK|Connect ansehen.‣ weiterlesen
Seit dem Urteil des Bundesarbeitsgerichts vom 13. September 2022 ist die Arbeitszeiterfassung nun für Unternehmen verpflichtend. Lösungen zur elektronischen Zeiterfassung können dabei behilflich sein. Doch was gilt es bei der Systemauswahl zu beachten, um möglichst reibungslos ans Ziel zu kommen?‣ weiterlesen
Zutrittsberechtigungen für Bereiche kritischer Infrastrukturen sind eine sensible Sache. Kurzfristige Berechtigungen müssen zunächst organisiert und langfristige Berechtigungen können zum Sicherheitsrisiko werden. Iseo adressiert dieses Problem mit der Data-on-Credentail-Technologie und verknüpft so Offline-Komponenten mit Online-Lösungen.‣ weiterlesen
Mittelständische Unternehmen investieren selbst in schwierigen Zeiten in Microsoft-Technologien, weil sie überzeugt sind, dass ihre Mitarbeiterproduktivität steigt und sich ihre Kostenstruktur bessert. Microsoft hat mit dem Microsoft-Partner-Network ein Netzwerk aufgebaut, das ein Forum für den Aufbau von Partnerschaften, Zugang zu Ressourcen und einen Rahmen für Dialoge und Kooperationen bietet. Für unsere Leser gibt die Microsoft-Partnerübersicht in Ausgabe Juli/August der IT&Production Tipps für die Suche nach einer geeigneten Branchen- oder Speziallösung im Bereich des produzierenden Gewerbes.
Auf der Suche nach Innovation, nach neuen Lösungen und der Abgrenzung zum Mitbewerb vernetzen sich zunehmend mehr Unternehmen mit externen Experten und Partnern. SAP hat mit dem SAP-Ecosystem ein Netzwerk aufgebaut, das ein Forum für den Aufbau von Partnerschaften, Zugang zu Ressourcen und einen Rahmen für Dialoge und Kooperationen bietet. In der Maiausgabe der Fachzeitschrift IT&Production erhalten unsere Leser einen aktuellen Überblick zum SAP-Ecosystem im Bereich des produzierenden Gewerbes.
Ein Unternehmen, das sich mit der Auswahl eines ERP- Systems befasst, muss sich gleichsam mit einem viel- schichtigen Software-Markt und unklaren Interessen- lagen an interne Abwick- lungsprozesse auseinander- setzen. Guter Rat bei der Investitionsentscheidung ist teuer. ERP/CRM Wissen Kompakt unterstützt Sie bei der gezielten Investition in die IT-Infrastruktur.
Immer mehr Anbieter von Maschinen, Automatisierungstechnik und Industriesoftware integrieren künstliche Intelligenz in ihre Produkte. Das ganze Potenzial spielen selbstlernende Systeme aber erst aus, wenn sie passgenau auf ihren Einsatz in Fertigung und Büro zugeschnitten wurden. Über beide Möglichkeiten, als Fertiger die Vorzüge von industrieller KI zu nutzen, geht es im regelmäßig aktualisierten Themenheft Künstliche Intelligenz.
Das Internet of Things verändert Produktwelten und die Vernetzung in der Fertigung gleichermaßen. Entstehende Ökosysteme laden zur einer neuen Form der Zusammenarbeit ein. Die Spezialausgabe IoT Wissen Kompakt informiert über die Technologie, Projektierung und Anbieter für die eigene Applikation, in- und außerhalb der Fabrik.
Um alle Potenziale eines MES umfassend ausnutzen zu können, beleuchten unsere Autoren in der Serie von MES Wissen Kompakt die erfolgskritischen Faktoren, um Fertigungsunternehmen präventiv zu steuern. Darüber hinaus präsentiert MES Wissen Kompakt ein breites Spektrum an Firmenportraits, Produkt- neuheiten und Dienst- leistungen im MES-Umfeld.
