KI-basierte Systeme und Maschinen werden immer autonomer, selbstständiger und intelligenter. Ob und wie ist es zu schaffen, dass sie auf Dauer menschlichen Werten und Regeln folgen? Dr. Kurt D. Bettenhausen, Vorsitzender des interdisziplinären Gremiums Digitale Transformation im VDI und Vorstandsmitglied der VDI/VDE-GMA, spricht im zehnten Teil unserer Serie Autonome Systeme mit dem VDI.
(Bild: © matiasdelcarmine | stock.adobe.com)
Dr. Kurt D. Bettenhausen: Lassen Sie uns für einen Moment von der Annahme ausgehen, dass die Leistungsfähigkeit tatsächlich in einen Bereich steigt, in dem autonome Systeme sich selbständig über ihren eigentlichen Bestimmungszweck hinaus weiterentwickeln können. Grundsätzlich bleiben drei Möglichkeiten: Dem Erbauer des autonomen Systems ethische Regeln für das Design der Systeme zu geben, das System selbst zu reglementieren oder dem System Regeln mitzugeben, die seine Weiterentwicklung lenken.
Bettenhausen: Solange wir über Systeme reden, die nicht KI-basiert sind, ist es vollkommen ausreichend, wenn die Personen, die sie konstruieren und programmieren, ethischen Werten folgen. Das System selbst reglementieren zu wollen, wird sich auf Dauer als Hase-und-Igel-Spiel entwickeln, bei dem die Regeln und die Regelnden mit hoher Wahrscheinlichkeit nicht mit dem technologischen Fortschritt werden mithalten können. In dem Moment jedoch, in dem das eigenständige Lernen eines Systems ins Spiel kommt, z.B. über Methoden wie Deep Learning, müssen wir uns über übergeordnete, sogenannte Meta-Regeln Gedanken machen. Und das müssen wir tun, bevor wir die Maschinen in unsere Umwelt lassen. Denken Sie beispielsweise nur an den Chatbot, der innerhalb eines einzigen Tages rassistische Propaganda verbreitete oder an die Chatbots, die in kürzester Zeit eine für Menschen unverständliche Sprache entwickelten. Wir dürfen nicht die Kontrolle verlieren und wir müssen den Maschinen zugleich Meta-Regeln mitgeben, die sie zwingend befolgen müssen.
Vorhaben zum Nachweis der Energieoptimierung und die Verpflichtung, CSR-Berichte zu erstellen, beschäftigen die Industrie. Auch wenn diese zunächst mit Umstrukturierungen und finanziellen Aufwänden verbunden sind, so investieren Industrieunternehmen damit langfristig in ihre Zukunftssicherheit.‣ weiterlesen
Bettenhausen: Zumindest können wir nicht zu jedem Zeitpunkt schnell genug vorhersagen, was genau sie lernen und gegebenenfalls in Echtzeit anwenden werden. Bei Maschinen, die aus der immer größer werdenden Menge an Daten Wissen und über deren Analyse Erkenntnisse ziehen, können wir nicht sagen, was sie in einem Jahr lernen werden. Sie tun dies selbstverständlich nur im vorgegebenen Bereich. Ein smarter Staubsauger wird, so intelligent er auch werden mag, morgen nicht Ihre Spülmaschine ausräumen. Aber bleiben wir bei diesem Beispiel: Wenn der intelligente Staubsauger erkennt, dass es besonders der Hund ist, der den größten Dreck verursacht, muss er einen effizienten Weg finden, Haare und Dreck schnell zu entfernen. Er darf nicht auf die Idee kommen, den Hund rauszuschmeißen und ihm den Eingang zu verwehren oder ihn vorsorglich komplett kahl zu scheren – oder eben Schlimmeres. Er braucht also übergeordnete Regeln. Als Ausgangsbasis können die bekannten Robotergesetze von Asimov herhalten. Gerade das zweite Gesetz, der Roboter muss den menschlichen Befehlen gehorchen, ist angesichts von Kriegen und Terroranschlägen wohl differenzierter zu betrachten. Aber sie sind ein erster Schritt und eben schon 75 Jahre alt.
Bettenhausen: Einer der wichtigsten Unterschiede zwischen den humanoiden Robotern, an die Asimov und seine Kollegen vor 75 Jahren dachten, und heutigen Maschinen, die mit starker KI ausgestattet werden (können), ist, dass die damaligen Maschinen nicht vernetzt waren – weder untereinander, noch über das Internet. Sie konnten so weder eine Schwarmintelligenz entwickeln, noch von den riesigen Datenmengen profitieren, über die wir heute verfügen – und die stündlich mehr werden. Zudem operieren heutige Smarte Maschinen bei vielen ihrer Entscheidungen auf Basis von Daten, die sie erhalten und damit auf der Basis von Wahrscheinlichkeiten. Sie können dazu lernen und müssen diese Erfahrung weder selbst gemacht haben, noch muss die Erfahrung zwingend von einer anderen Maschine real erlebt worden sein, sondern kann als Simulation vorgegeben werden. Hierüber können wir beispielsweise steuernd eingreifen und das Lernen, auch zu einem späteren Zeitpunkt, nachdem die Maschinen sich bereits im Betrieb befinden, in eine bestimmte Richtung lenken – übrigens positiv wie negativ, wenn die zugehörigen Menschen nicht ethischen Grundsätzen folgen. Es ist also komplexer geworden und eine einfache Regel wie die ‚Du sollst nicht töten‘ reicht schon lange nicht mehr aus. Was geschieht beispielsweise, wenn die Maschine, indem sie wenige Menschen opfert, viele Menschen retten kann? Nicht umsonst haben im April EU-Experten ethische Richtlinien für künstliche Intelligenz vorgelegt. Herausgekommen sind sieben Regeln, die es jetzt in der Praxis zu testen gilt. Das erste Asimov’sche Gesetz („Ein Roboter darf einem menschlichen Wesen keinen Schaden zufügen oder durch Untätigkeit zulassen, dass einem menschlichen Wesen Schaden zugefügt wird.“) fehlt hier leider. Auch finden sich unter den Regeln viele Konjunktive. Hier behaupte ich, dass sie Menschen wie Maschinen genauso als Konjunktiv, als eine Möglichkeit, verstehen werden.
Bettenhausen: Vertrauen baut sich dann auf, wenn Interaktion stattfindet – wiederholt und berechenbar bzw. vorhersagbar. Zugegeben – mit einem Parkautomaten interagieren Sie auch, aber da dieser nicht lernen und vor allem nicht individuell reagieren kann, werden Sie auch kein Vertrauen aufbauen können. Eine weitere Grundvoraussetzung ist also eine Reaktion und die Möglichkeit der Adaption der Maschine an den Menschen. Idealerweise passt sich die Maschine durch die Möglichkeiten von KI individuell an ihr Gegenüber an. Das entspricht am ehesten dem sozialen Wesen Mensch. Denken Sie nur an Ihr Smartphone: Wenn Ihnen das wegen eines bevorstehenden Termins vorschlägt, früher als geplant loszufahren, weil ein Stau auf der Strecke für massive Verzögerungen sorgt, so werden Sie dieser Empfehlung möglicherweise schon heute folgen. Ähnliches gilt z.B. auch für Streckenvorschläge für Wanderungen am Wochenende, weil Ihr Smartphone, oder eine von Ihnen angelegte App, weiß, dass Sie gerne Natur fotografieren. Auch hier haben Sie wahrscheinlich ein größeres Vertrauen. Der Grund: Sie haben diese Maschine – in diesem Fall das Smartphone – selbst gemäß Ihren Bedürfnissen individualisiert. Mit der heutigen KI ist es möglich, dass Maschinen sich sehr schnell an ihr Gegenüber anpassen. Das wird das Vertrauen stärken. Und dann brauchen wir ethische Grundlagen für die Maschinen als übergeordnete Regeln und zusätzlich moderne ethische Grundsätze für deren Entwickler und Programmierer.
Haben Sie genug von komplizierten Prozessen, einer hohen Fehlerquote, langsamen Markteinführungszeiten und hohen Anpassungskosten? Durch die Implementierung einer einzigen in Microsoft Dynamics 365/AX eingebetteten PLM-Lösung können Sie den Zeitaufwand für manuelle Datenarbeit und ineffektive Arbeitsabläufe vermeiden!‣ weiterlesen
Bettenhausen: Lassen Sie uns mit dieser weiteren Grundlage für Ingenieure optimistisch in eine Zukunft schauen, in der Roboter weit mehr leisten als die DDD-Jobs (Dull, Dirty and Dangerous), sondern uns sinnvoll im privaten wie beruflichen Alltag unterstützen.
Die Industrial Digital Twin Association hat mit PTC ein neues Mitglied. Gestartet mit 23 Organisationen, umfasst die Initiative nun 94 Mitglieder.‣ weiterlesen
Industrielle Montagelinien sind vielfältig: Einige arbeiten mit häufig wechselnden Produktaufbauten, während sich andere durch komplexe Prozesse und hohen Abstimmungsbedarf zwischen Werker und weiteren Experten auszeichnen. Das Fraunhofer IGD will Anwender mit einer Kombination aus Augmented Reality (AR) und künstlicher Intelligenz (KI) unterstützen.‣ weiterlesen
Rund 1 Million Industrieroboter werden allein im Automotive-Bereich eingesetzt. Laut der International Federation of Robotics ein Rekordwert. Das größte Wachstum beobachtet der Robotik-Verband derzeit in China.‣ weiterlesen
Firewalls gehören in Unternehmen zu den wichtigsten Sicherheitskomponenten, um das Netzwerk vor Angriffen zu schützen. Mehr noch, im integrierten und vernetzen Zusammenspiel mit weiteren Security-Lösungen, beispielsweise für die Endpoint-, Mobile- oder Cloud-Security und mit den immer wichtigeren Security-Services durch menschliche Experten, fügt sich die Firewall in ein ganzheitliches Security-Ökosystem ein, das alle IT-Bereiche im Unternehmen bestmöglich vor Angriffen und vor Schäden bewahren kann.‣ weiterlesen
Die Anforderungen an die Cybersecurity von überwachungsbedürften Anlagen werden deutlich konkretisiert. Betreiber müssen mögliche Gefährdungen ihrer Anlagen durch Cyberangriffe ermitteln und wirksame Gegenmaßnahmen entwickeln. Die zugelassenen Überwachungsstellen (ZÜS) werden zukünftig überprüfen, ob Cyberbedrohungen im Zusammenhang mit dem sicheren Betrieb der Anlagen ausreichend behandelt wurden.‣ weiterlesen
Mit dem Start der Anmeldung öffnet das Bundesamt für Sicherheit in der Informationstechnik (BSI) die digitalen Pforten für den 19. Deutschen IT-Sicherheitskongress. Am 10. und 11. Mai 2023 findet der Kongress unter dem Motto 'Digital sicher in eine nachhaltige Zukunft' digital statt.‣ weiterlesen
Die längst verstaubt geglaubte Masche des 'Ich lasse mal einen USB-Stick mit Schadsoftware auf Parkplätzen zum Mitnehmen herumliegen' wurde doch tatsächlich noch einmal aus der Cybercrime-Kiste geholt.‣ weiterlesen
Sonicwall hat den Sonicwall Cyber Threat Report 2023 veröffentlicht. Dieser zweimal jährlich erscheinende Bericht gibt Einblicke in eine zunehmend diversifizierte Cyberbedrohungslandschaft und die sich verändernden Strategien der Bedrohungsakteure.‣ weiterlesen
Smart Factories bieten eine breite Angriffsfläche für Cyberattacken. Deshalb sichert die Freie Universität Bozen ihre 'Smart Mini Factory', eine Lernfabrik für Industrie-4.0-Technologien, mit der Endian Secure Digital Platform. Neben umfassender IT-Sicherheit ermöglicht die Plattform die Nutzung von Edge Computing und das Management von Rollen und Rechten.‣ weiterlesen
Mittelständische Unternehmen investieren selbst in schwierigen Zeiten in Microsoft-Technologien, weil sie überzeugt sind, dass ihre Mitarbeiterproduktivität steigt und sich ihre Kostenstruktur bessert. Microsoft hat mit dem Microsoft-Partner-Network ein Netzwerk aufgebaut, das ein Forum für den Aufbau von Partnerschaften, Zugang zu Ressourcen und einen Rahmen für Dialoge und Kooperationen bietet. Für unsere Leser gibt die Microsoft-Partnerübersicht in Ausgabe Juli/August der IT&Production Tipps für die Suche nach einer geeigneten Branchen- oder Speziallösung im Bereich des produzierenden Gewerbes.
Auf der Suche nach Innovation, nach neuen Lösungen und der Abgrenzung zum Mitbewerb vernetzen sich zunehmend mehr Unternehmen mit externen Experten und Partnern. SAP hat mit dem SAP-Ecosystem ein Netzwerk aufgebaut, das ein Forum für den Aufbau von Partnerschaften, Zugang zu Ressourcen und einen Rahmen für Dialoge und Kooperationen bietet. In der Maiausgabe der Fachzeitschrift IT&Production erhalten unsere Leser einen aktuellen Überblick zum SAP-Ecosystem im Bereich des produzierenden Gewerbes.
Ein Unternehmen, das sich mit der Auswahl eines ERP- Systems befasst, muss sich gleichsam mit einem viel- schichtigen Software-Markt und unklaren Interessen- lagen an interne Abwick- lungsprozesse auseinander- setzen. Guter Rat bei der Investitionsentscheidung ist teuer. ERP/CRM Wissen Kompakt unterstützt Sie bei der gezielten Investition in die IT-Infrastruktur.
Immer mehr Anbieter von Maschinen, Automatisierungstechnik und Industriesoftware integrieren künstliche Intelligenz in ihre Produkte. Das ganze Potenzial spielen selbstlernende Systeme aber erst aus, wenn sie passgenau auf ihren Einsatz in Fertigung und Büro zugeschnitten wurden. Über beide Möglichkeiten, als Fertiger die Vorzüge von industrieller KI zu nutzen, geht es im regelmäßig aktualisierten Themenheft Künstliche Intelligenz.
Das Internet of Things verändert Produktwelten und die Vernetzung in der Fertigung gleichermaßen. Entstehende Ökosysteme laden zur einer neuen Form der Zusammenarbeit ein. Die Spezialausgabe IoT Wissen Kompakt informiert über die Technologie, Projektierung und Anbieter für die eigene Applikation, in- und außerhalb der Fabrik.
Um alle Potenziale eines MES umfassend ausnutzen zu können, beleuchten unsere Autoren in der Serie von MES Wissen Kompakt die erfolgskritischen Faktoren, um Fertigungsunternehmen präventiv zu steuern. Darüber hinaus präsentiert MES Wissen Kompakt ein breites Spektrum an Firmenportraits, Produkt- neuheiten und Dienst- leistungen im MES-Umfeld.
