Anzeige
Anzeige
Anzeige
Beitrag drucken

Teil 1: Wie können wir das autonome System beherrschen?

Im Gespräch mit Dr. Attila Bilgic.

„Der Begriff ‚autonom‘ weckt Ängste“

Die Arbeitsgemeinschaft ‚Autonome Systeme‘ der VDI/VDE-Gesellschaft Mess- und Automatisierungstechnik hat zehn Grundsatzfragen zum Thema ‚Künstliche Intelligenz und autonome Systeme‘ formuliert. Zum Einstieg in den Diskurs hat die Ingenieursvereinigung Dr. Attila Bilgic, CTO und Vorstandsmitglied der Krohne-Gruppe sowie Mitglied des Vorstands der VDI/VDE-GMA, zur Beherrschbarkeit autonomer Systeme befragt.

Bild: ©fotomek/adobe.stock.com

Bild: ©fotomek/adobe.stock.com

Herr Dr. Bilgic, die in großem Tempo voranschreitenden Entwicklungen in der künstlichen Intelligenz eröffnen immer neue Optionen für autonome Systeme. Das wirft auch die Frage auf, wie wir diese beherrschen können?

Dr. Attila Bilgic: Die Sorge, dass Aliens aus dem Weltraum, Mutanten, Androide, Mensch-Maschinen-Hybride oder wer auch immer die Weltherrschaft übernehmen und den Menschen unterjochen, bietet seit Jahrzehnten Stoff für zahlreiche Science-Fiction-Erzählungen. Sie sind allesamt bis heute Fiktion und vor allem Projektionsfläche. Autonome Systeme liefern eine weitere Projektionsfläche.

Für was genau sind sie die Projektionsfläche?

Bilgic: Für die sozialen Verwerfungen und das subjektive Gefühl von Unterlegenheit. Sie können die allumfassende Kontrolle reizvoll machen. Getreu der Logik: Wenn wir – oder besser: viele von uns – nur entsprechende Fähigkeiten hätten, dann würden wir am liebsten die Welt regieren. Nun entwickeln sich Systeme, die uns an Intelligenz ebenbürtig sind oder uns sogar überholen – und wir unterstellen ihnen ähnliche Fantasien und Antriebskräfte.

Katastrophen brauchen ja nicht unbedingt einen bösen Willen. Eine für den Menschen nicht mehr kontrollierbare Dynamik reicht ja schon ?

Bilgic: Absolut, das ist kein ausschließlich psychologisches Thema. Das schwingt nur mit und der Begriff autonom triggert hier Sorgen und Ängste. Ein System, welches wir komplett kontrollieren könnten, ist nicht autonom. Es muss in der Tat eigenständig Entscheidungen treffen und entsprechend agieren können.

ANZEIGE

Muss es tatsächlich eigenständig sein?

Bilgic: Ja, weil wir solche Systeme in komplexen Anwendungen einsetzen, deren Zustände a priori nicht vorhersehbar sind. Man kann da kein Verhalten mehr vorweg algorithmisch festlegen.

Sollten wir Menschen ein solches System nicht wenigstens immer abschalten können?

Bilgic: Ich möchte den Mitarbeitern meines Unternehmens nicht unbedingt die Möglichkeit geben, ihren Virenscanner abzuschalten, obwohl er eigenständig Verbindungen blockiert und Dateien in Quarantäne steckt. Niemand von ihnen überblickt, was dieses System genau tut, ich auch nicht. Ich habe aber eine Idee davon, was passiert, wenn ich das System ausschalte und die ist erschreckend.

Hat das mit Erfahrungen zu tun?

Bilgic: Ja. Denn wir haben gelernt, dass solche Virenscanner massiv zu unserer Sicherheit beitragen. So wie auch die Sicherungen für den elektrischen Strom im Haushalt. Sie ärgern uns manchmal, wenn sie ausfallen und wir verstehen oft nicht sofort, warum. Wir hätten ja lieber Strom. Wir würden es allerdings nicht als verantwortungsvolles Handeln betrachten, die Sicherung einfach zu überbrücken.

Beim Autofahren sieht es nochmal anders aus?

Bilgic: Das Autofahren haben wir gelernt und wir möchten uns da auch nicht reinreden lassen. Aber im Ernst: Man kann ja noch sagen, Automatikgetriebe und Tempomaten wären etwas für bequeme Leute. Aber spätestens beim Fahrspurassistenten sieht man, wie auch passionierte Autofahrer richtig Spaß an automatischen Systemen bekommen können.


Das könnte Sie auch interessieren:

Das DFKI und das Fraunhofer IML untersuchen in einem Forschungsprojekt, wie künstliche Intelligenz bei der Vergabe von Lehrstühlen und Institutsleitungen unterstützen kann. In der Folge soll ein Portal für Bewerber-Profile entstehen.‣ weiterlesen

Nachhaltigkeit wird oft von den Beteiligten eines Wertschöpfungsnetzwerkes erwartet - und sie kann sich als gewinn- und kostenrelevant darstellen. Um jene Unternehmen zu diesem Wandel zu befähigen, die über begrenzte Ressourcen verfügen, können diese Firmen Ökosysteme etwa mit Zulieferern, Vertragspartnern und Technik-Dienstleistern aufbauen, um kreative Lösungen zu erarbeiten.‣ weiterlesen

Motiviert von der Aussicht auf Effizienz im Produktionsprozess und damit verbundenen Kosten- sowie Wettbewerbsvorteilen, setzen immer mehr Unternehmen auf Technologien wie etwa Sensorik oder künstliche Intelligenz. Und oft fällt das Schlagwort ’Green Manufacturing’. Dabei schauen viele nur auf den unmittelbaren ökologischen und ökonomischen Nutzen. Was oft fehlt, ist die Berechnung der Gesamtbilanz dieser Digitalisierungsmaßnahmen und der Weitblick in Sachen Nachhaltigkeit.‣ weiterlesen

Mit Dimitrios Koutrouvis hat Lütze Transportation ab Oktober einen neuen Geschäftsführer. Er tritt die Nachfolge von André Kengerter an.‣ weiterlesen

Der Bitkom schätzt die Schäden durch Cyberangriffe auf jährlich 220Mrd.€. Unternehmen sind also gefragt, sich bestmöglich gegen solche Vorfälle zu schützen. Wie? Darüber können sich Interessierte vom 25. bis zum 27. Oktober auf der Security-Messe It-sa informieren.‣ weiterlesen

Low Code-Entwicklungsplattformen helfen Unternehmen, ihre IT an stetig wechselnde Strukturen und Prozesse anzupassen. Es gilt: Wo programmiert wird, kann meist Low Code-Technologie eingesetzt werden – erst recht im IIoT-Projekt.‣ weiterlesen

Planung und Überwachung sind entscheidende Faktoren für die Effzienz einer Produktion. Die Basis dafür bilden Daten. Daher setzt die Firma GGK in ihrer Fertigung auf die IIoT-Plattform Toii. Mit ihr erfasst der Hersteller von Kabelmanagement-Systemen alle relevanten Daten, um die Transparenz zu verbessern und etwa Störungen schneller zu beseitigen.‣ weiterlesen

Korrekte Stammdaten sind beim Wechsel auf SAP S/4Hana enorm wichtig. Drei Tools für das Product Structure Management helfen, die Engineering-Stückliste mit der Manufacturing-Stückliste automatisiert abzugleichen.‣ weiterlesen

Eine industrielle IoT-Plattform unterstützt dabei, auf digitaler Basis Transparenz zu erzielen, Prozesse zu optimieren und Fehler zu vermeiden. Dafür werden Menschen, Produktions-IT-Systeme und Maschinen miteinander verknüpft. Doch wie funktioniert das?‣ weiterlesen

Mit einem Plus von 0,7 Prozent im Vergleich zum Juni liegt der Auftragsbestand im verarbeitenden Gewerbe im Juli auf einem neuen Höchstwert. Die Reichweite der Aufträge bleibt unverändert bei 8 Monaten.‣ weiterlesen