Anzeige
Anzeige
Anzeige
Beitrag drucken

Teil 1: Wie können wir das autonome System beherrschen?

Im Gespräch mit Dr. Attila Bilgic.

„Der Begriff ‚autonom‘ weckt Ängste“

Die Arbeitsgemeinschaft ‚Autonome Systeme‘ der VDI/VDE-Gesellschaft Mess- und Automatisierungstechnik hat zehn Grundsatzfragen zum Thema ‚Künstliche Intelligenz und autonome Systeme‘ formuliert. Zum Einstieg in den Diskurs hat die Ingenieursvereinigung Dr. Attila Bilgic, CTO und Vorstandsmitglied der Krohne-Gruppe sowie Mitglied des Vorstands der VDI/VDE-GMA, zur Beherrschbarkeit autonomer Systeme befragt.

Bild: ©fotomek/adobe.stock.com

Bild: ©fotomek/adobe.stock.com

Herr Dr. Bilgic, die in großem Tempo voranschreitenden Entwicklungen in der künstlichen Intelligenz eröffnen immer neue Optionen für autonome Systeme. Das wirft auch die Frage auf, wie wir diese beherrschen können?

Dr. Attila Bilgic: Die Sorge, dass Aliens aus dem Weltraum, Mutanten, Androide, Mensch-Maschinen-Hybride oder wer auch immer die Weltherrschaft übernehmen und den Menschen unterjochen, bietet seit Jahrzehnten Stoff für zahlreiche Science-Fiction-Erzählungen. Sie sind allesamt bis heute Fiktion und vor allem Projektionsfläche. Autonome Systeme liefern eine weitere Projektionsfläche.

Für was genau sind sie die Projektionsfläche?

Bilgic: Für die sozialen Verwerfungen und das subjektive Gefühl von Unterlegenheit. Sie können die allumfassende Kontrolle reizvoll machen. Getreu der Logik: Wenn wir – oder besser: viele von uns – nur entsprechende Fähigkeiten hätten, dann würden wir am liebsten die Welt regieren. Nun entwickeln sich Systeme, die uns an Intelligenz ebenbürtig sind oder uns sogar überholen – und wir unterstellen ihnen ähnliche Fantasien und Antriebskräfte.

Katastrophen brauchen ja nicht unbedingt einen bösen Willen. Eine für den Menschen nicht mehr kontrollierbare Dynamik reicht ja schon ?

Bilgic: Absolut, das ist kein ausschließlich psychologisches Thema. Das schwingt nur mit und der Begriff autonom triggert hier Sorgen und Ängste. Ein System, welches wir komplett kontrollieren könnten, ist nicht autonom. Es muss in der Tat eigenständig Entscheidungen treffen und entsprechend agieren können.

Muss es tatsächlich eigenständig sein?

Bilgic: Ja, weil wir solche Systeme in komplexen Anwendungen einsetzen, deren Zustände a priori nicht vorhersehbar sind. Man kann da kein Verhalten mehr vorweg algorithmisch festlegen.

Sollten wir Menschen ein solches System nicht wenigstens immer abschalten können?

Bilgic: Ich möchte den Mitarbeitern meines Unternehmens nicht unbedingt die Möglichkeit geben, ihren Virenscanner abzuschalten, obwohl er eigenständig Verbindungen blockiert und Dateien in Quarantäne steckt. Niemand von ihnen überblickt, was dieses System genau tut, ich auch nicht. Ich habe aber eine Idee davon, was passiert, wenn ich das System ausschalte und die ist erschreckend.

Hat das mit Erfahrungen zu tun?

Bilgic: Ja. Denn wir haben gelernt, dass solche Virenscanner massiv zu unserer Sicherheit beitragen. So wie auch die Sicherungen für den elektrischen Strom im Haushalt. Sie ärgern uns manchmal, wenn sie ausfallen und wir verstehen oft nicht sofort, warum. Wir hätten ja lieber Strom. Wir würden es allerdings nicht als verantwortungsvolles Handeln betrachten, die Sicherung einfach zu überbrücken.

Beim Autofahren sieht es nochmal anders aus?

Bilgic: Das Autofahren haben wir gelernt und wir möchten uns da auch nicht reinreden lassen. Aber im Ernst: Man kann ja noch sagen, Automatikgetriebe und Tempomaten wären etwas für bequeme Leute. Aber spätestens beim Fahrspurassistenten sieht man, wie auch passionierte Autofahrer richtig Spaß an automatischen Systemen bekommen können.


Das könnte Sie auch interessieren:

Google Cloud und Siemens wollen im Rahmen einer Partnerschaft und unter Einsatz von KI-Technologien Fertigungsprozesse verbessern.‣ weiterlesen

Die ZEW-Konjunkturerwartungen für Deutschland sinken in der aktuellen Umfrage vom April 2021 um 5,9 Punkte und liegen damit bei 70,7 Punkten. Dies ist der erste Rückgang seit November 2020. Laut ZEW liegen die Erwartungen nach wie vor auf einem sehr hohen Niveau.‣ weiterlesen

Drei Viertel der Entscheider in deutschen Industrieunternehmen sehen ihren Markt im Prozess der digitalen Transformation. Die Hälfte der Unternehmen setzt dabei bereits auf den Einsatz von Industrial IoT-Technologien. Zu diesen Ergebnissen kommt eines Studie des IIoT-Spezialisten Relayr, die unter 200 Entscheidern aus der Fertigungsindustrie in Deutschland im Sommer 2020 vom Marktforschungsunternehmen Forsa durchgeführt wurde.‣ weiterlesen

Damit die anspruchsvollen Maschinen von Heidelberger Druckmaschinen nicht ungeplant ausfallen, bietet das Unternehmen die Software Maintenance Manager zur vorausschauenden Wartung an. Jetzt hat Tochterunternehmen Docufy das Tool hinter der Lösung als White-Label-Angebot auf den Markt gebracht.‣ weiterlesen

Im Rahmen einer Partnerschaft wollen T-Systems und GFT gemeinsame Lösungen für die Fertigungsindustrie anbieten, mit denen Fehler in der Produktion schneller erkannt werden können.‣ weiterlesen

John Abel wechselt von Veritas zu Extreme Networks, wo er künftig die Position des CIOs wahrnehmen wird.‣ weiterlesen

Nach fünf Messetagen ging am Freitag die Hannover Messe zu Ende. Insgesamt 90.000 Teilnehmer haben sich für die digitale Edition der Industrieschau registriert. Auch ohne Präsenzveranstaltung zog die Deutsche Messe ein positives Fazit. Ein Ersatz sei die digitale Messe jedoch nicht, so Dr. Jochen Köckler, Vorstandsvorsitzender der Deutschen Messe. Die nächste Messe soll als Hybridveranstaltung teilnehmen.‣ weiterlesen

Produzierende Unternehmen brauchen Transparenz über Zusammenhänge, über Kosten und Erträge und die Prozessqualität. Business Intelligence ist die Antwort der Softwareanbieter für dieses Problem. Für SAP S/4Hana-Anwender könnte dafür insbesondere die SAP Analytics Cloud interessant sein.‣ weiterlesen

Seit gut eineinhalb Jahren betreibt Simus Systems eine Online-Plattform, auf der Auftraggeber und Auftragnehmer die Metallbearbeitung von Bauteilen kalkulieren - und das Interesse am Tool ist rege. Anwender laden ihr CAD-Modell hoch und erhalten eine valide Vorkalkulation des geplanten Bauteils.‣ weiterlesen

Erst die Interoperabilität von Maschinen und Anlagen ermöglicht Unternehmen die Teilhabe an neuen digitalen Strukturen und ist Grundvoraussetzung für neue digitale Geschäftsmodelle. Durch interoperable Schnittstellen können neue Maschinen effizienter integriert werden. Die VDMA-Studie ‘Interoperabilität im Maschinen- und Anlagenbau‘ zeigt die Relevanz von interoperablen Schnittstellen und dazugehörigen Standards in den Unternehmen.‣ weiterlesen

Im Gewerbebau gehört ein differenziertes Zutrittsmanagement zum Standard der meisten Ausschreibungen. Für Betriebe lohnt es, sich mit dem Thema zu beschäftigen. Denn die Infrastruktur sollte später neue Anforderungen im Besuchermanagement ohne hohe Mehrkosten abbilden können.‣ weiterlesen

Anzeige
Anzeige
Anzeige
Anzeige
Anzeige
Anzeige