Anzeige
Anzeige
Beitrag drucken

Teil 1: Wie können wir das autonome System beherrschen?

Im Gespräch mit Dr. Attila Bilgic.

„Der Begriff ‚autonom‘ weckt Ängste“

Die Arbeitsgemeinschaft ‚Autonome Systeme‘ der VDI/VDE-Gesellschaft Mess- und Automatisierungstechnik hat zehn Grundsatzfragen zum Thema ‚Künstliche Intelligenz und autonome Systeme‘ formuliert. Zum Einstieg in den Diskurs hat die Ingenieursvereinigung Dr. Attila Bilgic, CTO und Vorstandsmitglied der Krohne-Gruppe sowie Mitglied des Vorstands der VDI/VDE-GMA, zur Beherrschbarkeit autonomer Systeme befragt.

Bild: ©fotomek/adobe.stock.com

Bild: ©fotomek/adobe.stock.com

Herr Dr. Bilgic, die in großem Tempo voranschreitenden Entwicklungen in der künstlichen Intelligenz eröffnen immer neue Optionen für autonome Systeme. Das wirft auch die Frage auf, wie wir diese beherrschen können?

Dr. Attila Bilgic: Die Sorge, dass Aliens aus dem Weltraum, Mutanten, Androide, Mensch-Maschinen-Hybride oder wer auch immer die Weltherrschaft übernehmen und den Menschen unterjochen, bietet seit Jahrzehnten Stoff für zahlreiche Science-Fiction-Erzählungen. Sie sind allesamt bis heute Fiktion und vor allem Projektionsfläche. Autonome Systeme liefern eine weitere Projektionsfläche.

Für was genau sind sie die Projektionsfläche?

Bilgic: Für die sozialen Verwerfungen und das subjektive Gefühl von Unterlegenheit. Sie können die allumfassende Kontrolle reizvoll machen. Getreu der Logik: Wenn wir – oder besser: viele von uns – nur entsprechende Fähigkeiten hätten, dann würden wir am liebsten die Welt regieren. Nun entwickeln sich Systeme, die uns an Intelligenz ebenbürtig sind oder uns sogar überholen – und wir unterstellen ihnen ähnliche Fantasien und Antriebskräfte.

Katastrophen brauchen ja nicht unbedingt einen bösen Willen. Eine für den Menschen nicht mehr kontrollierbare Dynamik reicht ja schon ?

Bilgic: Absolut, das ist kein ausschließlich psychologisches Thema. Das schwingt nur mit und der Begriff autonom triggert hier Sorgen und Ängste. Ein System, welches wir komplett kontrollieren könnten, ist nicht autonom. Es muss in der Tat eigenständig Entscheidungen treffen und entsprechend agieren können.

Muss es tatsächlich eigenständig sein?

Bilgic: Ja, weil wir solche Systeme in komplexen Anwendungen einsetzen, deren Zustände a priori nicht vorhersehbar sind. Man kann da kein Verhalten mehr vorweg algorithmisch festlegen.

Sollten wir Menschen ein solches System nicht wenigstens immer abschalten können?

Bilgic: Ich möchte den Mitarbeitern meines Unternehmens nicht unbedingt die Möglichkeit geben, ihren Virenscanner abzuschalten, obwohl er eigenständig Verbindungen blockiert und Dateien in Quarantäne steckt. Niemand von ihnen überblickt, was dieses System genau tut, ich auch nicht. Ich habe aber eine Idee davon, was passiert, wenn ich das System ausschalte und die ist erschreckend.

Hat das mit Erfahrungen zu tun?

Bilgic: Ja. Denn wir haben gelernt, dass solche Virenscanner massiv zu unserer Sicherheit beitragen. So wie auch die Sicherungen für den elektrischen Strom im Haushalt. Sie ärgern uns manchmal, wenn sie ausfallen und wir verstehen oft nicht sofort, warum. Wir hätten ja lieber Strom. Wir würden es allerdings nicht als verantwortungsvolles Handeln betrachten, die Sicherung einfach zu überbrücken.

Beim Autofahren sieht es nochmal anders aus?

Bilgic: Das Autofahren haben wir gelernt und wir möchten uns da auch nicht reinreden lassen. Aber im Ernst: Man kann ja noch sagen, Automatikgetriebe und Tempomaten wären etwas für bequeme Leute. Aber spätestens beim Fahrspurassistenten sieht man, wie auch passionierte Autofahrer richtig Spaß an automatischen Systemen bekommen können.


Das könnte Sie auch interessieren:

Zum 1. November hat Dr. Clemens Weis die operative Geschäftsführung von Cideon übernommen. Er folgt auf Clemens Voegele, der den Posten des Chief Digital Officers der Friedhelm Loh Group übernommen hat. Als Vorsitzender der Geschäftsführung bleibt er jedoch Teil von Cideon.‣ weiterlesen

Gemeinsam wollen MHP und IFS verbesserte Lösungen für ein durchgängiges Service Lifecycle Management anbieten.‣ weiterlesen

25 Prozent der Unternehmen in Deutschland rechnen damit, dass in den kommenden fünf Jahren mehr Produktionsprozesse ausgelagert werden. Damit beschäftigen sich vor allem kleinere Unternehmen (bis 50Mio.€ Jahresumsatz). Etwa jede zweite Firma erhofft sich dadurch mehr Flexibilität.‣ weiterlesen

Lange liefen die Drucker im Weidmüller-Werk in Wutha-Farnroda morgens an ihrer Leistungsgrenze, wenn sie das ganze Papier zu den Fertigungsaufträgen ausgaben. Nach dem Rollout der Digital Manufacturing Suite von SAP änderte sich das. Heute sind die meisten Informationen digitalisiert und Werker mit mobiler IT statt Klemmbrettern unterwegs.‣ weiterlesen

Die Maschinenexporte aus Deutschland stabilisieren sich zunehmend. Im September verbuchten die Maschinen- und Anlagenbauer aus Deutschland beim Exportgeschäft ein Minus in Höhe von 7,6 Prozent im Vorjahresvergleich. Im Zeitraum Juli bis September sanken sie damit um 12,4 Prozent auf 39,8Mrd.€.‣ weiterlesen

Im Normalfall füllt Adelholzener jährlich rund 600 Millionen Flaschen ab, in Krisenzeiten sollen die dafür angezapften Quellen jedoch der Trinkwasserversorgung dienen. Somit sind die Anlagen des Getränkeherstellers kritische Infrastruktur, die etwa in puncto Gebäudesicherheit besonderen Auflagen unterliegt: Bucht sich ein Besucher am Empfang nicht ein, kommt er nicht weit.‣ weiterlesen

Mit Campusnetzen können Industrieunternehmen ihr eigenes 5G-Netzwerk betreiben. Ein Jahr nach Inkrafttreten der entsprechenden Vergabebedingungen sind bei der Bundesnetzagentur rund 90 Anträge eingegangen.‣ weiterlesen

Mit dem SR-12iA hat Fanuc nun den dritten und größten Scara-Roboter vorgestellt. Die Traglast beträgt bis zu zwölf Kilogramm und das mögliche Trägheitsmoment am Handgelenk 0.30kgm2. ‣ weiterlesen

Advanced Process Control (APC) wird in der Prozessindustrie bereits vereinzelt genutzt. Die unter dem Konzept erfassten regelungstechnischen Methoden reichen von erweiterten klassischen Regelungsansätzen über modellprädiktive Regelung (MPC) bis hin zum Einsatz von Fuzzy-Reglern und künstlichen neuronalen Netzen zur Prozessführung.‣ weiterlesen

Um das wirtschaftliche und gesellschaftliche Potential von künstlicher Intelligenz auszuschöpfen, müssen Menschen den Entscheidungen von KI-Systemen und den mit ihnen verbundenen Prozessen vertrauen. Dazu kann eine entsprechende Zertifizierung beitragen. Nach welchen Kriterien dies geschehen könnte, zeigt die Plattform Lernende Systeme in einem aktuellen Whitepaper.‣ weiterlesen

Anzeige
Anzeige
Anzeige
Anzeige
Anzeige
Anzeige