Studie: Künstliche Intelligenz und menschliche Moral lassen sich vereinen

Künstliche Intelligenz

Studie: Maschinen prinzipiell zu moralischem Handeln fähig

Anzeige
Selbstfahrende Autos gehören zur ersten Generation von Robotern, die für den Einsatz im öffentlichen Raum bestimmt sind. Diese Systeme brauchen Regeln, die definieren, wie sie sich in kritischen Situationen verhalten sollen – eine Studie des Instituts für Kognitionswissenschaft der Uni Osnabrück zeigt, dass menschliche Ethik autonomen Fahrzeugen bei Entscheidungen helfen kann.

Politisch wird die Debatte zur Modellierbarkeit von moralischen Entscheidungen durch eine Initiative des Bundesministeriums für Transport und Digitale Infrastruktur (BMVI) begleitet, welche 20 ethische Prinzipien formuliert hat. Die Studie „Using Virtual Reality to Assess Ethical Decisions in Road Traffic Scenarios: Applicability of Value-of-Life-Based Models and Influences of Time Pressure“ (verlinkt am Ende dieses Artikels) liefert dazu erste empirische Daten.

„Um Regeln oder Empfehlungen definieren zu können, sind zwei Schritte notwendig: Als Erstes muss man menschliche moralische Entscheidungen in kritischen Situationen analysieren und verstehen. Als zweiten Schritt muss man das menschliche Verhalten statistisch beschreiben, um Regeln ableiten zu können, die dann in Maschinen genutzt werden können“, erklärt Prof. Dr. Gordon Pipa, einer der leitenden Wissenschaftler der Studie.

Wie wägen Menschen in kritischen Situationen ab?

Beides haben die Forscher nun getan: Sie nutzten eine Virtual-Reality-Umgebung, um das Verhalten von Versuchspersonen in simulierten Verkehrssituationen zu beobachten. Die Teilnehmer der Studie „fuhren“ an einem nebeligen Tag durch die Straßen eines typischen Vorortes. Im Verlauf der Experimente kam es dabei zu unvermeidlichen und unerwarteten Dilemma-Situationen, bei denen Menschen, Tiere oder Objekte als Hindernisse auf den Fahrspuren standen. Um den Hindernissen auf einer der beiden Spuren ausweichen zu können, war deshalb eine moralische Abwägung notwendig.

Die beobachteten Entscheidungen wurden dann durch eine statistische Analyse ausgewertet und in Regeln übersetzt. Die Ergebnisse weisen darauf hin, dass im Rahmen dieser unvermeidbaren Unfälle moralisches Verhalten durch eine einfache „Wertigkeit des Lebens“ erklärt werden kann. Leon Sütfeld, der Hauptautor der Studie, erklärt dies so: „Das menschliche moralische Verhalten lässt sich durch den Vergleich von einer Wertigkeit des Lebens, das mit jedem Menschen, jedem Tier oder jedem Objekt assoziiert ist, erklären bzw. mit beachtlicher Präzision vorhersagen. Das zeigt, dass menschliche moralische Entscheidungen prinzipiell mit Regeln beschrieben werden können und dass diese Regeln als Konsequenz auch von Maschinen genutzt werden könnten.“

Soll die Maschine auch abwägen dürfen?

Diese neuen Osnabrücker Erkenntnisse stehen im Widerspruch zu dem achten Prinzip des BMVI-Berichtes, das auf der Annahme gründet, dass moralische Entscheidungen nicht modellierbar sind. Wie kann dieser grundlegende Unterschied erklärt werden?

Algorithmen können entweder durch Regeln beschrieben werden oder durch statistische Modelle, die mehrere Faktoren miteinander in Bezug setzen können. Gesetze sind beispielsweise strikt regelbasiert; menschliches Verhalten und moderne künstliche intelligente Systeme nutzen dazu im Gegensatz eher komplexes statistisches Abwägen. Dieses Abwägen erlaubt es beiden (dem Menschen und den künstlichen Intelligenzen), auch neue Situationen bewerten zu können, denen sie bisher nicht ausgesetzt waren. In der wissenschaftlichen Arbeit von Sütfeld wurde nun eine solche, dem menschlichen Verhalten ähnliche Methodik zur Beschreibung der Daten genutzt.

„Deshalb müssen die Regeln nicht abstrakt am Schreibtisch durch einen Menschen formuliert, sondern aus dem menschlichen Verhalten abgeleitet und gelernt werden. So stellt sich die Frage, ob man diese nun gelernten und konzeptualisierten Regeln nicht auch als moralischen Aspekt in Maschinen nutzen sollte“, so Sütfeld.

„Nun, da wir wissen, wie wir moralische Entscheidungen in die Maschinen implementieren können, bleiben uns trotzdem noch zwei moralische Dilemmata“, ergänzt Prof. Dr. Peter König, Co-Autor der Studie: „Erstens müssen wir uns über den Einfluss von moralischen Werten auf die Richtlinien für maschinelles Verhalten entscheiden. Zweitens müssen wir uns überlegen, ob wir es wollen, dass Maschinen sich (nur) menschlich verhalten sollen.“

Dr. Utz Lederbogen ist Pressesprecher der Universität Osnabrück.

http://journal.frontiersin.org/article/10.3389/fnbeh.2017.00122/full

Anzeige

Konradin Industrie

Webinare & Webcasts

Technisches Wissen aus erster Hand

Whitepaper

Aktuelle Whitepaper aus der Industrie

Anzeige

Industrie.de Infoservice

Vielen Dank für Ihre Bestellung!
Sie erhalten in Kürze eine Bestätigung per E-Mail.
Von Ihnen ausgesucht:
Weitere Informationen gewünscht?
Einfach neue Dokumente auswählen
und zuletzt Adresse eingeben.
Wie funktioniert der Industrie.de Infoservice?
Zur Hilfeseite »
Ihre Adresse:














Die Konradin Verlag Robert Kohlhammer GmbH erhebt, verarbeitet und nutzt die Daten, die der Nutzer bei der Registrierung zum Industrie.de Infoservice freiwillig zur Verfügung stellt, zum Zwecke der Erfüllung dieses Nutzungsverhältnisses. Der Nutzer erhält damit Zugang zu den Dokumenten des Industrie.de Infoservice.
AGB
datenschutz-online@konradin.de