Das Ethik-Dilemma: Wie entscheidet die KI im Notfall?

Wenn ein Unfall nicht mehr zu vermeiden ist, muss eine Software vorab entscheiden, wen sie schützt und wen nicht. Wir erklären das berühmte Ethik-Dilemma selbstfahrender Autos, die dahinterliegenden philosophischen Konflikte und was das für Halter und Gesetzgeber in Deutschland bedeutet.

Warum die Ethik-Frage jeden Elektroauto-Interessierten betrifft

Wer sich heute für ein Elektroauto interessiert, landet früher oder später auch beim Thema autonomes Fahren. Die meisten neuen E-Autos kommen bereits mit Assistenzsystemen, die Teile der Fahraufgabe übernehmen, und der Weg zu höheren SAE-Leveln ist technisch längst vorgezeichnet. Doch je mehr Entscheidungsgewalt eine Software im Straßenverkehr bekommt, desto dringender wird eine Frage, die auf den ersten Blick nichts mit Technik zu tun hat, sondern mit Philosophie: Wie soll ein Auto entscheiden, wenn ein Unfall nicht mehr zu vermeiden ist?

Diese Frage ist kein theoretisches Gedankenspiel für Ethik-Seminare. Sie betrifft ganz konkret, nach welchen Regeln die KI im autonomen Auto in Zukunft handeln wird, wer für diese Entscheidung geradesteht und ob es überhaupt eine "richtige" Antwort gibt. Ein sehr anschauliches Gedankenexperiment dazu stammt vom Ethik-Forscher Patrick Lin und wurde von TED-Ed als kurzes Erklärvideo aufbereitet. Es liefert eine gute Grundlage, um das Dilemma zu verstehen, bevor wir es in den deutschen Rechtsrahmen und die aktuelle Debatte einordnen.

Quelle: TED-Ed: The ethical dilemma of self-driving cars - Patrick Lin

Das Trolley-Problem auf vier Rädern

Im Video macht Lin zunächst eine wichtige Einordnung, die man im Kopf behalten sollte, bevor man über Worst-Case-Szenarien spricht: Im Durchschnitt werden selbstfahrende Autos voraussichtlich deutlich sicherer und umweltfreundlicher unterwegs sein als menschliche Fahrer. Die Statistiken zur Sicherheit selbstfahrender Autos zeigen bereits heute, dass die meisten Unfälle auf menschliches Fehlverhalten zurückgehen, das eine konsequent programmierte KI nicht macht: Ablenkung, Müdigkeit, Regelverstöße. Trotzdem bleibt eine unbequeme Wahrheit bestehen: Vollständige Unfallvermeidung ist unmöglich. Irgendwann wird auch das sicherste System in eine Situation geraten, in der ein Schaden nicht mehr verhindert werden kann, sondern nur noch verteilt.

Das Gedankenexperiment: Ausweichen oder geradeaus?

Genau hier setzt das zentrale Beispiel des Videos an, eine moderne Variante des klassischen Trolley-Problems aus der Philosophie. Ein Fahrzeug ist plötzlich eingekeilt und hat nur noch drei mögliche Reaktionen, jede mit einem anderen Risiko:

• Geradeaus weiterfahren und gegen ein herabfallendes Objekt prallen
• Nach links ausweichen und einen SUV touchieren
• Nach rechts ausweichen und ein Motorrad treffen

Ein Mensch würde in einer solchen Sekunde instinktiv reagieren, ohne Zeit für eine bewusste Abwägung. Bei einer selbstfahrenden KI ist das anders: Sie muss diese Entscheidung nicht im Moment treffen, sondern lange vorher, in Form einer festen Formel, die im Code hinterlegt ist. Genau das macht den Unterschied so brisant. Ein spontaner Reflex lässt sich moralisch kaum vorwerfen, eine vorab programmierte Regel dagegen schon, denn sie wurde bewusst so entworfen, dass sie in einem bestimmten Fall ein bestimmtes Opfer in Kauf nimmt.

Utilitarismus gegen Pflichtethik

Genau an diesem Punkt zeigt das Video den philosophischen Kernkonflikt auf, der hinter jeder möglichen Programmierregel steckt. Auf der einen Seite steht der utilitaristische Ansatz: Er versucht, den Gesamtschaden zu minimieren, also möglichst wenige Verletzte oder Tote zu verursachen, selbst wenn dafür eine bestimmte Person aktiv in Gefahr gebracht wird. Auf der anderen Seite steht der deontologische Ansatz, der bestimmte Handlungen grundsätzlich für falsch hält, etwa das aktive Schädigen eines unbeteiligten Menschen, unabhängig davon, wie gut das Ergebnis am Ende aussieht.

Beide Positionen führen zu ganz unterschiedlichen Programmierlogiken. Eine utilitaristische KI würde im Beispiel vermutlich das Motorrad meiden, weil dort das Verletzungsrisiko am höchsten ist, selbst wenn das bedeutet, aktiv den Kurs zu ändern. Eine strikt pflichtethische Logik würde eher dazu tendieren, nicht aktiv in ein anderes Fahrzeug zu lenken, sondern die ursprüngliche Fahrspur zu halten, auch wenn das Ergebnis objektiv schlechter wäre. Es gibt keinen Konsens, welcher Ansatz "richtig" ist, und genau das macht die Programmierung dieser Formeln zu einer der schwierigsten Aufgaben der gesamten Machine-Learning-Entwicklung im Auto.

Wer haftet, wenn die KI entscheidet?

Aus dieser ethischen Unsicherheit ergibt sich unmittelbar eine juristische: Wer trägt die Verantwortung, wenn eine vorprogrammierte Entscheidung zu einem Schaden führt? Im Video wird diese Frage explizit offengelassen, sie betrifft potenziell mehrere Parteien gleichzeitig:

• Der Hersteller, der das Fahrzeug in Verkehr gebracht hat
• Die Softwareentwickler, die die konkrete Entscheidungsformel geschrieben haben
• Der Fahrzeughalter, der das System im Alltag nutzt
• Der Gesetzgeber, der bislang keine einheitlichen Vorgaben macht

Programmierer stehen damit vor einer ungewöhnlichen Aufgabe: Sie müssen abstrakte ethische Standards, über die selbst Philosophen seit Jahrzehnten streiten, in konkreten, ausführbaren Code übersetzen. Dabei stellen sich sehr praktische Wertungsfragen, etwa ob Insassen stärker geschützt werden sollten als Fußgänger, oder ob die Anzahl der Betroffenen wichtiger ist als der Grad ihrer Schuld an der Gefahrensituation. Wie diese Fragen im deutschen Recht bereits heute angegangen werden, zeigt unser Beitrag zur Haftung bei einem Unfall mit einem selbstfahrenden Auto.

Ausblick: Kultur, Regulierung und die Zukunft der Fahrzeug-Ethik

Das Gedankenexperiment aus dem Video ist bewusst zugespitzt, doch es steht für eine viel größere gesellschaftliche Debatte, die seit einigen Jahren intensiv geführt wird: Kann es überhaupt eine einzige, universell richtige ethische Lösung für autonome Fahrzeuge geben, oder müssen Standards je nach Kultur und Region unterschiedlich ausfallen?

Kulturelle Unterschiede: Die MIT Moral Machine

Diese Frage haben Forscher am MIT mit einer weltweiten Online-Studie namens Moral Machine untersucht, an der Millionen Menschen aus über 200 Ländern teilgenommen haben. Das Ergebnis: Die Präferenzen unterscheiden sich teils deutlich zwischen Kulturkreisen, etwa wie stark jüngere gegenüber älteren Menschen geschützt werden sollten oder wie stark das Befolgen von Verkehrsregeln gewichtet wird. Das bedeutet für Hersteller ein echtes Problem: Eine Ethik-Formel, die in einem Land als fair gilt, kann in einem anderen auf Ablehnung stoßen. Wer sich für die technische Seite dieser Systeme interessiert, findet ergänzend Hintergründe zur Zulassung autonomer Autos durch TÜV und KBA, die solche kulturellen Unterschiede bislang kaum abbilden kann.

Regulierung in Deutschland und Europa

In Deutschland ist die Debatte nicht nur akademisch geblieben. Die Ethik-Kommission für automatisiertes und vernetztes Fahren hat bereits Leitlinien formuliert, die unter anderem festhalten, dass eine Aufrechnung von Menschenleben nach persönlichen Merkmalen wie Alter oder Geschlecht unzulässig ist. Das schließt zwar die extremsten utilitaristischen Rechenmodelle aus, beantwortet aber noch lange nicht alle praktischen Fragen aus dem Gedankenexperiment. Wie diese Vorgaben konkret in das deutsche Verkehrsrecht einfließen, erklären wir ausführlich in unserem Beitrag zur Gesetzeslage für autonomes Fahren in Deutschland. Auch auf europäischer Ebene wird an einheitlichen Standards gearbeitet, allerdings deutlich langsamer, als es die technische Entwicklung vermuten lässt.

Was Halter und Käufer heute wissen sollten

Für die meisten Käufer eines Elektroautos ist das Ethik-Dilemma heute noch keine Alltagsfrage, weil vollautonome Systeme im Sinne von Level 4 oder 5 auf deutschen Straßen kaum verfügbar sind. Dennoch lohnt sich ein Blick darauf, wie sich die Debatte entwickeln wird:

1. Hersteller werden zunehmend transparent machen müssen, nach welchen Grundsätzen ihre Systeme in Grenzsituationen handeln
2. Gesetzgeber arbeiten an verbindlichen Mindeststandards, die eine reine Marktlösung verhindern sollen
3. Versicherer und Halter werden sich stärker mit Haftungsfragen auseinandersetzen müssen, sobald Level 4 in Serie geht
4. Die Debatte wird sich zunehmend mit der Frage verbinden, wann echte Vollautonomie überhaupt kommt

Wer sich für den Zeitplan dieser Entwicklung interessiert, findet weiterführende Einordnungen in unserem Beitrag dazu, wann Level 5 realistisch verfügbar sein könnte. Ein Aspekt, der in der ethischen Debatte oft untergeht, aber für unsere Leser besonders relevant ist: Die allermeisten der heute entwickelten autonomen Fahrzeuge sind elektrisch, unter anderem weil sich Sensorik und Rechenleistung leichter in ein elektrisches Antriebssystem integrieren lassen. Wer sich also schon jetzt mit dem Laden eines Elektroautos beschäftigt, bereitet sich indirekt auch auf die nächste Generation von Fahrzeugen vor, die diese ethischen Entscheidungsfragen praktisch beantworten müssen.

Am Ende bleibt das Ethik-Dilemma selbstfahrender Autos ein Beispiel dafür, wie eng Technik, Recht und Philosophie in der Mobilität der Zukunft miteinander verwoben sind. Eine perfekte, allgemein akzeptierte Lösung wird es vermutlich nie geben, aber eine transparente, gesellschaftlich abgestimmte und rechtlich verbindliche Antwort ist genau das, was nötig ist, damit autonome Fahrzeuge langfristig Vertrauen gewinnen.

Ergänzendes Video

Dieser TED-Talk von KI-Forscher Iyad Rahwan geht über das reine Gedankenexperiment hinaus und zeigt anhand der weltweiten "Moral Machine"-Studie mit Millionen Teilnehmern, wie stark sich ethische Präferenzen für autonome Fahrzeuge von Kultur zu Kultur unterscheiden.

Quelle: TED – What moral decisions should driverless cars make? | Iyad Rahwan