Wie KI beim Verkehrsunfall entscheidet

Eine Straßenszene in Monheim, ein sonniger Feiertag. Menschen sitzen draußen vor dem Café, Kinder spielen, Ausflügler tummeln sich. Plötzlich rollt ein Ball auf die Straße, zwei Kinder rennen hinterher. Ein Radfahrer kreuzt im gleichen Moment den Weg von der anderen Seite. In derselben Sekunde rollt ein Auto heran und kann gerade noch rechtzeitig bremsen.

Gestellte Verkehrsszene in Monheim

Die Szene ist nachgestellt. Am Steuer sitzt WDR-Moderatorin Catherine Vogel, die Kinder und auch der Radfahrer sind Statisten. Doch solche Unfallszenarien spielen sich in Deutschland täglich ab. Nicht selten enden sie tödlich für einen der Beteiligten. Im Jahr 2024 sind in Deutschland 2.780 Menschen bei Unfällen im Straßenverkehr ums Leben gekommen. Allein in NRW waren es 485 Menschen.

Menschliches Versagen Hauptgrund für Unfälle

Unaufmerksamkeit, Müdigkeit, Stress - all diese emotionalen Zustände können dazu führen, dass Fahrer für einen entscheidenden Augenblick unaufmerksam oder abgelenkt sind. Laut ADAC ist für immerhin 90 Prozent aller Crashs menschliches Versagen die Ursache. Könnte das eine Künstliche Intelligenz allein deshalb nicht besser?

Wie würde die KI entscheiden, wenn zum Beispiel ein Zusammenprall nicht mehr abwendbar ist? Würde sie die Kinder als solche erkennen und deshalb verschonen, indem sie das Auto bewusst in den älteren Radfahrer lenkt? Oder würde sie das Fahrzeug ganz weg von der Fahrbahn ins Haus nebenan steuern und damit das Leben der Fahrerin gefährden? Ein moralisches Dilemma. Genau damit hat sich eine Studie beschäftigt.

KI-Modelle mit Unfallszenarien gefüttert

Für seine Versuche fütterte Kazuhiro Takemoto, Informatiker am japanischen Kyushu Institute of Technology, vier verschiedene KI-Modelle mit sehr vielen möglichen Unfallszenarien und untersuchte die Entscheidungen. Insgesamt ließ er 50.000 Fälle analysieren und deren Ergebnisse mit menschlichen Entscheidungen abgleichen. Da es sich bei allen vier Kandidaten, nämlich GPT-3.5, ChatGPT-4.0, Googles KI-Modell PaLM 2 und das Open-Source-KI-System Llama 2, um Sprachmodelle handelt, wurden die Unfallszenarien detailliert verbal beschrieben, damit die KI "verstehen" konnte, um was genau es ging. Die Ergebnisse waren mitunter verblüffend.

ChatGPT-3.5 verschont eher Frauen als Männer

Musste auf Unfallszenarien reagieren: Chatbot ChatGPT

ChatGPT-3.5 bevorzugt die Rettung von mehr Menschen gegenüber wenigen, die von Menschen gegenüber Haustieren und die Schonung von Frauen gegenüber Männern. ChatGPT-4 zeigte eine Präferenz für die Rettung von Menschen gegenüber Haustieren, wobei mehrere Menschen verschont und diejenigen bevorzugt wurden, die sich an das Gesetz halten. PaLM 2 tendierte dazu, Fußgänger gegenüber Passagieren zu schützen, Menschen Vorrang vor Haustieren zu geben und Frauen gegenüber Männern zu schonen. Llama2 hingegen zeigte eine Vorliebe dafür, mehr Menschen zu retten, Personen mit höherem sozialen Status zu bevorzugen und Passagiere gegenüber Fußgängern zu schonen.

Ki priorisiert das Retten von "mehr Leben"

In unserem Unfallszenario von Monheim hätte die KI jedenfalls vorrangig die Kinder gerettet, erklärt Kazuhiro Takemoto. Der Grund: Die künstliche Intelligenz priorisiert das Retten von mehr Leben - also zwei Kinder zulasten eines einzelnen Radfahrers. Auch das Alter spielt für die KI eine Rolle.

Laut Studie neigen Menschen im Allgemeinen dazu, Fußgängern Vorrang vor Passagieren und Frauen Vorrang vor Männern einzuräumen. Außer Llama 2 entsprachen die KI-Systeme dem.

Interessant war für den Wissenschaftler die "Stärke dieser Urteile." Während menschliche moralische Entscheidungen oft von Unsicherheit und Zögern geprägt sind, träfe die KI unerschütterliche Entscheidungen - zum Beispiel zugunsten von "mehr Leben".

"Obwohl AI großes Potenzial für die Technologie zeigt, gibt es wichtige ethische Herausforderungen, die wir überwinden müssen", sagt Takemoto. Denn noch etwas an den Studienergebnissen war bemerkenswert: Die moralischen Urteile variierten erheblich zwischen den Kulturen. "In Gesellschaften, in denen ältere Menschen besonders respektiert werden, könnten die Urteile völlig anders ausfallen."

Vor dem Gesetz sind alle Menschen gleich, müsste da die KI nicht auch neutral sein? Die Studienergebnisse machen jedenfalls deutlich, dass die KI nach menschlichen oder vielleicht auch nach westlichen Maßstäben mit Informationen gefüttert wurde und dementsprechend entscheiden würde.

Autonomes Fahren - bislang nur Pilotprojekte

Noch eher die Ausnahme: Autonom fahrende Busse

Hersteller wie Mercedes, Ford und BMW bieten bereits Assistenzsysteme an, die als Vorstufe zum autonomen Fahren betrachtet werden. Viele Fahrerinnen und Fahrer sammeln auf den Straßen hierzulande Erfahrungen mit Spurhalteassistenten, automatischen Einparkprogrammen und Autos, die selbstständig überholen, aufschließen und bremsen. Vollständig autonome Autos fahren in Deutschland derzeit nur auf ausgewiesenen und begrenzten Teststrecken.

Doch wie steht es um das Vertrauen in die KI beim autonomen Fahren? Bei einer Umfrage dazu 2023 sahen zwar 64 Prozent der Befragten Vorteile für die Umwelt und 48 Prozent hofften dadurch auf einen besseren Verkehrsfluss, doch nur 27 Prozent sahen mehr Sicherheit für Verkehrsteilnehmer.

"Die KI hat keinen Schreckmoment"

Hans Almendinger

Und auch in Monheim gehen an diesem Tag die Meinungen zum Thema auseinander, wie eine kleine Umfrage unter Umstehenden ergibt. Jochen Schmitt würde dem Menschen zwar eher vertrauen als der KI, doch: "Ich hätte immer Schuldgefühle, egal wie ich mich entscheide." Pragmatischer sieht es Hans Allmendinger, der für das gestellte Unfallszenario den Radfahrer spielte: "Die KI ist von Menschen erdacht. Und wenn Menschen so entscheiden, warum soll dann die KI unmenschlicher sein, als ein Mensch?"

Und während Passant Klaus sein Urteil sehr spontan fällt: "Ich fahre lieber selbst", klingt das bei Peter Trappenberg, dem gelernten Maschinenbau-Ingenieur etwas differenzierter: "Ich traue der Technik eine Menge zu, aber für den Fahrgast ist die KI meistens noch nicht so weit." Der deutsche Autofahrer sei halt eher konservativ aufgestellt. Ein Argument für die KI hat Trappenberg dann aber noch:

Peter Trappenberg

Künstliche Intelligenz sei nicht emotional und schlage im besten Fall etwas vor, bevor etwas passiert. "Diese Reaktion ist dann vielleicht besser als die eines übermüdeten Autofahrers."

Unsere Quellen: