Du sidder bag rattet i din bil. Men du har ikke hænderne på rattet. For bilen kører, navigerer og “tænker” helt af sig selv.

Et fodgængerfelt forude. To ældre kvinder går over vejen i din vejbane, og en ung dreng gør det samme i den modsatte vejbane.

Bilen burde bremse, men bremserne har låst sig fast. En ulykke er uundgåelig. De ældre kvinder kigger skrækslagne mod bilen og så...

Ja. Hvad så?

Fortsætter din selvkørende bil ind i kvinderne? Eller skifter den bane og rammer drengen?

Hvad ville du programmere bilen til at gøre? Prøv spillet herunder og sæt dit moralske kompas på prøve i en række etiske dilemmaer.

Det store dilemma

Men er vi overhovedet klar til at overdrage ansvaret for vores trafiksikkerhed til en computerhjerne?

Kun delvist. I hvert fald hvis man skal tro en undersøgelse lavet af Mercedes Benz Danmark gennem Userneeds Danmarkspanel. Den viser, at 59 procent af danskerne er bekymrede for sikkerheden i en selvkørende bil.

Inden for bilindustrien og forskerverdenen er der dog ingen tvivl om de selvkørende bilers potentiale. Derfor er det ifølge afdelingsleder hos Vejdirektoratets analyseenhed Andreas Egense vigtigt, at vi ser ud over de indviklede dilemmaer.

- Den her slags nærmest uløselige dilemmaer - om det er den gamle dame eller barnet - er tænkelige, men bilen vil møde dem utrolig sjældent, siger han.

- Og hvis de skal løses, inden vi kan bringe en teknologi på banen, som ville kunne løse en masse andre problemer, så har vi måske truffet det forkerte valg.

Selvkørende biler kan redde liv

Andreas Egense vurderer, at selvkørende biler på såkaldt automatiserings-niveau 3 vil kunne reducere antallet af trafikdræbte med op til 30 procent. På det niveau styrer bilens system pedalerne og overvåger vejen. Du kan se en forklaring i grafikken nedenfor.

- Her har vi at gøre med et køretøj, der ser og registrerer alt. Det reagerer øjeblikkeligt og optimalt. Det kan nedbringe antallet af trafikuheld, men det kan ikke fjerne alle trafikuheld, siger han.

Flere bilfabrikanter, blandt andre Volvo, Nissan og Audi, har da også allerede annonceret, at de vil sende selvkørende biler på minimum niveau 3 ud på markedet inden for få år.

Andreas Egense mener heller ikke, det er urealistisk, at vi kommer til at se dem på de danske veje inden alt for længe.

- Vi har tidligere lavet en prognose, hvor vi formodede, at de første niveau 3-biler ville køre rundt i Danmark i 2018. Og de er sådan set også på vej. Audi har for eksempel produceret en bil, som kan være selvkørende under helt bestemte omstændigheder, siger han.

- Men teknologien er dyr. Og lovgivningsmæssigt er der ikke mulighed for kørsel endnu. Heller ikke i Tyskland, selv om de har en lidt mere åben lovgivning over for selvkørende biler end i Danmark.

Bilen skal overbevise os

Netop lovgivningen kan være en svær nød at knække, når etiske dilemmaer, som dem, du har prøvet kræfter med, skal tages med i beregningen.

Det ved Martin Mose Bentzen, lektor på DTU Management and Engineering, som forsker i sociale robotters stillingtagen til etiske spørgsmål.

- Ud fra et maskin-etisk synspunkt vil vi jo gerne have, at en bil - eller en hvilken som helst anden robot - der tager en beslutning, vil kunne overbevise os om, at den har truffet det rigtige valg. Og i dilemma-situationer kan det være svært, siger han.

Ifølge Martin Mose Bentzen er der flere måder at sikre sig, at selvkørende biler træffer de rigtige valg.

- I Tyskland indførte man sidste år et sæt retningslinjer for programmeringen af selvkørende biler. Derudover skal der stilles krav til ingeniørerne om, at de i deres design gør bilerne så "gode" som muligt. Og ikke holder deres viden for dem selv, siger han.

- En tredje vej er at gøre klassiske etiske teorier til en del af selve bilens programmering.

Færdselsloven ude af ligningen

To af de klassiske teorier som man kunne proppe ind i bilens programmering er filosoffen Immanuel Kants Kategoriske Imperativ og utilitarisme-princippet formuleret af juristen Jeremy Bentham

En tredje teori, som Martin Mose Bentzen og hans kolleger har haft særlig fokus på, er dobbelteffekt-princippet, som den italienske filosof og teolog Thomas Aquinas fandt på.

Det er et princip, som går ud på, at du aldrig må gøre noget skidt for at opnå noget godt.

De tre teorier er også blevet brugt til at analysere det klassiske Trolley-problem, som i sin essens minder om det spil, du prøvede øverst i artiklen.

Men hvorfor ikke smide teorierne væk og så bare programmere de selvkørende biler til at følge færdselsloven?

- Problemet med færdselsloven er, at det ikke er en række absolutte regler, som aldrig bliver brudt. Vi krydser jo vejbaner, hvis vi vurderer, det er til fare, hvis vi ikke gør det, lyder Martin Mose Bentzens svar.

Stadig førerens ansvar

Martin Mose Bentzen mener, at de mere farverige etiske dilemmaer, som dem i spillet, kan hjælpe den brede befolkning med at forholde sig til den her nye teknologi.

Men i hans forskning fylder arbejdet med mere sandsynlige perspektiver, som eksempelvis de miljømæssige konsekvenser af selvkørende biler, mindst lige så meget.

At dilemmaer med ældre kvinder og hundehvalpe ikke er de mest sandsynlige, og desuden er nærmest uløselige, anerkendes også i de tyske retningslinger for programmeringen af selvkørende biler.

Heri står det slet og ret, at i sådanne farlige situationer overgår ansvaret for styringen fra den selvkørende bil til føreren. I hvert fald indtil videre.