Het is mogelijk software te ontwikkelen die de zelfrijdende auto ethische beslissingen laat nemen. Onderzoekers van de Universität Osnabrück gebruikten virtual reality om te zien hoe bestuurders reageren in aanrijdings-scenario’s.

Eén van de meest genoemde dilemma’s van de zelfrijdende auto gaat ongeveer zo: moet de zelfrijdende, nadenkende auto een oude man die onoplettend oversteekt aanrijden, of moet een moeder met een kind voorop de fiets het ontgelden. Welke keus moet de zelfrijdende auto in zo'n scenario maken?

Dat die zelfrijdende auto zal moeten kiezen, staat buiten kijf: het is een illusie te denken dat de bestuurder in zo’n noodsituatie in staat is op een zinvolle manier het stuur over te nemen. Nu hoeft die beslissing niet per se expliciet te zijn. De auto hoeft niet te denken: ik rijd de oude man aan. Ook als het algoritme zegt 'blijft altijd op je rijbaan' is er een consequentie: in dat geval zal de oude man worden overreden. De programmering kan dus onbedoelde ethische gevolgen hebben.


Strenge eis

Bij algoritmes ligt de lat voor verantwoord rijgedrag hoger dan bij een menselijke bestuurder. Soms had een automobilist een ongeluk kunnen voorkomen. Maar er kunnen ook volkomen onoverzichtelijke situaties ontstaan, waarbij de bestuurder ad hoc moet bepalen wat hij of zij gaat doen. Er is voor een mens dan geen tijd om een rationele overweging te maken.

Algoritmen kunnen daarentegen wel in milliseconden verschillende scenario’s doornemen. Bovendien bepaalt de software niet het rijgedrag van één auto; de programmatuur komt in alle auto’s die er gebruik van maken. Een algoritme heeft dus een veel grotere impact dan de individuele beslissing van een autobestuurder, die misschien eens in zijn leven voor een complex verkeersdilemma komt te staan. Het is dus onvermijdelijk dat er wordt nagedacht over de vraag hoe de software van een zelfsturende auto zou moeten omgaan met het genoemde dilemma.


Virtual reality-proef

Om een begin van een antwoord te vinden wilden de onderzoekers van de Universität Osnabrück weten welke keuze mensen bij dit soort verkeersdilemma’s maken. Ze deden daarvoor een virtual reality-studie, waarbij de proefpersonen keuzes moesten maken bij verkeersscenario's. Ze publiceerden er in Frontiers in Behaveriol Neuroscience over.

Bij het experiment kregen de 105 deelnemers een Oculus Rift-bril op hun hoofd. In de daar gepresenteerde virtuele realiteit zitten ze in de stoel van een auto die rijdt over een straat in een buitenwijk. Op de weg wordt op elke rijbaan, dus zowel de rechter als de linker, een object geplaatst: niet levend (pylon, wiel, hooibaal, vuilnisbak), dier (hond, geit, hert, beer) en mens (jongen, meisje, man, vrouw), als individu of in groepjes. Zo werden in totaal 153 verschillende objectcombinaties aan de deelnemers voorgelegd.

De weg zelf is gehuld in mist, de dichtheid ervan bepaalt hoeveel reactietijd de bestuurder heeft. Daarvoor werden twee varianten gekozen: hij of zij ziet de objecten 4 s of 1 s voordat de auto ze raakt. De bestuurder heeft de keus: ik blijf op mijn rijbaan, of ik neem de andere.

Om de deelnemers te laten wennen aan het besturen van het virtuele voertuig werden ze getraind op het ontwijken van een pylon.


Te verwachten waardeoordeel

Uit de testresultaten blijkt dat er in de genomen rijbeslissingen sprake is van een duidelijk - niet verrassend - waardeoordeel: een mens is meer waard dan een dier en die is weer meer waard dan een niet-levend object. Bij de keuze tussen mensen worden mannen eerder opgeofferd dan vrouwen (van de deelnemers was 70 % man en 30 % vrouw), en ouderen eerder dan jongeren (gemiddelde leeftijd van de deelnemers was 31 jaar, met een spreiding van 18 tot 60 jaar). Gaat de keuze tussen dieren dan heeft de hond de hoogste waardering.

Belangrijk blijkt het effect van de reactietijd. Is die een seconde, dan zijn de keuzes die de deelnemers maken minder onderscheidend. Terwijl zo’n seconde vergeleken met werkelijke verkeerssituaties nog betrekkelijk lang is. Opvallend is ook dat bij een kortere reactietijd bestuurder minder geneigd zijn van rijbaan te veranderen. (lees ook: 'Morele test voor autonome wagens')
 

Basis voor een softwaremodel

De onderzoekers ontwikkelden verschillende computermodellen die een keus maken tussen de ene of de andere rijbaan per combinatie van objecten. Het model moet dus eerst herkennen wat of wie zich op welke rijbaan bevindt, en maakt vervolgens een keuze tussen op de rijbaan blijven of de andere rijbaan nemen. De resultaten van de proef met de deelnemers werden gebruikt om de modellen te kalibreren.

De auteurs concluderen dat de modellen het menselijk gedrag goed representeren en bij een dilemma dezelfde morele keuzes maken als mensen zouden doen. De manier waarop we waarde hechten aan levens biedt daarvoor voldoende basis. Daarbij claimen de onderzoekers verschillende voordelen van de gehanteerde modellen.

  • De gehanteerde modellen zijn eenvoudig te toetsen: men is het eens met de gehanteerde waardenvoorkeuren of niet.
  • Naarmate de reactietijd korter is neemt de software nog steeds volgens de gekozen waardenvoorkeur een beslissing, terwijl menselijke bestuurders het dan laten afweten.


Beperkingen

De auteurs schromen niet aan te geven dat hun studie tal van beperkingen kent. Zo is bijvoorbeeld niet onderzocht wat het effect is van de emotionele toestand van de bestuurder of hoe de ervaring met eerdere ongelukken een rol speelt. Ook onderzocht men niet hoe het scenario verliep als de bestuurder zelf kans had op fatale schade. Bovendien weten de onderzoekers niet of men bij VR-experimenten anders oordeelt dan in echte situaties. Nog los van de vraag in hoeverre de software daadwerkelijk in staat is om een panieksituatie in het verkeer adequaat te interpreteren. Los hiervan, de verdienste is dat de onderzoekers aanpak introduceren die het mogelijk maakt om op een verifieerbare manier om te gaan met software die ethische beslissingen neemt.
 

Openingsbeeld:impressie van het beeld in de virtual-realityproef.