Wat voor keuzes moet een zelfrijdende auto maken wanneer die in een ongelukssituatie uit verschillende kwaden moet kiezen? Onderzoekers gebruikten een online platform en kregen zo’n 40 miljoen antwoorden met een duidelijke uitkomst: mens boven dier, weinig slachtoffers boven veel,  jong boven oud.

Het is een veel gehoord dilemma: moet een zelfrijdende auto die in een noodsituatie terechtkomt een teenager aanrijden of drie oudere mensen?

Menselijke bestuurders die in zo’n situatie belanden moeten ook dergelijke keuzes maken, maar meestal zijn ze zich er niet van bewust, gezien de algehele paniek en chaos die bij zo’n crash hoort. Automobilisten worden er juridisch ook niet op aangesproken: het is een situatie van overmacht.


In de software

Bij zelfrijdende auto’s ligt dat volgens de onderzoekers anders. Die reageren immers veel sneller dan mensen, en op de een of andere manier zal in de software moeten worden ingebouwd hoe de zelfrijdende auto in zo’n situatie moet reageren. Dat kan volgens de onderzoekers niet worden overgelaten aan de programmeurs van de zelfrijdende software of de autofabrikant. De samenleving zal het er over eens moeten zijn, want anders krijgen die auto’s nooit de goedkeuring om de weg op te gaan.

Dus hebben de Amerikaanse, Canadese en Franse onderzoekers geprobeerd zicht te krijgen hoe ‘de samenleving’ denkt over de morele principes die de zelfrijdende auto moet hanteren.


Ongelukscenario’s

Om daar achter te komen gebruikten ze de Moral Machine, een online platform van het MIT Media Lab dat voor de morele dilemma’s van de zelfrijdende auto 40 miljoen antwoorden kreeg van miljoenen mensen uit 233 landen (lees ook 'Morele test voor autonome wagens').
 

Geografische spreiding van de deelnemers aan het online platform.

De Machine legde de deelnemers verschillende ongeluksscenario’s voor, zoals van een zelfrijdende auto waarvan de remmen uitvallen en die de keus heeft om rechtdoor te blijven rijden en drie ouderen op het zebrapad dood te rijden of van rijbaan te wisselen en drie jongere passagiers in een keurig wachtend voertuig aan te rijden. En zo werden tal van varianten voorgelegd van meer of minder slachtoffers, mensen en dieren, enzovoorts.


 

Een van de voorgelegde keuzes: de auto rijdt rechtdoor of kiest de andere rijbaan.



Culturele verschillen

Heel verrassend is de uitkomst niet: mensen gaan boven dieren, minder slachtoffers boven meer en jongeren boven ouderen.

In hoeverre lopen de individuele voorkeuren van de deelnemers aan het platform uiteen?  Er zijn verschillen, zo zijn mannen iets minder geneigd om vrouwen te sparen dan vrouwen, maar die zijn niet wezenlijk.

Anders is dat wanneer de deelnemers worden geclusterd in een drietal culturele clusters: het vooral christelijke West, het confuciaanse en islamitische Oost en het meer katholieke Zuid van Latijns Amerika.


 

Verschil in voorkeuren tussen West, Oost en Zuid.


Zo heeft Oost een duidelijk minder uitgesproken voorkeur voor het sparen van jongeren boven ouderen, en is die voorkeur veel meer uitgesproken bij Zuid, en dat geldt bij Zuid ook voor vrouwen boven mannen. Tegelijk maakt dat cluster weer minder onderscheid tussen mensen en dieren.

De onderzoekers concluderen daarop dat ontwerpers van zelfrijdende auto’s er verstandig aan doen met dit soort culturele verschillen rekening te houden.


Ethische commissie heeft ander oordeel

De onderzoekers vergelijken de uitkomst ook met het enige protocol dat tot nu toe is opgesteld voor dit soort dilemma’s en wel door de Duitse ethische commissie over autonoom en connected rijden. Die noemen ook dat mensen boven dieren gaan, maar laten de keus tussen veel of weinig slachtoffers open en keren zich uitdrukkelijk tegen een keuze gebaseerd op leeftijd of andere persoons kenmerken. Hier is dus een duidelijk verschil met het resultaat van het platform.


Doe wat in het verkeer gebruikelijk is

Eerder deze maand verscheen een soortgelijk Duits onderzoek maar dan onder ruim 1500 deelnemers waarbij ook werd gekeken naar de overwegingen van de deelnemers om een bepaalde beslissing te nemen. Zo bleek er een duidelijke voorkeur te bestaan om bij het falen van de remmen op de eigen rijstrook te blijven, hoeveel slachtoffers dat ook zou veroorzaken. De redering erachter zou zijn dat er minder risico’s optreden door het standaard verkeersgedrag te blijven volgen. Ook bij de beoordeling achteraf, je hebt nu slachtoffers gemaakt, werd het op de rijstrook blijven toch als juist beoordeeld, terwijl bij het van rijbaan wisselen veel meer ‘dat had ik niet moeten doen’ werd gehoord.


Borrelpraat

In de komende uitgave van De Ingenieur, verschijnt 13 november, noemt de Amerikaanse autonoom rijden adviseur Richard Bishop de discussie over morele dilemma’s van de zelfrijdende auto borrelpraat. ‘In principe zal de auto stoppen; dat is hoe het systeem werkt. Er is geen regel code in de software die zegt: ‘Dood liever een voetganger dan de persoon in de auto.’ Zo simpel is het niet.’ Lees ook 'Zelfrijdende overschatting'.
 

Openingsfoto: Depositpohots.