Het Massachussetts Institute of Technology (MIT) heeft een onlinetest gemaakt om mensen te laten beslissen over het gedrag van autonome auto's. In een reeks morele dilemma's moet men bepalen wat een auto moet doen: uitwijken en crashen, of doorrijden en mensen aanrijden?

Het MIT wil met hun Moral Machine een discussie op gang brengen over de ethiek van de autonome auto. Volgens de Amerikaanse universiteit worden de auto's van de toekomst namelijk zó goed in het observeren van hun omgeving dat zij een ongeluk lang voor het gebeurt aan zien komen. Daardoor zal de enige maatstaf om een beslissing te nemen een morele zijn: wat is de beste optie?

Geen tijd

De onderzoekers zijn benieuwd hoe mensen daarover denken. Normaal hebben bestuurders van vlees en bloed zelden de tijd en tegenwoordigheid van geest om een morele afweging te maken. Een auto heeft dat echter wel, maar die beslissingen overlaten aan een zelflerend algoritme is wellicht onwenselijk.

Het MIT wil een beeld krijgen van de voorkeuren van mensen. Wijk je bijvoorbeeld uit om een groep atleten te redden? En doe je dat ook voor een groep dikke mensen? En voor ouderen? Voor katten en honden? En wat als één van de inzittenden een arts is, verandert dat de beslissing? Veel vragen, waarbij lang niet elke afweging makkelijk of ethisch is.

Wie bepaalt?

Het is een interessant experiment, en het kan confronterend zijn om aan het einde te zien wat je voorkeuren zijn (arm versus rijk bijvoorbeeld). maar de vraag is hoe relevant het is. Zal het publiek uiteindelijk de programmering van een autonoom voertuig bepalen? Of doen de ingenieurs dat die de wagen programmeren? Of de wagen zelf? De kans dat de antwoorden van het MIT relevant zijn voor het gedrag van auto's is klein.

Daarnaast speelt mee dat mensen in dit soort vraagstukken altijd ruimhartiger zijn dan in de praktijk. Een onderzoek in het tijdschrift Science toonde aan dat mensen in theorie altijd het aantal doden willen minimaliseren en vinden dat de auto zich daarop moet instellen. Maar als je mensen daarna vraag welke auto ze zouden kopen, kiest een meerderheid voor het model dat de bestuurder beschermt ten koste van anderen. Dat laat echter ook zien hoe complex de moraliteit rond dit onderwerp is.

Beeld: SparkFun Electronics