Zelfrijdende overschatting
Wat voor zelfrijdende auto zou je kiezen: eentje die het leven van de voetganger spaart, of die vooral zorgt dat de bestuurder de crash overleeft? De antwoorden van studenten op deze onderzoeksvraag leverden een publicatie op in het gezaghebbende tijdschrift Science en bijbehorende publiciteit.
Het onderzoek bouwt voort op een al langer op het internet rondwarende vraag over de zelfrijdende auto: wiens leven moet die sparen in geval van een ongeval, dat van een oudere persoon of een jong kind? Een intrigerend ethisch dilemma, goed voor het debat. Maar overbodig.
Verplaats je eens in de positie van de programmeurs van de zelfrijdende auto. Nadat ze alle dagelijks nodige software hebben gemaakt, zijn ze eindelijk beland bij de module die in werking treedt in geval van een crash. Gaan die programmeurs dan een lijstje opstellen van nr. 1 tot en met 10 met bovenaan jong kind, dan zwangere vrouw, tot en met die oudere? Natuurlijk niet.
Het is ondenkbaar dat er ooit softwareregels worden geschreven die vastleggen dat er iemand aangereden moet worden, in mijn voorbeeld de oudere. Auto’s zijn geen moordmachines.
Zie je het advertentiespotje al voor je: ‘Deze auto spaart jouw leven, ook als dat ten koste gaat van anderen, koop merk X’?
Het enige wat er geprogrammeerd kan worden is het voorkomen van een ongeval. Dus als de auto een kind of een oudere herkent, dan is het commando: ‘afremmen’. Steekt er een kind plotseling de straat over, en is de keus aanrijden of tegen een boom rijden, dan doet de software geen uitspraak. Op zijn best gaat ie volop in de remmen, en het lot bepaalt het resultaat. Zoals dat ook gaat bij bestuurders van vlees en bloed.
Hier zit ook mijn tweede bezwaar tegen suggestie in de Science-publicatie alsof de zelfrijdende auto in staat is bij ongevalsituaties een weloverwogen beslissing te nemen. Ongelukken zijn vrijwel altijd het resultaat van iets onverwachts. Voor een menselijke bestuurder is het dan meestal verschrikkelijk lastig - bij voldoende snelheid fysiek onmogelijk - om adequaat te reageren, laat staan dat de software in staat zou zijn om in een ‘split second’ de situatie te inventariseren en een ‘verstandige’ beslissing te nemen. Ongelukken zijn niet het resultaat van een weloverwogen actie, maar van paniek. Het getuigt van schromelijke overschatting van wat kunstmatige intelligentie vermag om te denken dat dat voor de zelfrijdende auto anders is.
De enige softwareregel die er in de crashmodule zal komen is: maak een noodstop. De discussie over wie het slachtoffer moet worden is er voor de borreltafel.