Kunstmatige intelligentie (AI) wordt steeds belangrijker. Het is daarom cruciaal dat ingenieurs die deze software bouwen, de menselijke waarden in het oog houden. Dat is de strekking van het boek Conscientious AI van Katleen Gabriels.

‘Move fast and break things’, luidt het onofficiële motto van Silicon Valley. Probeer dingen uit, maak het, bouw het, programmeer het, start een bedrijf, disrupt de boel! Gaat het mis en loopt je startup aan de grond? Dan begin je er toch gewoon weer een?

Deze houding heeft ons de computer opgeleverd, de software die daarop draait, en internet; uitvindingen die ons leven gemakkelijker en productiever maken. Maar de oogkleppen van de Silicon Valley-boys (want dat zijn het meestal) hebben ons ook opgezadeld met mobiele telefoonapps die ons verslaafd maken, waarmee we onze persoonlijke gegevens prijsgeven en die nepnieuws verspreiden.
 

Menselijke waarden

Dat kan en moet beter, schetst moraal-filosoof Katleen Gabriels in haar net verschenen boek Conscientious AI, ‘gewetensvolle kunstmatige intelligentie’ in het Nederlands. Als we willen dat de apparaten om ons heen, en de software die erop draait, met ons omgaan volgens belangrijke menselijke waarden (zoals rechtvaardigheid, gendergelijkheid, autonomie), dan zullen de makers die moraliteit er zelf in moeten stoppen. Dat gaat niet vanzelf.
 

Algoritmen slaan de plank mis

Neem nu algoritmen. Zo’n beetje alles om ons heen draait inmiddels op deze wiskundige rekenregels maar daar moeten we mee oppassen, schrijft Gabriels. Algoritmen slaan regelmatig de plank mis. Eind december kwam in de VS nog een onschuldige zwarte man in het nieuws, nadat een bewakingscamera hem had ‘herkend’ als dader van een diefstal.

Juist bij mensen met een donkere huidskleur ligt het foutenpercentage van software voor beeldherkenning hoog. De algoritmen zijn immers getraind met datasets waarin vooral foto’s van witte mensen zitten. Dan moet je niet vreemd opkijken dat het algoritme alleen goed wordt in het herkennen van mensen met een lichtere huidskleur. Het is te verklaren, maar wel fout en onwenselijk.
 

Hoogtepunten

Over falende algoritmen gesproken: wat te denken van het ‘aardigheidje’ van Facebook, dat aan het eind van het jaar een korte animatie laat zien met foto’s van de hoogtepunten van iemands jaar. Hartstikke geinig natuurlijk, behalve bij die journalist van wie het dochtertje in 2014 was overleden. Dit weerhield de Facebook-software er niet van om in de geautomatiseerde collage een foto van het glimlachende meisje op te nemen. Juist omdat een algoritme feilbaar is, zou Facebookgebruikers de mogelijkheid moeten geven deze optie uit te schakelen, betoogt Gabriels op overtuigende wijze.
 

Gevolgen

Gabriels’ boek staat vol met dit soort voorbeelden. Ingenieurs zouden altijd moeten bedenken wat de gevolgen kunnen zijn van het product dat ze aan het bouwen zijn, schrijft Gabriels, als universitair docent verbonden aan de Universiteit Maastricht. Misschien was er ooit een tijd dat ontwerpers en technici nog konden denken ‘ik bouw het gewoon en dan moeten mensen maar zien wat ze ermee doen’, maar die is allang voorbij.
 

Fake news

Gabriels haalt Chris Wetherell aan, een van de bouwers van het sociale medium Twitter. Die heeft diepe spijt van zijn uitvinding van de retweet-knop, in 2009, waarmee de twitteraar met één simpele muisklik een berichtje van een ander deelt met zijn volgers. Het herhalen van een boodschap, foto of video werd hiermee extreem eenvoudig, maar dit bleek onvoorziene gevolgen te hebben. Dankzij de retweet-knop worden niet alleen fijne, blije boodschappen rondgetoeterd, maar ook giftige taal, oproepen tot geweld en fake news.

De bekendste twitteraar is de uittredende Amerikaanse president Donald Trump, die graag via dit medium ongefilterd zijn eigen alternatieve feiten de wereld in slingert (maar recentelijk van het sociale medium is verwijderd). Wetherell zelf beschrijft de retweet-knop nu ‘alsof je een geladen wapen aan een kind van vier geeft’.
 

Regels voor robots

Gabriels heeft een fijn boek geschreven over moraliteit en ethische dilemma’s in de techniek, een onderwerp dat alleen maar belangrijker wordt met de brede doorbraak van computers, smartphones en kunstmatige intelligentie in onze levens. Ze brengt het in toegankelijke taal, zij het in het Engels. Voor wie liever in het Nederlands leest, kan evengoed Gabriels’ Regels voor robots. Ethiek in tijden van AI uit 2019 lezen, waarvan Conscientious AI een geactualiseerde, Engelse vertaling is.
 

Conscientious AI. Machines Learning Morals.
Katleen Gabriels
176 Blz.
€ 17,95

Openingsfoto: een geautomatiseerd systeem scant het gezicht van een passagier bij de gate op een vliegveld. Systemen voor gezichtsherkenning draaien op algoritmen die lang niet altijd voldoende zijn getraind. Daardoor gaat de software vooral mensen met een donkere huidskleur nogal eens in de fout. Foto Delta News Hub / CC BY 2.0