Wat doet de komst van onderdanige, met spraak aangestuurde virtual assistants als Siri, Alexa en Cortana met de manier waarop we met andere mensen omgaan? Dat vraagt techniekfilosoof Peter-Paul Verbeek zich af.

Het maatschappelijke debat over kunstmatige intelligentie is nu echt losgebarsten. Ethici storten zich erop, invloedrijke techneuten als Elon Musk en Bill Gates waarschuwen de wereld, en bestsellerauteurs als Yuval Noah Harari schetsen angstaanjagende toekomstscenario’s. Is de mensheid haar eigen graf aan het graven?

Van angst voor te veel mens zijn we opgeschoven naar angst voor te weinig mens

Enkele jaren geleden richtte de ethiek zich vooral op ‘mensverbetering’: zijn we niet onderweg naar een ‘supermens’, die nieuwe ongelijkheid, onrechtvaardigheid en onwaardigheid met zich meebrengt? Inmiddels gaat de discussie over ‘mensvervanging’: zijn we onszelf niet kwetsbaar aan het maken voor overheersing door onze eigen technologie? Van angst voor te veel mens zijn we opgeschoven naar angst voor te weinig mens.

Beide angsten hebben iets gemeen: de vrees onszelf te verliezen, nu mens en techniek zo dicht naar elkaar toe schuiven. Om constructief om te gaan met deze vage angst, moeten we vooral begrijpen welke concrete aspecten van onszelf we dan vrezen te verliezen.

Het gaat uiteindelijk niet om de speculatieve vraag of de mens overbodig zal worden, maar om de concrete, waardevolle dingen die we willen behouden in een wereld met kunstmatige intelligentie. Als algoritmes beter worden in het stellen van diagnoses dan artsen, hoe moeten we dan de zorgende rol en expertise van artsen opnieuw vormgeven? Als robots ook onderwijs gaan geven, hoe geven we dan een nieuwe invulling aan de vormende rol van de docent?

Wat gaat deze nieuwe communicatie tussen mens en machine doen met de communicatie tussen mensen onderling?

Een mooi alledaags voorbeeld van kunstmatige intelligentie is de snelle opmars van intelligente speakers. Apple, Google, Amazon ... Haast elk groot techbedrijf heeft een voice assistant ontwikkeld en levert daar een ‘slimme luidspreker’ bij. Interactie via je stem gaat immers aanmerkelijk sneller en makkelijker dan via een toetsenbord.

Maar de interactie met een mensachtig systeem be­ïnvloedt de manier waarop we communiceren en de ethische kaders van waaruit we dat doen. Tegen een digitale stem kun je immers alles zeggen wat je wilt, en op elke toon die je wilt: zij of hij is eindeloos geduldig en dienstbaar, en heeft een grenzeloos incasseringsvermogen.

Bovendien krijgt zo’n stem een ‘persoonlijkheid’ mee, die vaak nogal gedienstig en onderdanig is, en daarmee ook autoritair gedrag en zelfs seksisme kan versterken. Wat gaat deze nieuwe communicatie tussen mens en machine doen met de communicatie tussen mensen onderling? 

Als mensen geen middel mogen worden, dan mogen de middelen ook niet te menselijk worden

De digitale stem vermengt het menselijke met het technologische: we benaderen het systeem als een functioneel ding, maar ook op een bijna menselijke manier. Dat is complex, want met mensen willen we anders omgaan dan met dingen. Mensen gebruiken we niet, zoekmachines en webwinkels wel. Volgens Immanuel Kant bestaat het fundament van de ethiek er zelfs in dat we mensen niet als een middel tot een doel behandelen. Kunstmatige intelligentie raakt dus centrale waarden in menselijke relaties.

Maar juist door er op deze concrete manier naar te kijken, wordt het ook mogelijk deze waarden mee te nemen in techniekontwikkeling. Misschien moeten we Kants stelregel omgekeerd leren toepassen: als mensen geen middel mogen worden, dan mogen de middelen ook niet te menselijk worden. Er zullen omgangsvormen moeten ontstaan tussen mens en machine die een respectvolle omgang tussen mensen onderling ondersteunen.

En daar moeten de machines ons bij helpen. Niet alleen door fatsoen van ons te vragen, maar ook door ons er aan te blijven herinneren dat ze geen doel op zich zijn, maar slechts een middel, waar we verantwoord mee om moeten gaan.

Prof.dr.ir. Peter-Paul Verbeek is hoogleraar Filosofie van Mens en Techniek aan de Universiteit Twente.