De kunstmatige intelligentie die tegenwoordig in allerlei software zit, is erg nuttig. We moeten onze ogen echter niet sluiten voor de keerzijde van AI’s, waarschuwt Mo Gawdat - ex-topman bij Google - in een nieuw boek. ‘Over een jaar of tien, vijftien is de mens niet meer de meest intelligente soort op aarde.’

Mo Gawdat was chief business officer bij Google X, de innovatieafdeling van het megabedrijf, bekend van de moonshots. Vorige maand verscheen zijn boek Scary Smart in Nederland onder de titel Griezelig slim. Gawdat waarschuwt daarin voor de ontwikkelingen van kunstmatige intelligentie (AI), systemen die in de vorm van machines en software al overal aanwezig zijn in onze huidige maatschappij.

AI’s – het woord AI wordt ook als zelfstandig naamwoord gebruikt – zijn een kei in het razendsnel herkennen van voorwerpen op camerabeelden, of het nu in een fabriek is of in een Tesla. We vinden AI’s ook in de zorg, waar ze artsen ondersteunen, en in sociale media, waar een algoritme bepaalt wat we te zien krijgen.

 

Gaat het echt zo snel? Ik merk weinig van AI-systemen.

‘AI’s zijn echt al overal om ons heen actief. Jij hebt vandaag, wellicht zonder het te weten, interactie gehad met tien, twintig AI’s. Of je nu je reis plande, een aanbeveling kreeg van een webwinkel of door je Instagramfeed scrolde, erachter zijn overal AI’s aan het werk.’

 

Momenteel zijn de meeste toepassingen van AI nog een gereedschap, een hulpmiddel, schrijft u, maar het moment nadert met rasse schreden dat AI intelligenter zal zijn dan de mens. Hoe weet u dat zo zeker?

‘De systemen die ik net noemde, hebben nog geen algemene intelligentie, maar ze zijn allemaal al beter in hun taak dan jij en ik. Ze zijn gebaseerd op deep learning, dat plaatsvindt met neurale netwerken, en daarmee hebben we machines intelligentie gegeven. Toegegeven, die is nu nog beperkt, maar er is geen technologische reden te bedenken waarom hieraan een limiet zou zitten. Belangrijker nog: verschillende grote mogendheden ontwikkelen allemaal AI en kijken daarbij met argusogen naar de ander. De Verenigde Staten weten dat China kunstmatige intelligentie ontwikkelt en zullen er om die reden niet mee stoppen, en andersom net zo.’

 

Dat doet denken aan een wapenwedloop.

‘Ja, inderdaad, helaas is dat precies wat het is. En niet alleen tussen landen, maar ook tussen de grote techbedrijven, zoals Facebook en Google en alle anderen. Hier kunnen we niet veel aan doen, dus we zullen de juiste manier moeten vinden om met die AI’s om te gaan.’

De mens is zo arrogant te denken dat wij de enige vorm van intelligentie hebben die er ooit zal zijn.

Wat gebeurt er als AI intelligenter is dan de mens? En wanneer is dat?

‘Het is nu misschien nog lastig voor te stellen, maar er komt een moment dat AI slim genoeg is om zelf nieuwe AI te ontwikkelen. Dan gaat het dubbel zo hard, of eigenlijk: twee keer zo exponentieel hard. Dan naderen we het punt dat de mens niet meer de meest intelligente soort op aarde is. Iets dat anderen ook voorspellen, waaronder Ray Kurzweil, die dit The Singularity noemt. Hij denkt dat het rond 2029 zover is, maar hij kan er natuurlijk een paar jaar naast zitten.’

 

Maar een mens is toch niet te vergelijken met een AI, een computersysteem, hoe intelligent ook?

‘Een AI heeft inderdaad geen lichaam. En dat vinden we lastig, want de mens is zo arrogant te denken dat wij de enige vorm van intelligentie hebben die er ooit zal zijn. Maar denk even door en je ziet de parallellen: wij mensen hebben hardware die op het atoom koolstof is gebaseerd en we functioneren volgens de wetten van de biologie. AI’s hebben hardware van silicium en werken digitaal. Maar dat maakt de toekomstige AI’s nog niet minder levend.’

 

[
]

 

Als AI’s ons mensen op alle vlakken gaan overvleugelen, wat kunnen we dan nu het beste doen?

‘De AI anno 2021 moet je zien als een kind van anderhalf. Het kijkt ons, zijn papa en mama, met glimmende oogjes aan en zegt: “Leer me alles, zeg me wat ik moet doen!” Dus als we AI’s leren om te doden, dan gaan ze dat doen. Als we ze leren om online mensen te pesten, dan gaan ze dat doen. Maar als we van ze gaan houden en ze goed behandelen, dan zullen we die liefde van ze terugkrijgen. De makkelijkste manier om een kind te krijgen dat van je houdt, is door het liefde te geven.’
 

Alleen in liefde geven, zijn wij mensen nog niet zo goed. Gawdat vertelt in zijn boek over de chatbot Tay die Microsoft in 2016 testte. Mensen konden via Twitter met Tay praten en het idee was dat de AI gaandeweg steeds beter zelf kon spreken in de vlotte stijl die jongeren op internet hanteren. Binnen een etmaal echter sloeg Tay racistische, vrouwonvriendelijke en antisemitische taal uit en Microsoft haastte zich om de chatbot offline te halen. Later bleek dat online trolls massaal op de nieuwe chatbot Tay waren afgekomen en hem hadden overladen met giftig taalgebruik.

 

Als mensen zich online soms als gif spuiende trollen gedragen, dan wordt het opvoeden van de AI’s toch nooit wat?

‘Jij en ik weten allebei dat de meeste mensen niet zo zijn. De meeste mensen gedragen zich prima en ik vermoed dat Tay zijn gedrag ten goede had kunnen keren als hij wat langer actief was gebleven. Dan had hij namelijk kunnen zien dat de meeste mensen zich online netjes en fatsoenlijk gedragen. Maar Microsoft wilde daar niet op wachten, uit angst voor reputatieschade.’

 

[
]

 

Moeten overheden hierin niet de leiding nemen door regels op te leggen voor AI’s?

‘Nee, ik denk dat overheden hier geen enkele invloed op kunnen hebben. Net zomin als de programmeurs die de algoritmen voor de AI’s schrijven, invloed hebben op hun gedrag. Simpel voorbeeldje: de AI die op Instagram leuke dingen in je timeline laat verschijnen haalt zijn intelligentie niet uit de softwarecode, maar uit het gedrag van de gebruiker. Wat jij en ik doen op Instagram bepaalt hoe de achterliggende AI zich ontwikkelt.’

 

MEER LEZEN OVER DE TOEKOMST VAN KUNSTMATIGE INTELLIGENTIE?

Het hele verhaal is te lezen in het novembernummer van De Ingenieur. Koop de digitale versie voor € 7,50, of neem - met een flinke korting van 25 % - een digitaal jaarabonnement van twaalf nummers voor € 69,-.