Kunstmatige intelligentie vormt een toenemend risico voor de mensheid, aldus het gisteren verschenen Global Risk Report van het World Economic Forum.
Er komen systemen met kunstmatige intelligentie aan die zelfstandig beslissingen nemen, en die door hun prestaties mensen zullen overtreffen. Maar we beschikken niet over passende vormen van regulering en controle die ervoor zorgen dat die systemen de mensheid ten goede komen, zo signaleert het Global Risk Report.
World Economic Forum
Dit jaarlijkse overzicht van de risico’s die de wereld bedreigen behandelt een breed spectrum aan vraagstukken, waaronder toenemende sociaal-economische ongelijkheid, opkomend nationalisme en polarisatie binnen landen. Het is gebaseerd op een enquête onder 745 leidinggevenden uit het zakenleven, overheid, wetenschap en niet-gouvernementele organisaties. Het Global Risk Report 2017 dient ter voorbereiding van de jaarlijkse bijeenkomst van het World Economic Forum, die volgende week plaatsvindt in het Zwitserse Davos.
Het rapport staat uitvoerig stil bij de gevolgen van techniekontwikkeling. Voor twaalf sleuteltechnologieën zijn de mogelijke voordelen en nadelen beoordeeld. Het oordeel over geo-engineering, het technisch ingrijpen in het klimaatsysteem, is het meest negatief; die over de energietransitie het meest positief. Bij kunstmatige intelligentie en robotica is het oordeel het meest ambigu: zowel de voor- als nadelen worden als heel hoog ingeschat.
Regulering, normstellingen en dergelijke zijn dan nodig om de technologie-ontwikkeling in goede banen te leiden. Maar voor opkomende technologieën is deze governance ingewikkeld: te strikte regulering remt innovatie, gebrek aan regulering leidt juist tot onzekerheid.
Vérstrekkende gevolgen
Dat geldt zeker voor kunstmatige intelligentie, omdat het een terrein is waar we geen ervaring mee hebben. Tegelijkertijd neemt de noodzaak van vormen van regulering toe. Als een persoonlijke assistent als Siri op de iPhone crasht is dat irritant, maar verder hoeft niemand daar een traan om te laten. Maar als een wapensysteem of een zelfrijdende auto kunstmatige intelligentie gebruikt en dat misgaat, dan kunnen de consequenties zeer vérstrekkend zijn.
Moderne kunstmatige intelligentie is veelal gebaseerd op zelflerende systemen, en die kunnen hun eigen vooroordelen ontwikkelen. ‘Wanneer besluitvorming geheel of deels afhankelijk is van kunstmatige intelligentie, dan moet er kunnen worden ingegrepen om dat te herstellen.’
We hebben behoefte aan een ingenieursdiscipline die zorgt dat systemen aan onze waarden voldoen
Het rapport signaleert het belang van het antwoord op de vraag of in kunstmatige intelligentie waarden zijn in te bouwen die de mensheid belangrijk vindt. Dat is geen vraag voor de toekomst, maar speelt nu al, bijvoorbeeld bij de ontwikkeling van persoonlijke assistenten. Zo moest Microsoft zijn intelligente chatbot Tay vorig jaar al na een dag uit roulatie nemen toen die racistische taal begon uit te slaan. ‘We hebben behoefte aan een ingenieursdiscipline die zorgt dat systemen aan onze waarden voldoen.’
Infrastructuur en netwerken steeds verder verweven
Het Global Risk Report gaat ook in op de toenemende ontwikkeling van interconnectiviteit, denk aan het Internet of Things, smart grids en dergelijke. Die steeds toenemende onderlinge afhankelijkheid van goed functionerende netwerken vergroot ook de gevolgen mocht er iets mee misgaan.
Tot nu toe is het toezicht op onze kritische infrastructuur vooral sectorgewijs georganiseerd, maar met de toenemende verwevenheid van netwerken voldoet dat niet meer. Zo is de drinkwatervoorziening niet alleen afhankelijk van de kwaliteit van de pompen en het leidingnet, maar evenzeer van het netwerk dat alle onderdelen aanstuurt. Inzicht in de kwetsbaarheid vereist daarom een systeem-van-systemen benadering. Dat betekent dat de verschillende netwerken informatie moeten uitwisselen, en afspraken moeten maken hoe te handelen bij storingen. In de meeste landen ontbreekt het aan zo’n systeembenadering.
Winst en risico's robotisering eerlijker verdelen
Het Global Risk Report staat verder uitvoerig stil bij de gevolgen van de verdergaande automatisering en robotisering in productie en dienstverlening. Die zou wel eens van grotere invloed kunnen zijn op het verlies van banen en toenemende inkomensverschillen dan de globalisering die daar in de meeste beschouwingen de schuld van krijgt. ‘Het is belangrijk zorgvuldig om te gaan met het verdelen van de winst en de risico’s die deze ontwikkeling met zich meebrengt, omdat nieuwe technologieën grote sociale gevolgen zullen hebben.’
Download hier het Global Risk Report 2017.
Nieuwsbrief
Vond je dit een interessant artikel, abonneer je dan gratis op onze wekelijkse nieuwsbrief.