Vier experts delen hun inzichten in de technisch-maatschappelijke actualiteit. Deze editie: Vanessa Evers.

Met ChatGPT, Claude en noem maar op wordt veel moois gemaakt en gedaan. De een maakt er oefenproefwerken mee voor een kleinkind, de ander analyseert het nieuws uit verschillende kranten. Het doet me denken aan de opkomst van Google. Welke zoekopdracht je ook gaf: Google wist het antwoord. Het was magisch.

In 1992 ging ik aan de UvA studeren en kreeg ik ineens een e-mailadres. Ik had niemand om mee te mailen – tot ik op de kaft van een inleiding in de computerwetenschappen een mailadres zag staan, dat van de auteur. ‘Hello, I am a student at the University of Amsterdam and I have found your e-mail address in my textbook.’ Ik kreeg prompt antwoord: ‘Jij bent de eerste die mij een mail stuurt vanuit een ander land!’ Ook al een magische ervaring.

Nu staan we voor een nieuwe, op het oog magische, ontwikkeling in kunstmatige intelligentie (AI). Maar wat is AI eigenlijk? Hoewel ik er vakken in heb gevolgd en bij tal van groepen en projecten betrokken ben geweest waaraan ook de grondleggers van AI deelnamen, heb ik eigenlijk geen idee. Mijn smaak van AI, machine learning en dan specifiek reinforcement learning, wordt nu gezien als passé. Machine learning is dat de machine patronen gaat zien in data die je haar voert: heel veel plaatjes van paarden en ezels, netjes gelabeld, en na een tijdje bepaalt de software zelf wanneer het waarschijnlijk een paard is. Reinforcement learning vindt vooral plaats in de wereld. Mijn drone wil olifanten tellen, denkt een olifant te spotten en maakt een plaatje. De boswachter ziet: neushoorn, fout! Dus de drone krijgt een strafpunt. Doe dit een aantal keer en hij krijgt door wanneer het wel een olifant is.

LLM’s en de spannende nieuwe multimodal LLM’s werken anders. AI kan geen foto echt zien of een stem echt horen, maar snapt alleen cijfertjes. De Transformer husselt tekst, plaatjes en geluids tokens en gaat naar patronen kijken, connecties tussen plaatjes, geluidjes en tekst. Hebben die te maken met een geel, krom stuk fruit, dan komen ze terecht bij ‘banaan’. Geef een multimodal LLM een foto van de inhoud van je koelkast en vraag ‘wat kan ik koken?’, dan maakt hij een match tussen de ingrediënten en recepten die hij heeft onthouden van het internet. Magisch.

Waarom zijn we dan zo bezorgd? Diezelfde AI kan direct een superrealistisch nepfilmpje maken. Dingen die vroeger alleen specialisten met jaren wetenschappelijke training konden maken zijn nu mogelijk met het juiste prompten. De AI maakt agents, systemen die niet alleen kunnen kletsen maar ook computers kunnen gebruiken, betalingen kunnen verrichten en beslissingen kunnen nemen.

Als ik AI vraag mijn online winkeltje zo te runnen dat ik maximaal winst heb, dan weet ik niet wat die gaat doen. Misschien zal hij de concurrentie hacken, of de winst gebruiken om de aandelenmarkt te manipuleren. Ligt eraan welke agents hij besluit te maken, en hoe goed hij daar in is.

AI bevindt zich in een mathematische wereld. Er wordt niet ‘nagedacht’ of een bepaalde uitkomst wel goed is voor andere winkeltjes zoals die van mij. Wanneer wij eindelijk doorhebben dat er iets gebeurt dat we niet willen, kan het onmogelijk zijn dat vervolgens uit te zetten.

Dus… de magie van weleer, maar dan met schaduwzijden die we nog lang niet allemaal in kaart hebben gebracht. Er lijken oneindig veel meer mogelijkheden nu om deze technologie te misbruiken. De bal ligt bij ieder van ons.

Hoogleraar Vanessa Evers, gespecialiseerd in sociale kunstmatige intelligentie, is directeur van het Centrum Wiskunde & Informatica (CWI) in Amsterdam.