Help! Ben ik een algoritme?

Kun een kunstmatig systeem bepalen wat natuurlijk is, vraagt columnist Rudy van Belkom zich af.  

Met de opkomst van generatieve AI-tools, zoals ChatGPT, zien we dat ook AI-detectors als paddenstoelen uit de grond schieten. Arti­ficial intelligence content detection is technologie die bepaalt of een tekst, afbeelding of video door AI is gegenereerd of door een mens is gemaakt. De detectietools maken gebruik van machine learning en algoritmen die patronen, stijlen en andere kenmerken analyseren die typerend zijn voor AI-content. Zo gebruiken AI-modellen vaak voorspelbare patronen.  

Ik vroeg me af in hoeverre mijn eigen schrijfstijl ‘natuurlijk’ wordt bevonden door AI. In 2019 schreef ik namens Stichting Toekomstbeeld der Techniek (STT) een boek over AI en de zoektocht naar intelligente machines (Duikboten zwemmen niet). Voor de duidelijkheid: dit was ver voor de komst van tools zoals ChatGPT. In het boek wijdde ik een paragraaf aan de functionele toepassingen van AI, waaronder chatbots (oh de ironie).  

Als ik mijn tekst nu door een AI-detector haal, krijg ik de volgende score: ‘Ik schat in dat de tekst voor 60 procent waarschijnlijkheid is geschreven door een mens en niet door AI, omdat de tekst een natuurlijke flow, genuanceerde argumenten en creatieve analogieën vertoont, maar ook een aantal subtiele patronen en formuleringen die zouden kunnen wijzen op een door AI gegenereerde tekst.’

Onterecht bestempeld als fraudeur

Volgens de AI-detector is er dus een behoorlijke kans dat mijn werk wél door AI is gegenereerd – maar liefst 40 procent. Dit zette me aan het denken: wat zegt dit over AI? Wat zegt dit over mij? En hoe objectief is dit?

Net zoals chatbots werken de detectietools op basis van kansberekening en waarschijnlijkheid. Door deze statistische benadering zullen er altijd teksten onterecht als AI-gegenereerd worden bestempeld, net zoals er ook altijd teksten onterecht niet als AI-gegenereerd worden aangemerkt. De resultaten zijn dus alles behalve waterdicht en ijverige studenten en scholieren lopen de kans te worden benadeeld door deze aanpak. 

Deze over­denking bracht me terug naar mijn eigen middelbare schooltijd. Voor het vak beeldende vorming kregen we de opdracht om een afbeelding na te tekenen. Mijn keuze viel op een luipaard die ontspannen in een boom lag te rusten. Ik bleek daar zó goed in te zijn dat mijn werk met een onvoldoende werd beoordeeld. Ik zou het hebben overgetrokken en niets kon de docent overtuigen van het tegendeel.  

Ik kan me dus goed voorstellen dat studenten die zelf een opstel hebben geschreven - zonder de hulp van AI – zich enorm gefrustreerd voelen als ze onterecht door AI als fraudeur worden bestempeld.  

Wat als AI de logica sloopt?

De klassieke opvatting is dat AI creativiteit kapot maakt, maar wat als het juist de logica sloopt? Mensen die sterk in patronen denken kunnen hierdoor worden benadeeld. Het lijkt me sowieso de omgekeerde wereld dat een kunstmatig systeem bepaalt wat natuurlijk is.  

Dat we aan een systeem moeten bewijzen dat we menselijk zijn. Eigenlijk gebeurt dit al aan de lopende band met toepassingen zoals CAPTCHA, waarmee we moeten aantonen dat we geen robot zijn. Het vormde de inspiratie voor de korte film Ik ben geen robot, die zelfs met een Oscar werd bekroond (foto boven).

Gelukkig vermelden veel detectietools wel dat ‘de analyse die door dit AI-model wordt gegenereerd, niet rechtstreeks mag worden gebruikt als enige basis voor disciplinaire maatregelen tegen een student. De verstrekte resultaten zijn indicatief en vereisen menselijke interpretatie.’  

Veel verstandiger lijkt het me als we de aard van de opdrachten die we studenten voorschotelen heroverwegen. Zoals ik eerder in Het Parool schreef: ‘Want als schoolopdrachten door een chatbot kunnen worden uitgewerkt, hoe waardevol zijn deze opdrachten dan überhaupt als leermethode? ChatGPT breekt het onderwijssysteem niet, maar laat zien waar de barsten zitten. Onderwijs zou niet moeten gaan over het geven van de juiste gememoriseerde antwoorden, maar over het stellen van kritische en analytische vragen.’

Tekst: Rudy van Belkom, directeur van Stichting Toekomstbeeld der Techniek.
Beeld: In het zwart-komische korte sci-fi drama Ik ben geen robot gaat de feministische Lara (Ellen Parren) na een aantal mislukte pogingen om een CAPTCHA in te vullen, op zoek naar het antwoord op de verontrustende vraag of zij een robot is. Credit: Amstelfilm