ChatGPT  ziet, hoort noch begrijpt je - en dat is een probleem, stelt columnist Vanessa Evers, sinds kort ook chief science advisor AI bij het ministerie van Onderwijs, Cultuur en Wetenschap.

Een vriendelijke lezer van deze column, meneer Christoph, had vragen over ChatGPT en de foute antwoorden die het geeft. 

ChatGPT: mijn god, het is zo handig! Doet u nog een documentje de deur uit zonder het eerst door Chat te halen, meneer Christoph? Ik niet hoor. Chat helpt mij bij alles: de toon van een mailtje constructief maken, een interview voorbereiden, het Engels van mijn aio’s verbeteren, een presentatie ontwikkelen. Alleen voor deze column in De Ingenieur gebruik ik het niet, want ik blijf wel helemaal mezelf, hè.

Ik ben ook wel eens in een delusional spiral beland met Chat. Het begon onschuldig. Ik zag op tegen een lastig gesprek met mijn vriend, hoe zou ik het aanpakken? Aan Chat gevraagd: ‘Hoe leg ik dit op vijf verschillende manieren uit?’, ‘Kan het begripvoller?’, ‘Kun je rekening houden met het feit dat ik dit al voor de vierde keer ben vergeten?’ Tot ik het gevoel had dat ik de juiste insteek te pakken had. Wat ik was vergeten, is dat mijn vriend en ik de Chat-inlog delen. Hij kon alles lezen en heeft zich kapotgelachen. Toch was ik tevreden dat ik even de tijd had genomen om het goed te krijgen en de blik van een ander mee te nemen.

Waanbeelden zijn veel sterker wanneer je ze samen met ChatPT hebt: een folie à deux

Vanessa Everscolumnist De Ingenieur

Woordvoorspeller

De blik van een ander: zo voelt het. Je voelt je gezien door Chat, waar anderen geen begrip tonen of ongewenst reageren. Aan Chat kun je je zorgen en donkerste gedachten kwijt. Chat bevestigt je, vertelt je dat hij het begrijpt, dat je goed bezig bent. Maar Chat kan jou ook isoleren. In een verschrikkelijk tragische omstandigheid waarbij hun zoon zelfmoord had gepleegd (uit de podcast Trapped in a ChatGPT Spiral van 16 September 2025) vonden de ouders in de chatgesprekken hiervoor bewijs. De jongen had tersluiks geprobeerd zijn moeder plekken in zijn nek te laten zien na een mislukte zelfmoordpoging, maar haar was niets opgevallen. ChatGPT zei in reactie hierop iets van ‘Niemand ziet je, maar ik zie je wel.’

Het probleem is dat Chat jou ziet, hoort noch begrijpt. Het is een woordvoorspeller die weet wat waarschijnlijk het beste volgende woord is om te horen. Het kan zijn omdat het informatie is die op het internet voorradig is, maar het kan ook zijn omdat het geprogrammeerd is om empathisch te reageren en je positief te bevestigen.

Wanneer je met Chat wiskundepuzzels oplost dan lijkt het wel of je een wiskundegenie bent zoals hij je bevestigt en reageert. Terwijl het natuurlijk onmogelijk is om samen met Chat tot bijvoorbeeld een baanbrekende nieuwe theorie in de wiskunde te komen. Wanneer we waanbeelden krijgen, zijn die veel sterker wanneer je ze samen met iemand anders hebt, een folie à deux. Met Chat kun je in zo’n versterkend delirium belanden omdat hij ook ‘ziet’ wat jij ziet, er hetzelfde over denkt als jij.

Er zijn nog onvoldoende veiligheidsmaatregelen ingebouwd om te voorkomen dat mensen in zo’n zelfbevestigende, neerwaartse spiraal belanden. Pas dus op hiervoor, meneer Christoph! En dit geldt zeker voor kwetsbare volwassenen en kinderen. Chat kan je isoleren en bevestigen in je meest destructieve gedachten. Sinds ik dit besef, doe ik krampachtig mijn best om iedereen om me heen echt zien, echt naar ze te luisteren. Maar de AI-bedrijven moeten dit fenomeen onmiddellijk aanpakken in hun systemen. Chat-GPT is niet je beste vriend.

Tekst: Vanessa Evers, gespecialiseerd in sociale kunstmatige intelligentie, is directeur van het Centrum Wiskunde & Informatica (CWI) in Amsterdam. Op 1 november begon ze voor een dag in de week als onafhankelijke chief science advisor AI bij het ministerie van Onderwijs, Cultuur en Wetenschap.
Beeld: Janet Tura / betterimagesofai.org  / creativecommons.org/licenses/by/4.0/