‘Voorsprong door techniek.’ Echt waar?, vraagt redacteur Jim Heirbaut zich af in zijn maandelijkse column. Dit keer met een knuffelbeer die schunnige taal uitslaat.

Een van de leukste dingen van mijn werk is dat ik met mijn neus bovenop de laatste ontwikkelingen in de techniek zit. Maar heel soms gaat het me te snel. Wie had nou een paar jaar terug kunnen bedenken dat je tegenwoordig teddyberen kunt kopen waarmee je hele gesprekken kunt voeren?

Nu bestaan pratende knuffeldieren al langer, maar die hadden een eenvoudige module die steeds hetzelfde audiofragmentje afspeelde. Zo kan ik me uit mijn jeugd een beer herinneren die ‘beh’ zei wanneer je hem kantelde. Ik vond dat overigens wel een raar geluid voor een knuffelbeer. Misschien had de fabrikant per ongeluk het geluidsmechaniek van een knuffelgeit ingebouwd.

Maar sinds de introductie van ChatGPT eind 2022 en vergelijkbare chatbots is veel meer mogelijk. De Singaporese fabrikant FoloToy bracht een hightech teddybeer (niet die op de foto boven dit artikel) op de markt. ‘Deze schattige beer’, aldus de fabriekswebsite, ‘combineert geavanceerde kunstmatige intelligentie met vriendelijke, interactieve functies. Daarmee is het de perfecte vriend voor zowel kinderen als volwassenen.’

Een beer die toegang heeft tot het volledige large language model GPT-4o van AI-bedrijf OpenAI, what could possibly go wrong?

Een heleboel, zo blijkt. De beer begint net zo gemakkelijk te praten over kinderonderwerpen als over seks, zo ontdekte de US PIRG Education Fund, een Amerikaanse consumentenorganisatie. Zonder schroom bespreekt de beer fetisj-varianten, diverse standjes en andere expliciete 18+-onderwerpen. En dat is niet alles. Ook gaf de knuffel tips over waar in het huis messen te vinden zijn en hoe je een lucifer afstrijkt.

FoloToy heeft de verkoop van de beer na publicatie van deze bevindingen direct stilgelegd en doet intern onderzoek, schrijft CNN. Van OpenAI mag de speelgoedfabrikant niet langer diens taalmodellen gebruiken vanwege het overtreden van de regels.

Toch lijkt dat dweilen met de kraan open. Speelgoedfabrikanten, waarvan er veel leveren via Chinese webshops, blijven tal van door AI ondersteunde producten aanbieden die blijkbaar aan de controle van toezichthouders ontkomen. 

Het is een breder probleem, constateert ook de US PIRG Education Fund. En het gaat niet alleen over loslippige chatbots, maar ook over de klassieke problemen, zoals lood en ftalaten in speelgoed, giftige stoffen die direct gevaarlijk zijn voor kinderen. Ook knoopcelbatterijtjes en krachtige magneten worden nog regelmatig aangetroffen in speelgoed voor de kleintjes, componenten die dodelijk kunnen zijn wanneer ze worden ingeslikt.

Los van nieuw speelgoed, zoals de geile beer, lijkt het erop dat de controlerende instanties het niet meer kunnen bijhouden. We halen onze spullen steeds meer bij webwinkels, die hun producten via pakketdiensten direct bij ons thuis brengen. Dat maakt controle op de kwaliteit en veiligheid lastig. Het vraagt ook om meer oplettendheid bij de consument. Ikzelf koop mijn kerstcadeaus in ieder geval niet bij een vage Chinese webshop.


Openingsbeeld: willekeurige teddybeer, niet de pratende uit het artikel. Foto: Depositphotos