In de strijd tegen online kinderporno wil de Europese Commissie toegang tot onze mobiele telefoons. Dat is niet verstandig, stelt hoogleraar Jaap-Henk Hoekman in een column voor De Ingenieur.

 

De Europese Commissie wil serieus werk maken van de bestrijding van online kindermisbruik. Vorig jaar diende zij een wetsvoorstel in dat grote online dienstverleners verplicht noodzakelijke maatregelen te treffen.

De huidige maatregelen zijn vrijwillig en gericht op het detecteren van grooming (digitaal kinderlokken) en kinderporno op de servers van webfora, sociale netwerken en cloudopslagdiensten. Straks vallen ook aanbieders van end-to-end versleutelde communicatiediensten, zoals WhatsApp, iMessage, Signal en Telegram, onder de wet.

Het wetsvoorstel laat open hoe ze dat doen, maar als er aan de bescherming van end-to-end encryptie niet mag worden getornd, blijft er maar één optie over. Dan zal het scannen van kinderpornografisch materiaal op de telefoon zelf moeten plaatsvinden met een app die gebruik maakt van een (gecodeerde) database van bekend kinderpornografisch materiaal. Bij een positieve match worden het materiaal en de eigenaar van de telefoon aan een nader onderzoek onderworpen. Dit heet client-side scanning.

Er zijn fundamentele technische én ethische bezwaren tegen deze maatregelen. Zo is de huidige technologie voor het detecteren van kinderporno onbetrouwbaar. Kinderpornografisch beeldmateriaal is eenvoudig aan te passen zo dat het niet als zodanig wordt herkend. Ook zijn ogenschijnlijk onschuldige foto’s gemakkelijk te manipuleren zodat ze als kinderpornografisch worden gezien en de nietsvermoedende ontvanger op een lijst van verdachten plaatsen. Dit risico kleeft ook aan het voorgestelde gebruik van kunstmatige intelligentie voor het herkennen van nog onbekende kinderporno of grooming.

Gezien de aard van het misdrijf heeft een poten­tiële verdenking een grote impact op de persoon die daarmee wordt geconfronteerd, ook al blijken de afbeeldingen later onschuldig van aard zijn. Onder het motto ‘waar rook is, is vuur’ kan de directe omgeving van de verdachte, dienstaanbieder of politie toch een interne aantekening van deze melding maken.

Alsof er in ieder huis een beveiligingscamera is geïnstalleerd

Fundamenteel bezwaar is dat er een ‘verklikker’ op de telefoon wordt geïnstalleerd die een melding naar de autoriteiten stuurt bij iedere match met de database. De inhoud van deze database bepaalt wat als verdacht materiaal wordt gezien. En de scope van wat verdacht is, is eenvoudig uit te breiden met een simpele update van de database. Daarmee kan het systeem ook worden gebruikt om ander ongewenst materiaal te detecteren, zoals terroristisch promotiemateriaal of haatzaaiende afbeeldingen. Politici en opsporingsdiensten staan er helaas niet om bekend weerstand te kunnen bieden tegen deze vorm van function creep.

Onze telefoon is zeer persoonlijk: we hebben hem altijd bij ons en zetten alles wat we doen, zien of denken erin. Het wetsvoorstel komt er dus op neer dat instanties de mogelijkheid krijgen mee te kijken in ons privéleven. Het verschil tussen client-side scanning en het scannen op de servers van online dienstverleners is vergelijkbaar met het verschil tussen een huiszoeking en surveilleren op straat. Alleen client-side scanning gaat nog een stap verder. Alsof er in ieder huis een beveiligingscamera is geïnstalleerd die wordt geactiveerd zodra er sprake lijkt te zijn van huiselijk geweld. 

Ik zei altijd, gechargeerd, dat de smartphone te vergelijken is met een Stasi-agent in onze jas- of broekzak. Dat was niet als advies aan de overheid bedoeld.


Tekst: privacy-expert Jaap-Henk Hoepman, gasthoogleraar computerwetenschappen aan de Karlstad Universiteit in Zweden en universitair hoofddocent aan de Radboud Universiteit in Nijmegen en de Rijksuniversiteit Groningen.
Beeld: Depositphotos