Het grootschalige gebruik van kunstmatige intelligentie (AI) brengt risico’s met zich mee, maar een overmaat aan ingewikkelde regels remt innovatie en zet Europa op achterstand. Dat spanningsveld maakt toezichthouden een lastige maar boeiende taak, bleek woensdag op het AI Toezichtcongres in Amersfoort.

Kunstmatige intelligentie is niet meer weg te denken uit de samenleving en kan overal van nut zijn, of het nu is bij het interpreteren van medische scans, het samenvoegen van heel veel medische beelden, het uit de lucht schieten van vijandige drones of het snel voldoen aan WOO-verzoeken.

Wel is het van groot belang dat dit op een verantwoorde manier gebeurt. Want wat als een AI-tool voorzien van ingebakken vooroordelen een rol gaat spelen bij surveillance, grensbewaking, politietaken of het opsporen van mogelijke belastingfraude?

AI Act

Om (al dan niet bewust) ongewenst gebruik van AI te voorkomen, werkt Europa  aan regelgeving. Zo trad op 21 augustus 2024 de Europese AI Act in werking. Dit is een verzameling eisen en kaders  – de eerste wereldwijd  – die  gelden voor het ontwikkelen en gebruiken van kunstmatige intelligentie. Hiermee moet betrouwbare AI in Europa worden gegarandeerd.

Om navolging van die AI Act te controleren en te begeleiden, zijn toezichthouders aangesteld. Deze hebben nadrukkelijk niet alleen de taak om boetes uit te delen bij overtredingen, maar vooral ook om bedrijven te helpen wegwijs te worden in de regelgeving.

Want wat mag wel en wat niet? En hoe is dat over een paar jaar? Aan de AI Act zelf worden nu al veranderingen aangebracht, de landelijke wetgeving waar bedrijven uiteindelijk wettelijk aan gebonden zijn moet zelfs nog komen.

Beleidsmakers, bedrijven en toezichthouders proberen samen vorm te geven aan de uitvoering hiervan. Op woensdag 10 december ontmoetten zij elkaar bij het AI Toezichtcongres in Amersfoort, georganiseerd door de Rijksinspectie Digitale Infrastructuur (RDI) en de Autoriteit Persoonsgegevens (AP).

Balanceren

Het moeilijkst bij het controleren van de inzet van AI bij bedrijven, is om dit niet ten koste te laten gaan van de innovatiesnelheid. Dat is een balanceeract, zeiden alle sprekers, al keken ze er enigszins verschillend tegenaan hoe die act moest worden uitgevoerd.

Dat toezicht nodig is moge duidelijk zijn, zei Michiel Boots, Directeur-Generaal Economie en Digitalisering bij het Ministerie van Economische Zaken. ‘AI ontwikkelt zich ongelooflijk snel, maar dat brengt ook risico’s met zich mee.’ Bedrijven willen aan de wet voldoen, is zijn overtuiging. ‘Maar dan moeten ze wél weten wat mag en wat niet.’

Dat laatste is nog best ingewikkeld, want aan de Europese regelgeving wordt nu alweer gesleuteld (zie onderaan) en de Nederlandse AI-wet, die daarop wordt gebaseerd, is nog in de maak. ‘Die wordt nu samen met de toezichthouders ingericht’, zegt Boots.

Komend jaar gaat de Nederlandse wet eerst naar de Raad van State en dan naar het Parlement. De verwachting is dat hij over anderhalf tot twee jaar in werking treedt.

Snelheid

Snelheid van innovatie is belangrijk, maar te weinig oog voor regulering kan zich ook tegen de technologie keren, zeggen de voorstanders van sterke regulering. Met onverantwoorde AI verliest de gebruiker het vertrouwen.

Toch moet het remmende effect van te véél toezicht niet worden onderschat, waarschuwde Constantijn van Oranje, die aanwezig was in zijn rol als special envoy van Techleap, een initiatief van de Nederlandse overheid om het Nederlandse tech-ecosysteem voor ondernemers te versterken.

‘Nederland is een raar land’ stelde Van Oranje. ‘Als hier iets bij 99 procent van de bedrijven goed gaat en bij 1 procent van de bedrijven fout, moeten ook de 99 procent van de bedrijven waar het goed gaat opeens allerlei aanpassingen doen. Dit land aanvaardt geen risico’s.’ Het komt doordat we ons lang in een comfortabele situatie bevonden en tijd genoeg hadden, zegt hij. ‘Maar die tijd is voorbij. Ik was onlangs in Silicon Valley. En hoe snel AI daar gaat, dat voelt alsof er een TGV voorbij komt denderen, terwijl wij zelf stilstaan op het perron.’

Van Oranje ziet een aantal goede ontwikkelingen bij hoe er nu met AI-regulering wordt omgegaan: dat er nu al met alle betrokkenen wordt overlegd, nog voor de wet er is, en dat er ook wordt gekeken naar wat bedrijven nodig hebben. Dat laatste gebeurt door middel van regulatory sandboxes: een soort testomgevingen waarin bedrijven in overleg met toezichthouders alvast kunnen uitvogelen of hun idee of product aan de regels uit de AI Act voldoet. 

Duidelijkheid

Ondernemers snakken vooral naar duidelijkheid, zei Focco Vijselaar, algemeen directeur VNO-NCW. ‘Vrij naar Rutger Bregman: de meeste bedrijven deugen. Als toezichthouders aangeven hoe AI praktisch kan worden toegepast, creëren we vertrouwen en ruimte om te investeren in verantwoorde AI.’

Die duidelijkheid probeerden Angeline van Dijk van de Rijksinspectie Digitale Infrastructuur en Katja Mur van de Autoriteit Persoonsgegevens namens de toezichthouders te geven. Een aantal is al helder. Zo worden toepassingen van AI die ontoelaatbare risico’s opleveren voor mensen verboden, zoals systemen die mensen beoordelen op grond van gewenst gedrag (‘social scoring’). Verder wordt aan AI met hoge risico’s, zoals bij toepassingen op de arbeidsmarkt of in de financiële dienstverlening, duidelijke eisen gesteld, en moet bij AI-toepassingen die informatie verschaffen in de vorm van teksten, beelden of filmpjes, duidelijk worden vermeld dat deze door AI zijn gemaakt.

Van Dijk: ‘De handvatten zijn duidelijk, de uitwerking is sectorafhankelijk. Dat aan AI voor personeelsselectie andere eisen worden gesteld dan aan AI voor appeltaartoptimalisatie ligt voor de hand.’

Veranderlijk

Toch zijn de regels aan verandering onderhevig. Van de EU-verordening is een deel inmiddels in werking getreden, een deel is uitgesteld, en een deel wordt wellicht nu al veranderd via een wijzigingsvoorstel, de zogeheten AI-omnibus.

Ook over de wenselijkheid hiervan lopen de meningen uiteen. De omnibus schept meer ruimte voor bedrijven maar is een minder sterke garantie tegen oneigenlijke toepassingen van de techniek.

Internationale ontwikkelingen

Ook buiten Europa hebben de EU Act en de manier waarop het toezicht hier vorm heeft gekregen de aandacht getrokken, meldt Tee Wee Ang, Programmaspecialist bio-ethiek en ethiek van wetenschap en technologie bij Unesco. Onder meer Canada en Japan hebben nu vergelijkbare plannen.

Dat klinkt mooi, maar de vragen die blijven hangen zijn of AI uit landen als de Verenigde Staten en China ons toch niet zal (blijven) overspoelen, en wat regels waard zijn bij veranderende omstandigheden. Leiders die minder begaan zijn met privacy, diversiteit en de rechten van de mens – dus bij wie misbruik het grootste gevaar vormt – zijn vaak ook degenen die dit soort regelgeving het makkelijkst ongeldig verklaren of gewoon naast zich neerleggen.

Het toeval wil dat juist vandaag, twee dagen na het AI Toezichtcongres, president Trump de regulering van AI van de staten per decreet ongeldig verklaarde, om tegemoet te komen aan de leiders van de tech-industrie.

Dat neemt niet weg dat regelgeving nodig is, en dat het goed is dat het in Europa anders gaat.

Openingsbeeld: Depositphotos