Een van de betrokkenen bij de ethische AI-richtlijnen van de EU heeft daar stevige kritiek op. Die kritiek zet de discussie echter op een dwaalspoor en getuigt bovendien van chauvinisme, stelt Peter-Paul Verbeek.

De lente is onstuimig begonnen voor de ethiek van ­informatietechnologie. Eerst stelde Google een onafhankelijke ethische adviesraad in om zichzelf scherp te houden, om die na enkele dagen alweer te ontbinden vanwege ophef over de samenstelling ervan. Vervolgens verschenen de langverwachte ethische richtlijnen van de Europese Unie ten aanzien van kunstmatige intelligentie, maar nog voor de inkt droog was, nam een van de auteurs er al scherp afstand van. 

De ontbinding van een ethiekraad zonder draagvlak lijkt mij een verstandige keuze, maar de gang van zaken in de EU heeft wat meer voeten in aarde. Een groep van 52 experts heeft een ethisch kader ontwikkeld voor kunstmatige intelligentie. Centraal staat de gedachte van trust­worthy AI: technologie die ons vertrouwen waard is, omdat ze is gebaseerd op waarden als uitlegbaarheid, transparantie, en respect voor autonomie en welzijn. 

Metzinger verandert richtlijnen in wetten en miskent het belang van actieve ethische reflectie van technologen zelf

Maar direct na de presentatie ervan bleek de expertgroep zélf niet bijzonder vertrouwenswaardig. Thomas Metzinger, hoogleraar theoretische filosofie en lid van de groep, koos al direct de aanval. In een ingezonden stuk in Der Tages­spiegel noemde hij de richtlijnen een ‘ethiekwasmachine, gemaakt in de EU’.

Het was Metzingers expliciete taak om red lines uit te werken: harde, niet-onderhandelbare ­grenzen die we moeten trekken bij zaken als autonoom dodende wapens of oncontroleerbare systemen. Maar toen kreeg hij te horen dat de expertgroep een ‘positieve benadering’ wilde ontwikkelen en dat een terminologie van harde grenzen daar niet bij past.

En dat maakt hem boos. Niet-ethici hadden een te grote stem gehad in de richtlijnen, vindt Metzinger. Het is tijd de ethiek te heroveren op de industrie. 

Metzingers bezwaren klinken misschien als een heldhaftige strijd voor de goede zaak, maar wat mij betreft zetten ze de discussie op een dwaalspoor. Met zijn pleidooi voor het trekken van harde grenzen verandert hij richtlijnen in wetten en zo miskent hij het belang van actieve ethische reflectie van technologen zelf.

Ethiek blijkt voor Metzinger een strijd tussen Amerika, China en de EU te zijn, met winst voor de EU als doel

Metzinger schetst een sterk verouderd beeld van de ethiek als een verheven grens­bewaker tegenover een ethiekloze wereld van technologie en kapitaal. Terwijl er juist vanuit de techniekethiek een enorme beweging is naar verbinding met de technologische praktijk. Niet om jezelf bij voorbaat al uit te leveren aan de ­industrie, maar om de goede vragen te kunnen stellen en om daadwerkelijk impact te hebben. Wie alleen maar zoekt naar red lines, plaatst zichzelf buiten de ontwikke­lingen en kan er dan geen richting meer aan geven.

Veel zorgelijker vind ik het Europese chauvinisme waarmee Metzinger zijn argumenten omlijst. Hij opent zijn ingezonden stuk met de stelling dat de richtlijnen ondanks alles ‘de beste in de wereld zijn’ en dat ‘de Verenigde Staten en China niets vergelijkbaars hebben’. En aan het eind van zijn stuk prijst hij het feit dat de richtlijnen zijn ‘verankerd in Europese waarden’.

Ethiek blijkt voor Metzinger een strijd tussen Amerika, China en de EU te zijn, met winst voor de EU als doel. Zo miskent hij de wereldwijde impact van kunstmatige intelligentie en de daarbij behorende noodzaak om tot een mondiaal, breed gedragen en inclusief ethisch kader te komen. En daarmee past het woord ‘witwassen’ helaas meer bij zijn eigen benadering.

Peter-Paul Verbeek is hoogleraar filosofie van mens en techniek aan de Universiteit Twente.