Ook bij het werken aan een corona-app stonden de beste stuurlui aan wal, zag columnist Peter-Paul Verbeek.

Enige tijd terug nam ik als techniek-ethicus deel aan de ‘appathon’ die het ministerie van Volksgezondheid, Welzijn en Sport had georganiseerd om een aantal corona-apps te laten ontwerpen. In een enorme snelkookpan werden zeven voorstellen voor een app kritisch beproefd door een panel van deskundigen.

Maar wat bedoeld was als ontwerp-marathon, pakte voor mij vooral uit als een ethiek-marathon, waarvan veel te leren valt over de manier waarop ethiek en techniek met elkaar kunnen worden verbonden. Spoiler: bij de ontwerpers zelf was meer ethiek te vinden dan bij de critici langs de zijlijn.
 

Meer lezen in het Dossier Corona


Discussie

Er was nogal wat discussie aan deze appathon voorafgegaan (lees ook: 'Overheid zoekt app: 5 alarmbellen die afgaan'). Een aantal adviserende experts was het zeer oneens met de selectie van de zeven deelnemende partijen en liet dat duidelijk blijken door met veel media-aandacht hun handen ervan af te trekken.

De keuze zou veel te haastig zijn verlopen. Daarnaast bestond er grote twijfel over de haalbaarheid van het ontwikkelen van een app die aan alle eisen rondom veiligheid, betrouwbaarheid en privacy zou voldoen. Al bij het startschot had het evenement dus averij opgelopen. De ethiek versus de techniek: dat was het frame.
 

Livestream

In die sfeer van ‘wij’ tegen ‘zij’ verliep vervolgens ook de openbare beproeving, waarvan delen door heel Nederland via een livestream waren te volgen. De buitenwereld, die zich via Twitter flink roerde, fulmineerde tegen alles wat er gebeurde.

In hun morele zelfgenoegzaamheid vergaten de boze mensen om goed te kijken naar wat er nu werkelijk gebeurde.

De overheid was te haastig en staarde zich blind op technologische oplossingen, de app-ontwikkelaars hadden te weinig oog voor privacy, veiligheid en betrouwbaarheid, en de panelleden legitimeerden door hun deelname aan de appathon juist dit hele circus, en moesten zich schamen dat ze de apps daarmee ethisch zouden ‘witwassen’.
 

Morele zelfgenoegzaamheid

Wat mij vooral trof was het verschil tussen ‘binnen’ en ‘buiten’. Want in hun morele zelfgenoegzaamheid vergaten die boze mensen om goed te kijken naar wat er nu werkelijk gebeurde. De sessies tijdens de appathon stonden juist bol van de ethiek. Het ging over niets anders dan privacy-waarborgen, betrouwbare contactdetectie, veilige data-opslag, data-eigenaarschap en data-donorschap, digitale solidariteit, ethics by design, enzovoort.

Als er iets witgewassen werd, dan waren het wel de witte kragen van de critici aan de zijlijn, niet de blauwe kragen van de ontwerpers die hun handen vuil maakten en zich voor het oog van de camera’s uit de naad werkten om een app te ontwikkelen die een positieve bijdrage kan leveren aan de samenleving.
 

Surveillance of solidariteit?

Veel van de ethische vragen bleken bovendien vooral betrekking te hebben op de maatschappelijke inbedding van de apps. Willen we de apps zien als een soort digitaal vaccin dat de staat helpt om mogelijk besmettelijke mensen binnen te houden? Of als een hulpmiddel om mensen in staat te stellen beter voor elkaar en voor zichzelf te zorgen? Moeten de apps surveillance mogelijk maken of solidariteit?

Juist door te gaan ontwerpen worden die doelen helderder, en kunnen we beter beoordelen of die doelen wel technologisch haalbaar zijn. Ethiek hoort evenveel aan de voorkant, bij het ontwerp, als aan de achterkant, bij de beoordeling.

Laat ik helder zijn: ik ben het eens met de kritiek op de apps en op de haastigheid van het proces. Het is goed dat we niet verder gaan met de ontwerpen die er nu liggen. Maar ik heb er vooral uit geleerd dat we de ethiek nog veel beter kunnen verbinden met de techniek. En dat uiteindelijk niet de ethici maar de ingenieurs aan de frontlinie van de ethiek staan.

Peter-Paul Verbeek is universiteitshoogleraar Filosofie van Mens en Techniek en wetenschappelijk co-directeur van het DesignLab van de Universiteit Twente.
 

Meer lezen over technologie in de corona-crisis? Bekijk het nieuwe Dossier Corona.