Hoe om te gaan met de risico’s van nieuwe technologieën waarvan we nog niet weten welke toepassingen belangrijk worden? En wat te doen als we ook geen zicht hebben op de daarbij behorende risico’s waarover we ons druk zouden moeten maken? Een simpel afvinklijstje met aandachtspunten bestaat daarvoor niet. We zullen onze weg moeten vinden tussen overspannen verwachtingen, ongewenste uitkomsten en mogelijkheden om bij te sturen.
Het was nieuws waar maar weinig media over berichtten, begin oktober. Het ging over een zogeheten DDoS-aanval (distributed denial-of-service), waarbij een computersysteem of website zozeer wordt belast met externe communicatieverzoeken dat die niet meer normaal kan functioneren of niet meer toegankelijk is.
Nu zijn die DDoS-aanvallen inmiddels niets bijzonders meer, maar het opmerkelijke van dit bericht van de Amerikaanse internetveiligheidsexpert Brian Krebs was dat die aanval werd uitgevoerd met behulp van veiligheidscamera’s, webcams, settopboxen, oftewel apparaten die op het internet zijn aangesloten, dus met het internet der dingen.
Britse pond
Meer aandacht kreeg de plotselinge val begin oktober van de Britse pond met 6 % in twee minuten tijd. Een van de waarschijnlijke verklaringen is dat de door algoritmen gestuurde handel een lawine van verkopen veroorzaakte en zo de waarde van de munt onderuithaalde. De aanzet werd gegeven door computers die berichten in de pers scannen en daarbij de mededeling van de Franse president Hollande over de Brexit-onderhandelingen als relevant aanmerkten voor de te verwachten koers van de Britse pond.
Hoewel kunstmatige intelligentie zich niet laat leiden door emoties of een slecht humeur, pakte de analyse hier toch duidelijk verkeerd uit. Na een halfuur was de koers van de pond weer vrijwel hersteld.
Deze twee voorbeelden laten zien dat nieuwe technologie ook nieuwe risico’s introduceert, waarmee de samenleving moet leren omgaan, zoals we dat de afgelopen decennia ook hebben gedaan met de risico’s van industriële installaties. Tegelijkertijd zijn de twee voorbeelden slechts een schim van wat komen gaat, want nieuwe technologieën zullen op een veel bredere schaal invloed hebben op ons dagelijks leven en het functioneren van de samenleving.
Dystopie
Aan toekomstbeelden is er geen gebrek. Het samensmelten van nanotechnologie, kunstmatige intelligentie, bio-informatica, digitalisering en connectiviteit creëert ongekende mogelijkheden.
Straks kunnen we materialen vanaf hun atomaire bouwstenen naar wens samenstellen, is er een overvloed van voedsel dankzij genetische modificatie en kweekvlees, en kunnen we ons lichaam permanent monitoren en bijtijds opkomende ziektes signaleren. Zonnepanelen zijn zo efficiënt dat we fossiele brandstoffen niet meer nodig hebben, we beschikken over een intelligente persoonlijke robotassistent die ons alle dagelijkse beslommeringen uit handen neemt, en is er een naadloos functionerend vervoersysteem dat in de cloud wordt gemanaged, waarbij analyse van big data zorgt dat al onze handelingen worden aangestuurd door de best beschikbare kennis.
Hoe gaan we om met nanotechnologie, cyberveiligheid, kunstmatige intelligentie en robots?
Tegenover dit utopische, min of meer risicovrije toekomstbeeld staat dat van de dystopie. Digitalisering en connectiviteit zullen ons nog verder vastsnoeren in het beheersingsnet van overheid en grote datamijnbedrijven als Google, Amazon en Facebook. We worden een nieuw, digitaal proletariaat. Permanente medische controle betekent dat we de greep op ons eigen leven overdragen aan anonieme computersystemen. Kunstmatige intelligentie en robots worden de mens de baas, waarbij we slechts voortleven als zombies en louter dankzij virtuele realiteit de illusie hebben dat we een zinvol bestaan leiden.
Zo geformuleerd zijn de risico’s van moderne technologie zeer serieus te nemen, met gevolgen die veel verder gaan dan een simpele DDoS-aanval op een website of een korte dip in de koers van de Britse pond. Hoe gaan we om met nanotechnologie, cyberveiligheid, kunstmatige intelligentie en robots? Er blijken grote verschillen te bestaan.
Robots
Bij het robotonderzoek spelen maatschappelijke implicaties in de onderzoeksagenda nog nauwelijks een rol. Er is een blinde vlek voor de risico's van robotica.
'We staan met de ontwikkeling van robotica vlak voor het unieke moment dat het groot gaat worden. Nu hebben we nog de kans ervoor te zorgen dat we robots op een verantwoorde manier ontwikkelen', zegt dr. Aimee van Wynsberghe, docent Ethiek van Techniek aan de Universiteit Twente. 'Of willen we wachten tot de robots er zijn en dan achteraf constateren dat we dat liever niet hadden gewild?'
Kunstmatige intelligentie
Over kunstmatige intelligentie zijn er wel algemene uitspraken over de noodzaak van verantwoorde ontwikkeling, maar concreet gebeurt er nog weinig.
Met deep learning introduceren we gevaren die we niet kunnen voorspellen
Dr.ir. Jan Broersen, universitair hoofddocent Kunstmatige Intelligentie aan de Universiteit Utrecht, waarschuwt ervoor systemen verantwoordelijkheden te geven, terwijl die nog lang niet geavanceerd genoeg zijn om die verantwoordelijkheid te dragen. 'Dus het is prima wanneer een arts zich laat adviseren door de IBM-supercomputer Watson, die in staat is alle medische literatuur op een rij te zetten, maar Watson is niet meer dan een stuk gereedschap. De arts houdt de verantwoordelijkheid en moet die ook altijd nemen.'
Cyberveiligheid
Bij internet horen we een pleidooi voor een enorme inhaalslag. Maar een echt veilig internet is ondenkbaar. 'We hebben met zijn allen een systeem omarmd dat intrinsiek onveilig is. Het inernet is indertijd opgebouwd vanuit de noodzaak van beschikbaarheid: er moest altijd communicatie mogelijk zijn. Of indringers aan die communicatie konden deelnemen was toen geen issue', vertelt prof.dr.ir. Jan van den Berg, hoogleraar Cybersecurity aan de TU Delft.
Ondertussen zijn we bezig onze afhankelijkheid van internet flink verder te vergroten, terwijl de cyberveiligheidsagenda bij veel van die nieuwe ontwikkelingen flinterdun is. Van den Berg noemt het ontbreken van instituties, zoals de Keuringsdienst van Waren voor voedsel, een duidelijk gemis.
Nanotechnologie
Op het gebied van nanotechnologie is er een spannende poging gedaan om de beheersing van risico’s een plek te geven in het onderzoek. Nieuwe regelgeving moet deel uitmaken van innovatie. Ontwikkel en monitor tegelijkertijd wat de effecten zijn, zodat je niet voor verrassingen komt te staan.
'Juist door gezamenlijk de route naar productontwikkeling en regelgeving in te zetten, zorg je voor een veiligheidsregime waar iedereen iets aan heeft', stelt dr. Adriënne Sips, coördinator Risico- en Technologieassessment bij het NanoNextNL-onderzoeksprogramma.
Lees het volledige verhaal over toekomstrisico's in het novembernummer van De Ingenieur.
hoofdillustratie Matrioshka
Nieuwsbrief
Vond je dit een interessant artikel, abonneer je dan gratis op onze wekelijkse nieuwsbrief.