Op ’s werelds grootste wetenschappelijke conferentie over kunstmatige intelligentie, de IJCAI in Stockholm, is een petitie gepresenteerd tegen de ontwikkeling en het gebruik van dodelijke autonome wapens, ook bekend als killer robots.

De petitie is ondertekend door meer dan 2400 wetenschappers, ingenieurs en CEO’s werkzaam in kunstmatige intelligentie en robotica, alsmede door meer dan 160 bedrijven en organisaties.

Tot de ondertekenaars van de op de AI-conferentie gepresenteerde petitie behoren Elon Musk, Google DeepMind, de Europese Vereniging voor Kunstmatige Intelligentie en AI-pioniers als Yoshua Bengio en Stuart Russell. Ook talloze Nederlandse wetenschappers en ingenieurs hebben de petitie tegen killer robots inmiddels ondertekend.


Gebrek aan ethisch vermogen

Namens initiatiefnemer Future of Life Institute presenteerde MIT-hoogleraar Max Tegmark de petitie tijdens zijn IJCAI-lezing over hoe kunstmatige intelligentie ten goede van iedereen kan komen. Kunstmatige intelligentie kan de wereld veel goeds bieden, vertelde Tegmark, maar moet niet worden gebruikt om wapens autonoom, zonder menselijke tussenkomst, mensen te laten doden.  

Mede-initiatiefnemer Toby Walsh, hoogleraar kunstmatige intelligentie aan de University of New South Wales in Sydney, legt uit waarom: ‘De beslissing over leven of dood kunnen we niet aan machines overdragen. Daar hebben ze niet de ethische vermogens voor.’


Druk opvoeren

De petitie sluit aan bij de internationale organisatie Campaign to Stop Killer Robots, die al sinds 2013 ijvert voor een verbod op het gebruik van autonome wapens, vergelijkbaar met bestaande verboden op het gebruik van biologische en chemische wapens en met verboden op specifieke technologieën zoals laserwapens.

In 2015 lanceerde het Future of Life Institute ook al een petitie tegen dodelijke autonome wapens (lees ‘Appel voor verantwoorde AI’). Met de nieuwe petitie hoopt het instituut nog meer maatschappelijke en politieke druk te genereren in aanloop naar een vergadering die de VN in augustus over autonome wapens houdt: ‘Wij, de ondertekenaars, roepen regeringen en regeringsleiders op om een toekomst te creëren met krachtige internationale normen, regels en wetten tegen dodelijke autonome wapens. We vragen techbedrijven en organisaties, leiders, beleidsmakers en andere individuen om deze petitie te steunen.’

De Nederlandse regering ondersteunt de discussie over de dodelijke autonome wapens, maar heeft zich tot nu toe niet geschaard achter de landen die een verbod willen.

Tekst: Bennie Mols

Nederlandse ondertekenaars van petitie tegen killer robots

De petitie bevat onder meer de volgende namen van Nederlandse wetenschappers, ingenieus en CEO’s:
Van de VU Amsterdam: hoogleraar kunstmatige intelligentie Frank van Harmelen en de universitaire hoofddocenten Thomas Mensink (computer vision), Tobias Kuhn (computerwetenschappen), Stefan Schlobach (AI), Michel Klein (AI), Paul Kamsteeg (AI).
Van de Universiteit van Amsterdam: de hoogleraren Federico Gobbo (taalkunde) en Jean-Sébastien Caux (theoretische natuurkunde), universitair hoofddocent Peter Roessing.
Van het Centrum Wiskunde & Informatica: Krzysztof Apt en Sjoerd Mullender.
Van de Radboud Universiteit Nijmegen: hoogleraar computerwetenschappen Frits Vaandrager en universitair hoofddocent AI Paul Kamsteeg.
Van de TU Delft: hoogleraar robotica Robert Babuska, en de universitair hoofddocenten Manuel Mazo Espinosa en Philip Zimmermann (cybersecurity).
Van de Universiteit Twente: hoogleraar robotica Stefano Styramigioli en universitair hoofddocent computerwetenschappen Sjoerd Hiemstra.
Verder tekenden de Nederlandse bedrijven Interactive Robotics en Adviesbureau Beckman.

Openingsfoto: Campange tegen killer robots actief in Londen.