Robots voor militaire toepassingen zouden wereldwijd verboden moeten worden. Dat bepleiten meer dan duizend onderzoekers op het gebied van robotica in een open brief die ze gisteren, 28 juli, presenteerden tijdens een groot congres over kunstmatige intelligentie. Zij zijn bang dat er een nieuwe wapenwedloop op gang komt. Onder de ondertekenaars veel grote namen als Elon Musk, Steve Wozniak en Stephen Hawking.

Autonome wapens – de  term die de ondertekenaars van de brief hanteren – zijn dankzij kunstmatige intelligentie zelf in staat om hun doelwit te selecteren en aan te vallen of te beschieten. De experts richten hun kritiek dus niet op drones, waarbij nog altijd een mens achter de stuurknuppel zit (hoewel uit ethisch oogpunt ook op drones veel af te dingen valt).
 

Gevechtsrobots

De inzet van autonome wapens wordt technisch waarschijnlijk al binnen enkele jaren mogelijk. Het verst zijn autonome vliegtuigen, waar zowel de Amerikanen als de Britten aan werken. De militaire voordelen van autonome wapens zijn duidelijk: er komt geen dure menskracht aan te pas en er zullen minder directe slachtoffers vallen. Voorstanders noemen autonome wapens, ook wel gevechtsrobots genoemd, dan ook de derde revolutie, na het buskruit en kernwapens.
 

Wapenwedloop

Maar de ondertekenaars van de open brief waarschuwen dat er een nieuwe wapenwedloop op gang dreigt te komen tussen grote machtsblokken. ‘Het eindpunt van dit traject is overduidelijk: autonome wapens zullen de kalasjnikovs van morgen zijn. Het is slechts een kwestie van tijd voordat ze op de zwarte markt terechtkomen en zo in de handen vallen van terroristen en dictators.’ En waar kernwapens nog materialen bevatten die moeilijk te verkrijgen zijn, zullen autonome wapens uit conventionele materialen bestaan. Lees: ze worden betaalbaar, populair en dus alomtegenwoordig.
 

Kunstmatige intelligentie

‘Er zijn vele manieren waarop kunstmatige intelligentie het slagveld veiliger kan maken – met name voor burgers – zonder dat we nieuwe gereedschappen maken om mensen te doden’, schrijven de experts. Ze zijn hoopvol dat ze met hun oproep iets voor elkaar kunnen krijgen. Ze trekken de parallel met biologische en chemische wapens, die verboden werden met internationale verdragen mede dankzij de oproepen van biologen en chemici.

Eerder dit jaar pleitte Human Rights Watch ook al voor een totaalverbod op de ontwikkeling en het gebruik van gevechtsrobots. Belangrijkste argument daarbij was dat het lastig is om iemand direct verantwoordelijk te stellen is voor de daden van een robot. Dit is in strijd met het internationale humanitaire oorlogsrecht, zo constateerde ook het Nederlandse Rathenau Instituut in 2012.