Onderzoek naar kunstmatige intelligentie moet de mensheid ten goede komen en mogelijke nadelen voorkomen. Dat is de essentie van de open brief ‘Robust and Benificial AI’ van grootheden als Elon Musk en Stephen Hawking.

Welke consequenties moet de onderzoekswereld aan die oproep verbinden?

Drie ondertekenaars geven hun antwoord:

  • Robert Babuska (hoogleraar Intelligente Controle en Robotica, TU Delft),
  • Guszti Eiben (hoogleraar Kunstmatige Intelligentie, VU Amsterdam)
  • Alan Winfield (hoogleraar Intelligente Autonome Systemen, Bristol Robotics Lab).

De kritische reflectie komt van

  • Maurice Schellekens (universitair docent  Robots en Recht, Tilburg Universiteit),
  • Hans Schnitzler (auteur ‘Het Digitale Proletariaat’)
  • Bennie Mols (auteur ‘Turings Tango’).

Moderator is Frank Biesboer (hoofdredacteur De Ingenieur).
 

De open brief Research priorities for robust en beneficial artificial intelligence spreekt uit dat de verdere ontwikkeling van kunstmatige intelligentie de mensheid veel voordeel kan bieden, mits tegelijkertijd mogelijke nadelen worden voorkomen. Het bij de brief gevoegd document noemt een reeks van onderwerpen voor onderzoek die daartoe moeten bijdragen.

De open brief is een initiatief van het Amerikaanse Future of Life Institute dat vorig jaar is opgericht om de mogelijke risico’s van kunstmatige intelligentie te weerstaan.  De stichters zijn Max Tegmark, hoogleraar natuurkunde aan het Massachusetts Institute of Technology en Jaan Tallion, medeoprichter van Skype. De tekst van het document is geschreven door Stuart Russel, hoogleraar computerwetenschappen aan de University of California, Daniel Dewey van het Oxford Martin Programma on the Impacts of Future Technology  en Max Tegmark. Inmiddels hebben vele duizenden de open brief ondertekend.

Het document signaleert dat er de laatste jaren vorderingen zijn gemaakt, die de vooruitgang van kunstmatige intelligentie een enorme boost geven. Dat betreft onder meer de herkenning van spraak, beeld en patronen, de zelfsturende systemen, vertaalmachines, lopende robots en vraag-antwoordsystemen. ‘Gezien het grote potentieel van kunstmatige intelligentie is het alleszins de moeite waard om te onderzoeken hoe daar de voordelen uit te halen en tegelijkertijd mogelijke nadelen te ondervangen.’

Het document noemt diverse voorbeelden van ontwerpdilemma’s. Hoe moet een zelfsturende auto een afweging maken tussen een kleine kans op het verwonden van een mens en een grote kans op flinke materiële kosten? Wat houdt menselijke controle in bij het gebruik van killerdrones? Hoe maximaal het economisch effect van kunstmatige intelligentie te benutten zonder dat dit leidt tot grotere ongelijkheid of massawerkloosheid?

Het doel van de open brief is dat dit type onderwerpen een duidelijke plek krijgen in de research-agenda van kunstmatige intelligentie.

De Nederlandse ondertekenaars Robert Babuska (hoogleraar Intelligente Controle en Robotica, TU Delft) en Guszti Eiben (hoogleraar Kunstmatige Intelligentie, VU Amsterdam) zijn beide op verschillende manieren betrokken bij het AI-onderzoek.

Prof.dr. Robert Babuska MSc is wetenschappelijk directeur van het Delftse Robotica Instituut en houdt zich bezig met diverse typen robots. Hij is gespecialiseerd op onderwerpen als lerende systemen en voorspellende controle van systemen.

Prof.dr. Guszti Eiben was een van de eersten die zich bezighield met evolutionaire computerkunde, waarbij de software zelf voor een bepaald probleem de optimale oplossing kiest door random opties te bekijken en via een evolutionair proces de beste te selecteren. Eiben is nu bezig ditzelfde te onderzoeken op robots die, door zichzelf te reproduceren, hun eigenschappen en vaardigheden veranderen.

Speciaal uitgenodigde ondertekenaar is prof.dr. Alan Winfield, autoriteit op het gebied van robots en ethiek. Hij is een van de oprichters van het Bristol Robotics Laboratory, en heeft zich daar bezig gehouden met intelligente controle van robots. Winfield is een actief blogger op het gebied van robotica en kunstmatige intelligentie en pleitbezorger van de ethische robot. (http://alanwinfield.blogspot.co.uk).

Commentaar op de open brief leveren:

Mr.ir. Maurice Schellekens. Hij houdt zich bezig met de regulering van moderne technologie en was betrokken bij het Europese RoboLaw-project  dat richtlijnen bevat over het reguleren van robotica. Dit rapport vraagt bijvoorbeeld bij zorgrobots aandacht voor zaken als veiligheid, privacy en aansprakelijkheid.

Prof.dr. Eric Bartelsman. Hij heeft in artikelen en columns gewaarschuwd voor de gevolgen van kunstmatige intelligentie op de werkgelegenheid. Hij voorziet dat de helft van de nu bestaande banen overbodig zal raken.

Filosoof, columnist en schrijver dr. Hans Schnitzler is kritisch over de gevolgen van de digitale revolutie op de zelfbeschikking van de mens. Waar mensen zich tot nu toe vrijwillig de rol op zich nemen van digitale proletariër, zal kunstmatige intelligentie zelfs die illusie wegnemen.

Wetenschapsjournalist, auteur en spreker dr.ir.drs. Bennie Mols voorziet dat de mens altijd de computer de baas zal blijven. Hij beschouwt de idee dat er een moment komt waarop machines intelligenter zullen zijn dan de mens (singularity) een fata morgana.

 

Is het mogelijk het onderzoek van kunstmatige intelligentie

 te richten op de positieve kansen, of jagen we een illusie na?

 

Dinsdag 21 april, 20.00 uur
De Balie, Kleine Gartmanplantsoen 10, Amsterdam
Toegang: € 10, KIVI-leden en studenten € 5

 

Organisatie: Koninklijk Indstituut Van Ingenieurs (KIVI), www.kivi.nl


Sponsor: Network Institute, www.networkinstitute.org


Slagen we erin het onderzoek van kunstmatige intelligentie te richten op positieve waarden, of jagen we een illusie na?

Lees hier meer over de open brief Robust and Benificial Artificial Intelligence