Computerbedrijf IBM hielp de politie van New York om in het geheim een camerasysteem te bouwen dat de huidskleur van mensen kan herkennen. Mensenrechtenorganisaties maken zich zorgen over deze ontwikkeling.

Het online magazine The Intercept onthulde het bestaan en gebruik van het camerasysteem na eigen onderzoek. De camera kan aan de hand van een signalement camerabeelden afspeuren naar mensen die aan het signalement voldoen. Huidskleur is één van de aspecten waar op gezocht kan worden. Wat aanvankelijk begon als een beperkt softwareprogramma voor contraterrorisme groeide uit tot een product dat IBM ook elders verkocht. Onder andere de California State University in Northridge gebruikte het systeem om verschillende misdrijven te onderzoeken.
 

Signalement

Hoewel het New York Police Department (NYPD) zelf zegt dat slechts een paar terrorisme-experts toegang hebben tot het systeem, laat een expert van IBM aan The Intercept weten dat dit niet het geval is: elke agent heeft toegang tot de camera's en kan de software gebruiken om allerlei eigenschappen van een op camera gezien persoon te herkennen.

Het systeem gebruikt beeldherkenning die breder is dan gezichtsherkenning, een controversiële techniek die toch wordt gebruikt. Geef een signalement in (zwarte broek, groen jack, witte huidskleur) en de software analyseert de duizenden camerabeelden rond de plaats delict.

 

Oncontroleerbaar

Het grote probleem is het selecteren op huidskleur. Dit kan vooringenomenheid van de politie versterken. Het kan ervoor zorgen dat onschuldigen onderzocht worden door de politie zonder enige reden. Het belangrijkste, volgens de burggerrechten-experts die The Intercept sprak, is dat de ontwikkeling van de camerasoftware niet transparant is. Omdat het algoritme in het geheim werd ontwikkeld met hulp van IBM, is de werking ervan geen openbare kennis. Daardoor wordt het moeilijker om agenten te controleren en na te gaan of het aanhouden of ondervragen van iemand terecht was of niet.

Beeld: sponki25