De onthullingen over Facebook-data en het gebruik ervan om mensen hun politieke mening te beïnvloeden doen veel stof opwaaien. Maar Facebook experimenteert al jaren met het veranderen van de stemming van mensen via de nieuwsfeed. Het aanleggen van een psychologisch profiel en die kennis maximaal uitbuiten is de kern van Facebooks businessmodel. Het nieuwe schandaal staat niet op zich, maar past in een trend die niet zal stoppen.
50 miljoen Amerikanen, wier diepste zieleroerselen verkocht zijn aan bedrijf dat die informatie gebruikte voor onversneden propaganda. Dat lijkt de realiteit na de onthullingen van klokkenluider Christopher Wylie, medewerker van databedrijf Cambridge Analytica. Facebook gaf dat bedrijf toegang tot profielen in 2015, met het verzoek om ze te deleten na gebruik. Cambridge Analytica deed dat niet en gebruikte de profielen om mensen te beïnvloeden bij de presidentsverkiezingen van 2016 in de Verenigde Staten. Het bedrijf leek ook bij de stem om de Brexit al een rol te spelen.
Hoe groot die rol is, is voorlopig nog onduidelijk. Het is ook moeilijk om te weten hoeveel invloed een aantal advertenties of nieuwsberichten op iemands sociale media uiteindelijk heeft (zoals Sheila Sitalsing in haar column, vandaag in de Volkskrant, uiteenzet). Maar dat betekent niet dat sociale media geen invloed heeft op stemmingen en keuzes: in 2013 experimenteerde Facebook hier al mee.
Huwelijk van data en algoritme
Dat er vijf jaar terug al experimenten plaatsvonden laat ook zien dat het werk van Cambridge Analytica niet op zichzelf staat. Facebook weet precies hoe het zijn gebruikers kan sturen naar een gewenste gemoedstoestand. Het is een huwelijk van zeer persoonlijke gegevens (welke pagina's liket iemand, wat voor comments laat hij of zij achter en hoe ziet het vriendennetwerk er uit) met geavanceerde, soms kunstmatig intelligente algoritmes. Dat huwelijk laat Facebook – of een partij met de gegevens van Facebook – allerlei dingen doen die we tot voor kort niet voor mogelijk hielden.
Nu is het beïnvloeden van de stemming onder de massa natuurlijk niks nieuws. Regeringsleiders proberen het al eeuwen, berichten over een slechte economie zorgen voor minder consumentenuitgaven, enzovoort. Het verschil zit hem in de steeds grotere hoeveelheid kennis die sociale media-platforms over hun gebruikers hebben. Facebook doet alsof het een vrijplaats is waar je je vrienden ontmoet en spreekt, maar het bedrijf vertelt er niet bij dat alles wat je zegt afgeluisterd wordt, en verwerkt tot een uitgebreid psychologisch profiel dat in de toekomst uitgebuit zal worden. Om spullen te verkopen, of omdat een bepaalde politicus wil dat je op hem of haar stemt.
Fundamenteel onderdeel
Die ontwikkeling is echter ook al jaren aan de gang en bekend. En het is een fundamenteel onderdeel van het verdienmodel van Facebook. Juist omdat het bedrijf adverteerders belooft dat de reclame alleen bij mensen terechtkomt die – volgens de analyse van hun persoonsgegevens – grote kans hebben om op de advertentie te klikken, kan Facebook niet zonder data en slimme algoritmen.
Dat dit verdienmodel een schaduwzijde heeft wordt nu (opnieuw) duidelijk. Het is eigenlijk een te machtig apparaat voor het beoogde doel, en partijen als Cambridge Analytica weten het apparaat volmaakt te misbruiken. Zoals Francois Chollet, onderzoeker bij de deep learning-divisie van Google (een concurrent van Facebook) het zegt in een Twitter-draadje:
'Vanuit het oogpunt van informatieveiligheid is dit een 'kwetsbaarheid' van de menselijke geest. Een bug, die je normaal met een patch zou verwijderen. Maar een menselijke geest kan je niet patchen, en deze kwetsbaarheid is onderdeel van ons DNA. Een kwetsbaarheid die nu dankzij kunstmatige intelligentie wordt uitgebuit.'
Chollet vervolgt dat de macht van AI over de stemmingen en meningen van gebruikers al bijna zo groot is dat gezegd kan worden dat een kunstmatig brein op grote schaal de bevolking controleert. Dat er geen geavanceerde AI nodig is om zulke dominantie uit te oefenen. Dat gaat ver, en het overschat mogelijk de invloed die een sociale media-feed heeft op onze acties en daden. Maar Chollot's zorgen zijn niet onterecht.
Krantenadvertenties
Overigens zijn er ook mensen die beweren dat wat er bij Facebook gebeurt niets anders is dan wat er overal op het web gebeurt. Een onderzoeker van Harvard beweerde op zijn weblog zelfs dat de New York Times, één van de partijen die via de klokkenluider de onthullingen naar buiten bracht, bijna net zo erg is als Facebook zelf. Immers, de trackers en cookies op die website, bedoeld om mensen te volgen en advertenties voor te schotelen, zijn bijna net zo erg als wat Facebook en Cambridge Analytica doen.
Het is niet moeilijk in te zien dat dit argument geen hout snijdt. Kritische noten bij verdienmodellen zoals dat van de New York Times en vele andere kranten en online media zijn welkom, maar de vergelijking gaat niet op. Het profiel dat Facebook bijhoudt is zoveel groter dan dat van de kranten. Als iemand zijn geschiedenis en cookies met enige regelmaat wist zullen hoogstwaarschijnlijk ook de trackers van kranten verdwijnen.
Facebook daarentegen legt een database aan van alles wat je doet. Op een computer, op je telefoon. De interactie met vrienden, merken, artiesten. Je hele leven, met de diepste zieleroerselen, allemaal te grabbel voor een commercieel bedrijf dat niet bang is om die gegevens tegen je te(laten) gebruiken. Om je grootste zwakte, die naar voren komt uit de informatie, uit te buiten voor een paar cent aan advertentieinkomsten.
Wat te doen
Wat kun je er aan doen?
- Download een kopie van de gegevens om inzicht te krijgen in wat Facebook allemaal van je weet. Hoewel het moeilijk is om na te gaan hoe een algoritme die data zal gebruiken om je te beïnvloeden, kan de enorme hoeveelheid gegevens die het sociale medium verzamelt al een eye-opener zijn.
- Delete Facebook om zoveel mogelijk af te zijn van de problemen ervan. Als je niet naar de nieuwsfeed kijkt kan je ook niet beïnvloed worden.
- Laat de politiek, de ombudsman of de databeschermingsinstanties zoals Bits of Freedom weten dat je het niet eens bent met de huidige gang van zaken.
- Facebook verloor de afgelopen week 50 miljard dollar op de beurs. Als die daling doorzet, zal het bedrijf misschien eindelijk luisteren en échte maatregelen nemen.
Nieuwsbrief
Vond je dit een interessant artikel, abonneer je dan gratis op onze wekelijkse nieuwsbrief.