Waar ik de vorige keer het probleem van dataverzameling heb aangekaart, zal ik deze keer een poging doen om de concrete gevaren van dataverzameling te verduidelijken. Sociale media verzamelen onze persoonsgegevens, waardoor bedrijven het gedrag van miljoenen gebruikers kunnen voorspellen en beïnvloeden. Maar wat zijn hier de concrete gevolgen van? Hoe komt het grootschalige misbruik van persoonsgegevens tot uiting en wat kunnen wij met deze kennis? Het fundament van dit artikel zal kennis bevatten uit onder andere: The social dilemma, The great hack, Coded bias en het boek Je hebt wél iets te verbergen. Bovendien heb ik al eerdere essays geschreven over het probleem van microtargeting.
Cambridge Analytica en moderne propaganda
Wie het over de gevolgen van dataverzameling heeft, zal onvermijdelijk een aantal keer de naam ‘Cambridge Analytica’ moeten noemen. In mijn vorige artikel heb ik al geschreven over de werkwijze van het dataverzamelingsbedrijf, maar ik zal het kort herhalen. De essentie van dataverzameling is, dat bedrijven persoonsgegevens verzamelen waarmee ze weten wat je leuk vindt, waar je gevoelig voor bent en wat ervoor bsr abholung nodig is om jouw gedachten te beïnvloeden Deze vorm van manipulatie is heel geavanceerd en effectief, omdat bedrijven als Cambridge Analytica aan de hand van deze persoonsgegevens jouw individuele gedrag kunnen voorspellen. Zo kunnen ze doelgericht jouw gedachtenpatroon beïnvloeden. Maar hoe gebeurt dit nou in de praktijk? Is het echt zo eng als het klinkt?
In dit artikel van The Guardian bekent een voormalig werknemer van Cambridge Analytica, genaamd Brittany Kaiser, dat het bedrijf betrokken was bij campagnes die de Brexit steunden. Enige tijd was er veel onduidelijk over de mate van betrokkenheid, maar nu is het bewijs boven tafel dat Cambridge Analytica ‘datasets’ heeft uitgewisseld met Leave.eu en Ukip. Deze organisaties hebben zich beiden politiek ingezet om Groot-Brittannië uit de Europese Unie te halen, en met succes. Hoewel is gebleken dat Cambridge Analytica geen betrokkenheid heeft gehad bij het referendum, dat doorslaggevend was voor de Brexit, is er wel aanzienlijk bewijs dat het bedrijf heeft geholpen in het begin van de campagne van de Brexit. Door middel van datasets beschikte Leave.eu en Ukip over grote hoeveelheden persoonsgegevens, waardoor deze politieke organisaties het gedrag van vele Britse inwoners konden voorspellen, beïnvloeden en misleiden via sociale media. Deze vorm van propaganda heet politieke micro-targeting en is mogelijk verantwoordelijk voor een groot deel van het succes van de campagne voor de Brexit.
Niet alleen bij de Brexit, maar ook bij de campagne voor republikeinse presidentskandidaten Ted Cruz en Donald Trump heeft Cambridge Analytica een fundamentele rol gespeeld. Het bedrijf beschikte over ruim 50 miljoen persoonsgegevens, die zij illegaal via Facebook hebben bemachtigd. In zijn campagne heeft Ted Cruz ruim 5,8 miljoen dollar uitgegeven aan de hulp van Cambridge Analytica om meer kans te maken in de aanloop naar de presidentsverkiezingen. Het bedrijf wist via sociale media wat miljoenen Amerikanen vonden van Ted Cruz, om vervolgens op dezelfde sociale media tegenstanders zwart te maken, in te spelen op angst, en Cruz op te hemelen als presidentskandidaat. Deze politieke micro-targeting was even misleidend als succesvol, aangezien Ted Cruz ontzettend populair werd onder Amerikanen die zich onbewust waren van het feit dat ze werden gemanipuleerd door een dataverzamelingsbedrijf.
Ook bij voormalig president Donald Trump heeft het bedrijf zijn ‘data-driven’ propagandamachine laten draaien. Door alle persoonsgegevens kon het bedrijf op een misleidende manier inspelen op het individuele gevoel van miljoenen Amerikanen. Wederom waren het klokkenluiders van Cambridge Analytica die de manipulatieve praktijken van het bedrijf bekend maakten. Om even de macht van het bedrijf in perspectief te plaatsen, stelt Cambridge Analytica zichzelf verantwoordelijk voor de overwinning van Donald Trump tijdens de verkiezingen van 2016. Door middel van ongekende micro-targeting, gedreven door persoonsgegevens van miljoenen mensen, voerde het bedrijf campagne voor Trump. Op Facebook, Twitter, Google, Snapchat en Youtube wist Cambridge Analytica meer dan 10.000 individueel getargete advertenties te verspreiden, die naar aanloop van de verkiezingen miljarden keren zijn bekeken in Amerika. Het bedrijf wist in welke gebieden de zwevende kiezers zich bevonden en hoe ze deze zwevende kiezers konden overtuigen. Vervolgens heeft het bedrijf hier maandenlang op misleidende wijze misbruik van gemaakt.
Politieke micro-targeting participeerde zo in een racistisch systeem, met als doel om Donald Trump in het Witte Huis te krijgen.
Uit dit artikel blijkt zelfs dat Donald Trump duizenden euro’s heeft uitgegeven aan Facebookadvertenties, met als doel om miljoenen mensen met een donkere huidskleur te ontmoedigen om naar de stembus te gaan tijdens de verkiezingen. Waar de meerderheid van de donkere mensen in Amerika op democraten stemt, zag Trump dit als een mogelijkheid om zijn concurrenten uit te schakelen. Politieke micro-targeting participeerde zo in een racistisch systeem, met als doel om Donald Trump in het Witte Huis te krijgen.
De invloed van data in het politieke landschap is de laatste jaren toegenomen. Via sociale media misbruiken politici persoonsgegevens om populariteit te winnen, en hun tegenstanders zwart te maken. Cambridge Analytica is een bedroevend duidelijk voorbeeld van de invloeden die data de afgelopen jaren heeft gehad. Of je nou voor Trump bent of tegen, of je nou voor de Brexit bent of niet, de keuze zou aan jou moeten zijn. Tegenwoordig is de keuze aan de bedrijven die jouw persoonsgegevens in handen hebben en sociale media gebruiken om jouw opvattingen en gedragingen te veranderen. Bedrijven en politici kunnen je gedrag beïnvloeden door middel van micro-targeting, wat deze vorm van moderne propaganda een bedreiging voor de democratie maakt.
Kunstmatige intelligentie voorspelt de werkelijkheid
Niet alleen bedrijven, maar ook kunstmatige intelligentie maken misbruik van onze persoonsgegevens. Deze computersystemen leren van onze data, zodat ze zich ontwikkelen tot accurate voorspel-machines, genaamd algoritmes. Algoritmes worden vaker ingezet dan je denkt, om bijvoorbeeld filmpjes aan te bevelen op YouTube, of nieuws aan te bevelen op Facebook. Algoritmes leren van onze persoonsgegevens, zodat zij kunnen voorspellen wat ons zo lang mogelijk op sociale media houdt. Door het aanbevelen van sensatiegerichte filmpjes blijven kijkers oneindig geïnteresseerd. Dit leidt niet alleen leidt tot verslaving, maar ook tot radicalisering, aangezien gebruikers van sociale media telkens aan extremere vormen van sensatie worden blootgesteld.
Zo bepaalt sociale media wat we zien, wanneer we het zien en voor hoe lang.
Bovendien ligt het gevaar van filter-bubbels op de loer: een situatie waarin onze keuzevrijheid wordt geëlimineerd door de voorkeur van algoritmes. Zo bepaalt sociale media wat we zien, wanneer we het zien en voor hoe lang. Voor je het weet krijgt iedereen compleet andere nieuwsberichten te zien. Zo heeft het gevaar van algoritmes als gevolg, dat men zichzelf terugtrekt in zijn eigen sensatiegerichte werkelijkheid, opgesloten in de bubbel van verslavende sociale media.
Ten slotte is het ook een misvatting dat men denkt dat algoritmes objectiever zijn dan mensen. In sommige gebieden in Amerika worden algoritmes namelijk gebruikt om rechterlijke uitspraken te doen of worden er systemen ontwikkeld die door middel van gezichtsherkenning de controle kunnen houden over de bevolking. Dit klinkt als een dystopie die alleen in dictaturen als China plaatsvinden, maar zijn de keiharde werkelijkheid van een toekomst die ook ons tegemoet komt. Algoritmes zijn niet objectief. Deze computers leren van ónze persoonlijke data, waardoor er bijvoorbeeld bewijs is gevonden van algoritmes die vrouwen en donkere mensen discrimineren. Ook dit is een concreet gevaar van dataverzameling. Niet alleen bedrijven of politieke partijen, maar ook computers die worden aangedreven op alle aspecten in de samenleving misbruiken onze persoonlijke data, met alle gevolgen van dien.
Surveillance Kapitalisme is onopgemerkt aan het toenemen. Miljoenen mensen worden in de gaten gehouden, miljoenen mensen worden gemanipuleerd en miljoenen mensen worden bedrogen. Als het zo doorgaat belanden we in een data-gestuurd systeem van computers die onze werkelijkheid voorschotelen en wordt onze democratie bepaald door manipulatieve micro-targeting propaganda.
Cover: Jewel Tolentino
Edited by: Ninke Boshuizhen
