[mks_dropcap style=”letter” size=”48″ bg_color=”#ffffff” txt_color=”#000000″]V[/mks_dropcap]an Bioshock tot Call of Duty en van Remember Me tot Watchdogs. De rol van technologie in onze levens staat centraal in een groot aantal video games. Bijna al deze games schetsen een verschrikkelijk beeld van technologie en mens. Technologie maakt ons kwetsbaar is het motto, en anderen zullen die kwetsbaarheid altijd misbruiken. Waar komt deze fascinatie met technologie toch vandaan? Waarom altijd zo negatief en wat voor effect heeft dit op onze ideeën van de wetenschap? Medium dook in de wereld van onze digitale cultuur en zocht het voor je uit.

Het einde van de mens
Deze fascinatie is natuurlijk niet zo gek. De technologische vooruitgang van de afgelopen jaren heeft onze eigen macht over de wereld en ons eigen lichaam ongelooflijk vergroot. In grote snelheid is een deel van onze sciencefiction werkelijkheid geworden, maar juist deze macht veroorzaakt een crisis in ons mensbeeld. Om dit uit te leggen moet ik een theoretische zijstap maken. Ik beloof dat het niet té lang duurt. Voor onze filosofie en dus ook voor de wetenschap is de mens een categorie apart. De rationele mens is letterlijk het centrum van ons universum, heerser over alles wat simpelweg materie is. Het probleem is alleen dat grote vooruitgangen in de neurowetenschap en de steeds belangrijkere rol van technologie laten zien dat deze rationele mens een goedbedoelde fantasie was. We zijn ook maar van vlees en bloed. Hierdoor zijn we beïnvloedbaar, zonder dat we dat merken.

Het idee dat de mens niet zo geweldig is als wij dachten, werkt zich met name uit in ons beeld van technologie. Wat blijft er bijvoorbeeld over van de mens, als mens, als zelfs onze gedachten en herinneringen digitaal te delen zijn? Waar begint de ik, en waar begint de rest van de wereld? Dit is waar filosofen en neurowetenschappers over praten als ze het hebben over ‘het einde van de mens’. En geloof het of niet, maar deze behoorlijk serieuze vragen staan centraal in de verhalen van een groot aantal games.

Zijn Cyborgs ook mensen?
Call of Duty: Black Ops 3 is één van de meest recente games die over dit onderwerp gaat. In de eerste zin van de eerste trailer voor dit spel werd de angst voor technologie goed samengevat. “De grootste fout van de mensheid zal haar onmacht zijn om haar technologie in bedwang te houden.” Black Ops focust vooral op cyborgs. Dit zijn mensen die zo aangepast zijn dat het moeilijk wordt om ze nog mensen te noemen. De angst voor de cyborg is in zichzelf niets nieuws; denk maar aan Terminator en Blade Runner.

Wat wel nieuw is, is de technologie. Vorige angsten waren voor robots die door mensen gebouwd waren en daarna een eigen leven zijn gaan leiden. Deze robots zullen er in de nabije toekomst waarschijnlijk niet zijn, met name omdat we nog steeds moeite hebben om robots te bouwen die de meest simpele taken kunnen uitvoeren. De nieuwere angsten hebben vergelijkbare ideeën, maar passen het toe op draagbare technologie en lichaamsaanpassingen. Stel je voor wat er gebeurt als we, met de hulp van technologie, onze eigen hersenen gaan aanpassen. Wat gebeurt er dan met onze gedachten, fantasieën en angsten? Dat is een vraag die nog niemand kan beantwoorden. Het uitblijven van een antwoord veroorzaakt de ‘nachtmerries van de toekomst’ die je in videogames zoals Call of Duty ziet.

De grootste fout van de mensheid zal haar onmacht zijn om haar technologie in bedwang te houden

Angst voor de wetenschap
Niet iedereen is blij met deze focus op de negatieve kanten van technologie. Chris Bishop, directeur van Microsofts onderzoekslab in Cambridge, zegt in een interview met The Guardian dat we ons niet moeten laten leiden door de negatieve kanten van technologische ontwikkeling. “Het gevaar dat ik zie, is dat we het kind gaan weggooien met het badwater.” Angst voor de gevolgen van onze technologieën gaat dan in de weg zitten van onze wetenschap. “Elk scenario waarin kunstmatige intelligentie een existentieel gevaar vormt voor de mens, is niet in de buurt. Op dit moment zijn we in controle over onze technologie en we kunnen de keuzes maken over de paden die we volgen met onze technologie.”

Reële angsten
Bishops opmerkingen zijn enigszins ironisch na Microsoft’s en Bishop’s eigen chatbot. Microsoft besloot een chatbot te bouwen die volledig gecontroleerd werd door kunstmatige intelligentie. Het idee was dat deze bot op Twitter zou leren hoe zij zich moest gedragen als een Amerikaans tienermeisje. Toen Twitter-gebruikers dit hoorden, stelden zij niet teleur. Bijna meteen leerde de bot racistische opmerkingen te maken. Het liep binnen één dag zo ver uit de hand dat Microsoft de bot terugtrok.

Je kunt dit natuurlijk zien als het bewijs dat kunstmatige intelligentie nog lang niet ver genoeg is. Dit betekent dat Chris Bishop in principe gelijk heeft. Aan de andere kant kun je ook zeggen dat deze problemen een gevaar van technologie laten zien dat altijd voor zal komen. Wanneer technologie in de samenleving komt, is het ongelooflijk moeilijk te voorspellen wat mensen ermee zullen doen. Dit is namelijk afhankelijk van sociale, historische en economische factoren. De toekomst en de technologieën die ons daar brengen, zijn niet per se goed of slecht. De toekomst is simpelweg afhankelijk van onze keuzes. Om deze keuzes te kunnen maken, moeten we proberen de consequenties te overzien. De nachtmerries die videogames laten zien, kunnen ons helpen om de uiterste gevolgen van bepaalde sociaal-economische factoren te zien. En het zorgt ook nog eens voor interessante videogames.

Cover: Thomas Schultz