Door Jelle Bruineberg (Macquarie University)
De Netflix-documentaire The Social Dilemma luidt de alarmklok over de verregaande invloed van sociale media platforms op ons, de gebruikers. Onze aandacht wordt geoogst door slimme algoritmes die onze psychologische zwaktes uitbuiten. Onze instituties, zelf uitgehold door fake news, staan erbij en kijken ernaar. Het is nogal wat.
Vooropgesteld, het gesprek dat Tristan Harris en andere oud-medewerkers van The Big Four (Amazon, Facebook, Google en Apple) aanslingeren over de verregaande invloed van sociale media platforms moet gevoerd worden. Het is duidelijk dat de “move fast and break things” mentaliteit (als we het welwillend interpreteren) onbedoelde ontwrichtende gevolgen heeft op het niveau van gebruiker, institutie en samenleving.
Geschrokken van hun eigen macht, kiezen de ontwerpers nu voor #teamhuman. Maar wat betekent het om voor #teamhuman te kiezen?
Op de hoogte blijven? Volg ons op Twitter, Facebook en Instagram.
Autonomie versus paternalisme
Nog in 2011 kon de psycholoog Steven Pinker het volgende antwoord geven op de vraag “hoe verandert internet je manier van denken?”:
“Helemaal niet! Ik geloof in de menselijke aard en in de tijdloze normen van logica en bewijs. Ik sta dus sceptisch tegenover de gebruikelijke bewering dat het internet onze manier van denken verandert. Elektronische media zullen heus niet de mechanismen voor informatieverwerking van ons brein veranderen.”
Voor Pinker is de verleiding van sociale media niet anders dan die van een zak M&M’s: ervan afblijven is een uitdaging en af en toe leggen we, om onszelf te helpen, de zak uit ons zicht. Het probleem is misschien wat we denken (nepnieuws, filterbubbels etc.), maar niet dat we denken. Sociale media en digitale technologieën zijn geen wezenlijke bedreiging voor onze autonomie.
Voor Pinker is de verleiding van sociale media niet anders dan die van een zak M&M’s
Volgens de psycholoog B.F. Skinner kon het idee van de ‘autonome mens’ bij gebrek aan een goede gedragswetenschap een tijdje als pseudo-verklaring voor gedrag dienen, maar zijn we nooit écht autonoom geweest. Hij schrijft:
“De autonome mens biedt alleen een verklaring voor die dingen die we nog niet op een andere manier kunnen verklaren. Zijn bestaan hangt af van onze onwetendheid, en zijn status vermindert hoe meer we over gedrag te weten komen.”
Als we de omgeving van een mens maar genoeg kunnen controleren, dan kunnen we uiteindelijk haar gedrag volledig sturen. Skinners behavioristische ideeën zijn in intellectuele kringen nooit helemaal serieus genomen (zeker niet na de oorwassing door Noam Chomsky). Maar ze zijn een belangrijke inspiratiebron geweest in het ontwerp van ‘overtuigingstechnologie’. Een aanzienlijk deel van de hoofdrolspelers in The Social Dilemma, waaronder Harris, zijn alumni van het Stanford Persuasive Technology Lab.
Volgens B.F. Skinner is het idee van de ‘autonome mens’ een pseudo-verklaring voor gedrag
Waar er voor Pinker geen probleem is, is er voor Skinner geen oplossing. Het is een onomkeerbaar gegeven dat technologie het mogelijk maakt om gedrag tot in detail te kunnen sturen. De vraag is wat we met deze verkregen macht doen. Skinner had hier zo zijn eigen ideeën over. In zijn roman Walden Two beschrijft hij een ‘utopische’ commune waarin verregaande gedragsmodificatie vanaf jonge leeftijd zorgt voor een egalitaire en rechtvaardige samenleving. Individuele vrijheid en autonomie staan zo’n samenleving alleen maar in de weg.
De mens als gebruiker en ontwerper
Het dubbele ‘we’ in dit stuk, wij als gebruikers en wij als ontwerpers, geeft de inherente spanning weer in het Skinneriaanse wereldbeeld. In de documentaire vertelt Tim Kendall, oud-CEO van Pinterest, hoe hij overdag werkte aan het uitbouwen van Pinterest en ‘s avonds, ondanks zijn jonge gezin, zijn telefoon niet kon wegleggen. Ook de mensen die overtuigingstechnologieën implementeren zijn gevoelig voor haar verleidingen.
Inmiddels sturen Kendall en de zijnen hun kinderen naar speciale technologievrije scholen om hun kroost zo lang mogelijk vrij te stellen van de invloed van de overtuigende technologie die ze zelf hielpen creëren.
The Social Dilemma hinkt op twee gedachten. Aan de ene kant is er het narratief dat onze evolutionaire programmering ons zo vatbaar voor beïnvloeding maakt, dat er weinig hoop is. De Amerikaanse bioloog E.O. Wilson vat deze positie goed samen: “Het fundamentele probleem van de mensheid is dat we prehistorische emoties, middeleeuwse instituties en goddelijke technologieën hebben.”
Aan de andere kant laat The Social Dilemma juist zien dat techniek mensenwerk is. Jeff Hammerbacher zegt het eloquent: “The best minds of my generation are thinking about how to make people click ads. That sucks.”
Ook de mensen die overtuigende technologieën implementeren zijn gevoelig voor haar verleidingen
Het punt is dat het knappe koppen zijn: blijkbaar zijn we, tussen het doomscrollen door, nog best in staat om onze prehistorische emoties aan de kant te zetten en hoogwaardig intellectueel werk af te leveren. Zo hopeloos is de situatie toch ook weer niet.
De huidige toestand is onhoudbaar en (van een afstandje bekeken) lachwekkend: we staan het grote bedrijven toe om virtueel elk aspect van menselijk gedrag te monitoren en in geld om te zetten. De menselijke geest zelf is de grondstof geworden van het kapitalistische systeem. Dit surveillancekapitalisme heeft als doel om een advertenties zo succesvol mogelijk te maken, met als bijeffect dat menselijk handelen steeds voorspelbaarder wordt.
Het echte sociale dilemma
Dat er iets aan deze situatie gedaan moet worden is duidelijk. De twee gedachten waarop The Social Dilemma hinkt, vertalen zich in twee manieren waarop we voor #teamhuman kunnen kiezen – en die moeilijk met elkaar te rijmen zijn.
Aan de ene kant kunnen we Skinners wereldbeeld nastreven en door middel van massale gedragsverandering mensen laten doen wat goed voor ze is. We blijven ‘overtuigingstechnologie’ perfectioneren, maar gebruiken haar niet voor surveillancekapitalisme maar voor surveillancepaternalisme.
Aan de andere kant kunnen we besluiten om in de bres springen voor autonomie en elke gebruiker zeggenschap over haar directe digitale ruimte te geven. Daaromheen bouwen we een firewall die de gebruiker beschermt tegen de scherpste kanten van het surveillancekapitalisme.
Tussen het doomscrollen door zijn we best in staat om onze prehistorische emoties aan de kant te zetten
Deze fundamentele keuze tussen autonomie en paternalisme is geenszins nieuw, maar wordt op scherp gezet door het succes van overtuigingstechnologieën. We zien de kwetsbaarheid en beïnvloedbaarheid van menselijk handelen en tegelijkertijd de enorme problemen die ons te wachten staan in de 21ste eeuw.
Het is één ding om te zeggen dat je #teamhuman kiest, maar in het kiezen voor #teamhuman ligt een ongemakkelijke keuze besloten. Dat is volgens mij het echte dilemma.
Verder lezen
Frictie van Miriam Rasch
The Age of Surveillance Capitalism van Shoshana Zuboff
Stand out of Our Light van James Williams
Hoe verandert het Internet je manier van denken? van John Brockman (editor)
Beyond Freedom and Dignity van B.F. Skinner
Vond je dit een goed artikel? Bij Nader Inzien zet zich in voor de verspreiding van serieuze filosofische kennis en analyse. We kunnen het platform draaiende houden dankzij de inzet van vrijwillige auteurs en redacteuren en de steun van lezers zoals jij. Word daarom vriend van BNI of steun ons met een donatie.
