We zijn gevaarlijk dicht bij het geven van de controle over onze gedachten aan Big Tech

Door Susie Alegre - 29 juni 2022

Alegre is mensenrechtenadvocaat, Senior Fellow bij CIGI en auteur van Freedom to Think

[Opmerking: Zelfs iemand die geen 'wappie' is ziet de gevaren van mensen die de controle willen over de gedachten van de mens.

Elon Musk heeft verklaard een "vrijheid van meningsuiting absolutist" te zijn, hoewel berichten over de manier waarop werknemers van zijn bedrijven zijn behandeld toen ze gebruik maakten van hun recht op vrije meningsuiting om hem te bekritiseren, erop zouden kunnen wijzen dat zijn toewijding aan de vrijheid van meningsuiting zijn grenzen heeft. Maar terwijl Musks poging om Twitter over te nemen met horten en stoten vordert, zou het potentieel voor iedereen om toegang te krijgen tot en controle uit te oefenen over miljarden meningen over de hele wereld voor het juiste bedrag al onze gedachten moeten richten op de noodzaak om een bijna vergeten recht te beschermen - het recht op vrijheid van denken.

In 1942 schreef het Amerikaanse Hooggerechtshof: "De vrijheid om te denken is van natuur absoluut, de meest tirannieke regering is machteloos om de inwendige werking van de geest te controleren". De veronderstelling dat het praktisch onmogelijk is in ons hoofd te kruipen, heeft juristen en wetgevers er wellicht van weerhouden zich al te zeer bezig te houden met de invoering van regelgeving die ons innerlijk beschermt. Maar het heeft machtige mensen er niet van weerhouden om eeuwenlang te proberen toegang te krijgen tot onze geest om die te controleren.

Tijdens zijn proces voor oorlogsmisdaden in Neurenberg na de Tweede Wereldoorlog zei Albert Speer, Hitlers voormalige minister van Bewapening, over de macht van de propagandamachine van de nazi's: "Door technische apparaten zoals radio en luidspreker werden 80 miljoen mensen beroofd van onafhankelijke gedachten. Daardoor was het mogelijk hen te onderwerpen aan de wil van één man.... Vandaag bedreigt het gevaar om geterroriseerd te worden door de technocratie elk land in de wereld."

Wanneer hele gemeenschappen beroofd worden van onafhankelijk denken, ondermijnt dit hun individuele rechten op vrijheid van denken en meningsuiting. Maar het is niet alleen een bedreiging voor de rechten van de mensen die worden gemanipuleerd. Zoals de wereld het zag met Nazi Duitsland, wordt het een bedreiging voor al onze rechten. Tragisch genoeg klinkt Speers waarschuwing in de 21e eeuw nog steeds door, nu technologie wordt ingezet als een nog efficiënter instrument voor manipulatie en controle van de geesten van bevolkingen, met verwoestende gevolgen.

De rol van Facebook bij het faciliteren van genocide in Myanmar, een land waar het in een "beest" veranderde volgens platform VN-feiten-onderzoekers, was een waarschuwing voor het potentieel van profilering en targeting via sociale media om de gedachten van mensen te verdraaien en aan te zetten tot dodelijk geweld. Facebook heeft toegezegd het beter te doen, maar zoals de gebeurtenissen op 6 januari vorig jaar in het Capitool van de VS en het aanhoudende etnische geweld in Ethiopië nu laten zien, is hun aanpak hopeloos ontoereikend.

Het is niet alleen vanwege de enorme uitdaging om inhoud te modereren op een wereldwijd platform, het bedrijfsmodel van sociale media, dat gebaseerd is op advertentie toezicht, vergemakkelijkt het kapen van de betrokkenheid van gebruikers met dodelijk effect. Uit een onderzoek van de campagnegroep Global Witness vorig jaar bleek dat zij op Facebook opruiende advertenties konden laten goedkeuren om zich te richten op mensen in Noord-Ierland, dwars door de sektarische scheidslijn heen, in een tijd van hoog oplopende spanningen. Wanneer propaganda kan worden geautomatiseerd, samengesteld en gericht, vanwege winst en zo miljarden mensen over de hele wereld weet te bereiken, is dat een existentiële bedreiging voor de mensheid en iets wat niemand van ons kan negeren.

Het mag dan Facebook zijn geweest dat bij deze gewelddadigheden betrokken was, maar een wereldwijd platform als Twitter kan een even krachtig instrument zijn voor manipulatie op massale schaal, zoals Donald Trump maar al te goed wist. Twitter is waardevol, niet om wat je op het platform kunt zeggen, maar om de miljarden meningen die je kunt controleren via de curatie van individuele nieuwsfeeds.

Het doel van technologische innovaties, of het nu gaat om de online omgeving of om het gebruik van big data, kunstmatige intelligentie of neurowetenschappen, is steeds vaker juist om toegang te krijgen tot en controle te krijgen over de innerlijke werking van onze geest. Dat is waar het geld zit. Uit enorme hoeveelheden gegevens over ons worden conclusies getrokken om te bepalen of we vatbaar zijn voor gokken of geneigd zijn tot samenzweringstheorieën, of we angstig zijn of overmoedig, zodat onze kwetsbaarheden kunnen worden beheerd, verkocht en uitgebuit. Onze geest is een waardevol goed, zowel in de commerciële als in de politieke sfeer.

Er wordt technologie ontwikkeld niet alleen om onze politieke voorkeur aan de hand van ons gezicht te voorspellen, maar ook om onze individuele psychologische knoppen te identificeren en deze zo in te drukken dat het waarschijnlijker of minder waarschijnlijk wordt dat je van de bank komt en gaat stemmen. De opkomst van "neuropolitiek" en het gebruik van politieke gedragspsychografie in verkiezingsprocessen over de hele wereld is problematisch omdat het de grondslagen van de democratie ondermijnt, ongeacht wie ervoor betaalt of op welke manier je stemt.

Het gebruik van deze tactieken overbrugt ideologische scheidslijnen, maar als we het hebben over massale beheersing van de geest, zijn de implicaties zo diepgaand en verwoestend dat het doel nooit de middelen kan rechtvaardigen. Politiek gaat altijd over invloed en overreding, maar democratie berust op de stemmen van individuen die hun mening hebben gevormd vrij van manipulatie. In een tijd waarin velen van ons de meeste of al hun informatie online krijgen, moeten we ervoor zorgen dat onze mening niet gemakkelijk kan worden gekaapt en verkocht aan de hoogste bieder. De recente stap van de procureur-generaal van Washington DC om Mark Zuckerberg persoonlijk aan te klagen voor de rol van Facebook in het Cambridge Analytica-schandaal kan een verschuiving in de goede richting betekenen. Vrije informatiestromen stellen ons in staat om vrijelijk onze mening te vormen, we kunnen het ons niet veroorloven om van één persoon de wereldwijde poortwachter van onze gedachten te maken, hoezeer die persoon ook op vrijheid lijkt gesteld te zijn.

Het gaat niet alleen om sociale media. Technologen hebben ambities die verder reiken dan de schermen waarnaar we staren en de betoverende apparaten die we aan onze handpalmen hebben vastgelijmd. Elon Musk's Neuralink heeft zijn zinnen gezet op niets minder dan directe toegang tot onze hersenen. Het bedrijf beweert "het eerste neurale implantaat te ontwerpen waarmee je een computer of mobiel apparaat kunt bedienen, waar je ook bent." Brain-Computer Interfaces (BCI's) zullen niet alleen de manier bepalen waarop we informatie ontvangen, ze zullen ook bepalen hoe onze geest de wereld ontmoet.

Toen Facebook in 2017 zijn eigen project aankondigde om niet-invasieve BCI te ontwikkelen, beloofde het dat het alleen de gedachten zou lezen waarvan jij wilde dat het die zou lezen. In 2021 heeft men het project in de ijskast gezet. Misschien realiseerde het zich dat directe toegang tot de menselijke geest gewoon een brug te ver was. Onze gedachten in realtime lezen is er maar een deel van, in 2019 publiceerden neurowetenschappers een experiment waarbij ze, door elektroden in de hersenen van muizen te implanteren, de dieren dingen konden laten zien die er gewoon niet waren. Als je je zorgen maakt over deepfakes, stel je dan eens voor hoeveel gevaarlijker ze zouden kunnen zijn als ze niet op je scherm maar daadwerkelijk in je hoofd zouden zitten.

Hoewel hersenimplantaten voor manipulatieve marketing of gedachten lezen misschien niet al te aantrekkelijk klinken, worden deze hulpmiddelen, wanneer ze worden aangekleed als gezondheidstechnologie, plotseling verkoopbaar. Musk heeft naar verluidt beweerd dat Neuralink zou kunnen helpen hormoonspiegels en stemming te controleren in ons voordeel. Maar als je hormoonspiegels kunnen worden veranderd om je hersenen in jouw voordeel te veranderen, kunnen ze ook worden veranderd in het voordeel van iemand anders als dat winstgevender of politiek opportuun zou zijn. En stel je voor dat je je hersenen net zo vaak zou moeten upgraden als je telefoon om te kunnen omgaan met die lastige ingebouwde downgrades die je batterij uitputten en je geheugen net dat beetje sneller verstoppen met elk nieuw model....

Of we nu kijken naar het globale beheer van informatiestromen of naar de minuscule draadjes van Neuralink's brein-computer-interface die door onze schedels dringen, we moeten wakker worden voor de fundamentele dreiging van systemen die massaal directe toegang geven tot ons brein.

Hoewel de vrijheid van meningsuiting in bepaalde omstandigheden kan worden beperkt, is het recht op vrijheid van gedachte absoluut in de internationale mensenrechtenwetgeving. Het betekent dat wij het recht hebben om onze gedachten privé te houden, niet gestraft te worden voor onze gedachten alleen, en ons innerlijk leven vrij te houden van manipulatie. Wij kunnen niet langer vertrouwen op de achterhaalde veronderstelling van het Hooggerechtshof dat niemand de inwendige werking van onze geest kan controleren. Of de beweringen nu overdreven zijn of niet, de technologie maakt nu al gebruik van haar potentieel om precies dat te doen.

We hebben vrijheid van denken nodig om klimaatverandering, racisme en wereldwijde armoede te bestrijden, en om verliefd te worden, te lachen en te dromen. Het is van cruciaal belang voor het culturele, wetenschappelijke, politieke en emotionele leven in onze samenlevingen. Als we het eenmaal kwijt zijn, krijgen we het misschien nooit meer terug. De overname van Twitter door Musk in combinatie met zijn ambities voor Neuralink maken de dreiging van big tech voor onze vrijheid van denken onmogelijk te negeren.

We hebben serieuze regelgeving nodig om de systemen te controleren die in onze hoofden willen kruipen, en wel nu. Het aanpakken van de bedrijfsmodellen die aan de sociale media ten grondslag liggen en het verbieden van het gebruik van BCI's als consumentenproducten voordat zij een massaproduct worden, zouden eerste, maar dringende stappen zijn. We moeten van de geschiedenis leren hoe gevaarlijk het is om één man de gedachten van miljoenen of miljarden mensen te laten beheersen en we moeten bereid zijn om nee te zeggen voor het te laat is.

Het gaat niet om Elon Musk, het gaat om iedereen die zo'n toegang tot je geest heeft. Onze toekomst moet niet gebouwd worden op de beste manier om de wereldbevolking te gelde te maken en wereldheerschappij voor enkelen te verkrijgen. Ze moet gegrondvest zijn op wat het betekent om mens te zijn, en daarvoor moeten we de vrijheid hebben om te denken.

- - Bewerkt uit Alegre's nieuwe boek Freedom to Think: The Long Struggle to Liberate our Minds" door Susie Alegre, uitgegeven door Atlantic Books

Bron: We're Dangerously to Big Tech Controlling Our Thoughts | Time