AI, een hype of een stille revolutie?

24 september 2024

AI (artificial intelligence), of kunstmatige intelligentie zoals we in het Nederlands zouden zeggen, is voor velen een vrij nieuw begrip. De meesten mensen zullen AI associëren met de chatbot ChatGPT. Stel een vraag over een willekeurig onderwerp aan ChatGPT en u krijgt een beleefd en uitgebreid antwoord in menselijke taal. Het idee van de onderliggende techniek was echter al in 1944 beschreven door neurowetenschapper Warren S. McCulloch en logicus Walter H. Pitts. Mede dankzij goede marketing is ChatGPT het ‘gezicht’ van AI geworden, maar de invloed van deze technologie strekt verder. Veel verder. Als u zich hier niet van bewust bent, dan is het lezen van het boek De AI Revolutie (2024) van Maarten Sukel de overweging meer dan waard.

“Van kunst tot geneeskunde, overal kruipt kunstmatige intelligentie het leven binnen.”[1] Zo begint de inleiding van het boek. De auteur, Maarten Sukel (1993), heeft de afgelopen tien jaar gewerkt aan diverse projecten met kunstmatige intelligentie. Daarnaast is hij kandidaat promovendus bij de Universiteit van Amsterdam. Hij weet dus waar hij over schrijft en dat is in zijn boek goed te merken.

In zijn boek behandelt hij de invloed van kunstmatige intelligentie op terreinen als privacy en veiligheid, creativiteit, gezondheidszorg, werk en onderwijs. Ook bespreekt hij de noodzaak van transparantie en controle. De titel van het boek suggereert zelfs een revolutie. Of deze titel terecht is kunt u het best zelf beoordelen tijdens of na het lezen van dit boek.

Techniek in de geschiedenis
Sukel begint met het bespreken van de invloed van techniek op de menselijke samenleving door de eeuwen heen. Denk bijvoorbeeld aan het leren omgaan met vuur, de uitvinding van het wiel en transport via verharde wegen. Dit zijn technieken die een enorme invloed hebben gehad op de ontwikkeling van samenlevingen. Technologie heeft ook grote invloed op machtsverhoudingen. Daarnaast hadden sommige groepen in de samenleving buitengewoon veel voordeel van technologie, terwijl anderen zelfs te lijden hadden onder techniek.

Het is niet nieuw dat uitvindingen bij sommigen angst en weerstand oproepen. Men was bijvoorbeeld bang dat het menselijke lichaam de snelheid van een trein niet aan zou kunnen en Socrates vreesde voor de invloed op ons brein door het op schrift stellen van onze gedachten. Alleen de tijd kon ons leren of deze angsten waarheid zouden worden of ongegrond zouden blijken.

AI als nieuwe stap in de techniekgeschiedenis
Kunstmatige intelligentie is een nieuwe stap in een lange reeks van technologische ontwikkelingen. In 2018 presenteerde Google al een slimme assistent die in staat was om een afspraak te maken bij een kapper zonder dat de medewerker doorhad dat het om een computer ging.[2] Zo gebruikt Sukel in zijn boek talloze concrete voorbeelden. Positieve voorbeelden, zorgwekkende voorbeelden of voorbeelden waarvan nog niet te zeggen valt wat en hoe verstrekkend de gevolgen zullen zijn.

Training en betrouwbaarheid
De technologie achter AI wordt ‘machine learning’ of ‘deep learning’ (een complexere variant) genoemd en is gebaseerd op ideeën over de werking van het menselijk brein. Men spreekt wel van een ‘neuraal netwerk’. Zo’n neuraal netwerk of ‘AI-model’ moet getraind worden. Hiervoor zijn enorme hoeveelheden data (gegevens) nodig. Een AI-systeem om boomsoorten te herkennen moet eerst getraind worden door miljoenen afbeeldingen van verschillende boomsoorten aan te bieden. Om te leren classificeren, moet elke afbeelding voorzien worden van een ‘label’ die het soort aangeeft. Dit is een enorme klus. Het boek vermeldt niet dat er tegenwoordig al wordt gesproken over nieuwe slavernij vanwege het uitbesteden van dit werk tegen absurd lage beloningen.[3] Zo’n AI-model ‘leert’ zelf patronen te herkennen in de aangeboden data. Hoe ‘goed’ een model wordt hangt in sterke mate af van de kwaliteit en diversiteit van de gegevens, inclusief de correcte labels.

Een model, getraind op Westerse data, zal in een ander werelddeel vervreemdende antwoorden kunnen geven. Dit wordt ook wel ‘bias’ of ‘vooroordeel’ genoemd. Dit kan ontstaan bij een onevenwichtige set van trainingsgegevens. Bijvoorbeeld door matige kwaliteitscontrole of als bewuste keuze tijdens de ontwikkeling. Bij commerciële modellen is doorgaans niet duidelijk welke gegevens wel en niet gebruikt zijn en of de aanbieder aanvullende filters gebruikt om antwoorden ‘te sturen’. Het kan zo (on)bewust leiden tot massale beïnvloeding met (on)wenselijke waarheden. Naast commerciële modellen zijn er ook ‘open’ modellen, deze zijn doorgaans minder krachtig maar wel transparanter.

Samensmelting van digitale en fysieke wereld
Met de hulp van AI raakt de computer nauwer verweven met de fysieke wereld. Door middel van bijvoorbeeld beeld- en spraakherkenning kan een AI-systeem interactie hebben met haar omgeving en de uitkomsten daarvan evalueren, om zo getraind te worden. Het digitale domein raakt steeds meer versmolten met de fysieke wereld. Deze ontwikkeling biedt ongekende mogelijkheden om bijvoorbeeld robot-reddingshonden te maken die gebieden kunnen bereiken waar geen mens kan komen. Maar is ook bruikbaar om repeterende arbeid te vervangen. Herhalende arbeid ligt aan de basis van de mondiale werkgelegenheid, zo meldt Sukel. Hij haalt aan dat de OESO, een internationale organisatie voor sociaal en economisch beleid, heeft becijferd dat 27% van de banen vervangen kan worden door AI.[4] Dit maakt meer dan duidelijk dat er sprake is van een ongekend grote omwenteling. AI zal echter ook leiden tot nieuwe banen; iedere oplossing creëert immers weer zijn eigen vragen.

Sociale media
De schadelijke invloed van sociale media, met name op jongeren, wordt steeds meer onderdeel van publiek debat. Sukel besteedt hier dan ook geruime aandacht aan. Sociale media wordt betaald in de vorm van ‘aandacht’. Bedrijven zijn er dus op uit om de gebruiker zo lang mogelijk aan hun platform te binden. De auteur beschrijft het onderliggende aanbevelingen-mechanisme. Om de interesse van de gebruiker te blijven wekken worden er aanbevelingen gedaan op basis van gebruik, gedrag en interesses. AI maakt het mogelijk om dit volledig persoonlijk af te stemmen. Het ‘nieuws’ wat ik zie, kan dus totaal anders zijn dan het ‘nieuws’ wat mijn buurman ziet. Berichten worden daarnaast gerangschikt op hun impact, denk aan het aantal reacties, tijd dat gebruikers ernaar kijken, enzovoorts. Zodoende komen schokkende en extreme berichten vanzelf hoger in de beoordeling, terwijl genuanceerde berichten in het niets verdwijnen.

AI en privacy binnen de Nederlandse overheid
De auteur besteedt ook aandacht aan ontwikkelingen bij de Nederlandse overheid. Hier blijkt een groot gebrek aan kennis en inzicht over AI in combinatie met privacy. Dit blijkt uit vragen om na te denken om duiven uit te rusten met camera’s om hennepkwekerijen op te sporen. Op zich een aardig idee, maar funest voor de privacy in de publieke ruimte. Inmiddels hangen in de grote steden op iedere straathoek camera’s. Realtime-beeldherkenning is er nog niet, maar analyse achteraf is wel erg verleidelijk. Het boek vermeldt niet dat er inmiddels een Europese AI-wet van toepassing is die echter behoorlijk wat speling geeft. Deze wet verbiedt realtime-biometrische identificatie voor rechtshandhaving in de publieke ruimte. Het laat echter voldoende ruimte voor andere toepassingen zoals analyse van camerabeelden achteraf of gezichtsherkenning voor andere doelen dan rechtshandhaving. In algemene zin gaan “de ontwikkelingen rondom gezichtsherkenning in Nederland […] niet de goede kant op.”[5] En, zo vraagt Sukel zich af, wat als we opnieuw in pandemische omstandigheden geraken of als we te maken krijgen met ernstige terreur- of oorlogsdreiging? De coronacrisis heeft geleerd hoe snel de bakens verzet kunnen worden. Omdat technologie vaak leidt tot (de belofte van) verhoogde efficiëntie en veiligheid, zien we sowieso een trend van doorgaande acceptatie ervan.

Fraude, waarheid en schijn
Wat is waar en wat is ‘fake’, namaak? Er zijn ook AI-toepassingen die foto’s en zelfs levensechte videobeelden kunnen maken. Op basis van een paar seconden stemopname is het al mogelijk om iemands stem levensecht na te bootsen. Het is dus een koud kunstje om de president van de Verenigde Staten uitspraken te laten doen die hij nooit heeft gedaan. Voorbeelden van deze techniek zijn er inmiddels al voldoende op internet.[6] Sukel alarmeert de lezer dat sommige vervalsingen nu al levensecht zijn, terwijl de technologie nog maar in haar kinderschoenen staat.

Ieder zijn verantwoordelijkheid
“Wat vleugels zijn voor vogels, is de techniek voor mensen. Hoewel een vogel bij geboorte vleugels krijgt, is leren vliegen nog wel noodzakelijk. De mens zal ook moeten leren omgaan met kunstmatige intelligentie om haar op een zinvolle manier te gebruiken. Ze zal een onderdeel blijven van ons leven, maar hoe dat leven er uit gaat zien, dat is aan ons.”[7] Met deze woorden, die het boek een open einde geven, besluit Sukel zijn betoog. Deze verantwoordelijkheid geldt zowel de consument als de makers, alsook de wetgever en beleidsmaker. Zoals kennis noodzakelijk is om iets van de wereld te begrijpen, zo is kennis van AI onmisbaar om er verstandig mee om te leren gaan.

Conclusies
Sukel schrijft vanuit de praktijk en maakt iedere passage concreet met begrijpelijke en praktische voorbeelden. Mede hierdoor is het boek toegankelijk voor een breed publiek. Gesteund door een vlotte schrijfstijl leest het ook nog eens heel prettig weg terwijl het een schat aan noodzakelijke inzichten en goede en kritische vragen biedt.

De schrijver geeft in 179 pagina’s een brede en toegankelijke uiteenzetting van het thema. Hij beschrijft de werking en invloed van AI op allerlei terreinen van het leven. Vanuit historie en praktijk maakt Sukel duidelijk dat AI een technologie is die niet zal verdwijnen, maar daarentegen een enorme blijvende invloed heeft op de mondiale samenleving. Die invloed is vaak meer onzichtbaar dan zichtbaar. Zij is ook vaker omgeven met vraagtekens dan met zekerheden. De invloed van AI heeft nu al wereldwijd grote, transformerende invloed op maatschappelijk en sociologisch gebied. De titel van dit boek is wat mij betreft dan ook goed gekozen.

Na het lezen van dit boek zal de lezer zich hopelijk afvragen waarom er niet meer discussie is en minder kritiekloze acceptatie. Een vreemdeling in de straat met onbekende intenties wekt ons wantrouwen. Waarom laten miljarden mensen zich zo gemakkelijk meenemen door onbekende algoritmen, zo vraagt de auteur zich af, en wij met hem.[8] De voortgaande technologisering, en de welvaart die er onmiskenbaar uit voortvloeit, heeft de mensheid echter niet gespaard voor nieuwe angsten. Er is meer onrust, angst en onzekerheid dan ooit te voren. Uitdagingen op wereldwijde schaal die niemand kan beteugelen. Zo bezien is er iets voor te stellen bij de gedachte dat de mens ‘al haar leeftocht’ (vgl. Lukas 8:43) in de handen van een ‘alwetend’ AI-systeem zal leggen.

Moeten we ons vertrouwen in zo’n systeem stellen? En in hoeverre kunnen wij hierin meegaan? In 1 Johannes 2 lezen we: “Hebt de wereld niet lief, noch hetgeen in de wereld is; zo iemand de wereld liefheeft, de liefde des Vaders is niet in hem.” En: “de wereld gaat voorbij, en haar begeerlijkheid; maar die den wil van God doet, blijft in der eeuwigheid.” Zijn wij dan, midden in dit alles, een zoutend zout en een lichtend licht? Laat ons leven zien dat wij op een Ander mogen vertrouwen? We zijn niet geroepen tot het kloosterschap. Maar ook met dit onderwerp geldt: “En die deze wereld gebruiken, als niet misbruikende; want de gedaante dezer wereld gaat voorbij” (1 Korinthe 7:31). Of, “Wandelt met wijsheid bij degenen die buiten zijn, den bekwamen tijd uitkopende” (Kol. 4:5), waarbij de kanttekenaren opmerken: “dat is, wijselijk, voorzichtiglijk, dat is, alzo dat gij uzelven zonder nood in geen gevaar brengt, en dat gij hun zonden, afgoderijen of valse leringen niet toegeeft, maar hen bij elke gelegenheid zoekt te winnen.”

Kunstmatige intelligentie staat in een lange rij van technologische uitvindingen van de mensheid en heeft tal van nuttige en goede toepassingen. Desondanks stem ik van harte in met de auteur om een gezond-kritische houding aan te nemen en lessen uit de geschiedenis niet te vergeten. Dit boek is zeer behulpzaam om de nodige basiskennis op te doen over AI en haar (verborgen, transformerende) rol in de maatschappij en impact op de vorming van toekomstige generaties. Daarom kan ik dit boek van harte aanbevelen, zeker ook voor mensen die een functie hebben in het onderwijs.

A. van der Beek

Boekgegevens:
De AI Revolutie. Hoe kunstmatige intelligentie de maatschappij gaat veranderen (en daar nu al mee bezig is), Maarten Sukel; uitgeverij Balans; paperback 192 pag.; ISBN 9789463823098; prijs € 20,00.

_____________________________

[1] Zie pagina 7.
[2] Zie pagina 16.
[3] www.wired.com/story/millions-of-workers-are-training-ai-models-for-pennies en
www.vpro.nl/programmas/tegenlicht/kijk/afleveringen/2023-2024/de-prijs-van-ai.html
(beiden geraadpleegd op 10 september 2024).
[4] Zie pagina 145.
[5] Zie pagina 116.
[6] www.bbc.com/news/av/technology-40598465 (geraadpleegd op 10 september 2024).
[7] Zie pagina 179.
[8] Zie pagina 15.

Bron: Nieuwsbrief Gereformeerd Venster - Nr. 101 - Maandag 23 september 2024