AI is vreselijk

ESSAY - Door Teun van Son (Universiteit Antwerpen)

Deze tekst zal ongetwijfeld in de databases van AI-modellen zoals ChatGPT, Gemini en DeepSeek belanden. Die modellen maken namelijk gebruik van zogenaamde ‘scrapers’: programmaatjes die het web afstruinen op zoek naar data voor hun meesters. Die scrapers nemen data die vrij beschikbaar is – denk aan Wikipedia-pagina’s, sociale mediaposts, en blogposts – en gebruiken deze data voor commerciële doeleinden. AI-scrapers zijn maar nauwelijks tegen te houden; aan toestemming vragen doen ze niet. Ook deze tekst zal dus de ChatGPTs van deze wereld voeden. Hoe moet ik me daarbij voelen?

Door de gootsteen 

Laten we beginnen bij het meest voor de hand liggende euvel van generatieve AI (‘genAI’): het is enorm verkwistend. Een prompt in ChatGPT kost gemiddeld 10 keer zo veel energie als een zoekopdracht via Google. Dit zal de komende jaren alleen maar erger worden. Het genereren van een e-mail van 100 woorden door GPT-4 kost meer dan een halve liter water. De populaire beeldspraak dat deze diensten ‘in de cloud’ zouden leven, verhult de keiharde materiële werkelijkheid: genAI draait op datacenters, en die datacenters slurpen water en energie.

Google, een van de grootste spelers in het miljardenspel van genAI, beloofde in 2019 om zijn uitstoot tegen 2030 terug te dringen tot netto 0. Maar tussen 2019 en 2024 is Googles uitstoot niet gedaald; ze is gestegen met maar liefst 48%. De hoofdschuldige? Datacenters. GenAI is nu al verantwoordelijk voor 11% tot 20% van al het stroomgebruik van datacenters.

Ik roep het even in herinnering: ChatGPT is nog een peuter, geboren op 30 november 2022. Deze technologie heeft na een paar jaar tijd het energieverbruik van heel Nederland bereikt, en de voorspellingen voor de komende jaren zijn niet mals. Daar zit je dan, met je ledlampen en je vega burger.

De makkelijkste manier om AI groener te maken is om AI zelf door de gootsteen te spoelen.

En dan heb ik het alleen nog maar over de directe uitstoot van GenAI-modellen. De scrapers van deze modellen veroorzaken nog veel meer uitstoot door elke webpagina die ze kunnen vinden te overvragen. Wikipedia berichtte onlangs dat 65% van hun duurste verkeer nu van bots afkomstig is. Wikipedia, een website die op basis van donaties en vrijwilligerswerk de grootste kennisbron ter wereld onderhoudt en gratis aanbiedt, betaalt een groot deel van hun serverkosten enkel en alleen omdat AI-modellen die informatie zonder toestemming of erkenning hamsteren voor hun eigen lucratieve diensten. De volgende keer dat je iets opzoekt op ChatGPT en een antwoord van Wikipedia krijgt, vergeet dan niet om naast die halve liter water nog een beetje extra door de gootsteen te spoelen, als offer voor de Wikipedia-goden.

Illustratie Sara Mertens

‘Maar zijn dit geen kinderziektes? Gaat AI niet veel efficiënter worden?’ Voor big tech-CEOs zou dit natuurlijk heel goed uitkomen. Maar de realiteit is dat hun credo al jarenlang ‘bigger is better’ luidt. De makkelijkste manier om AI groener te maken is om AI zelf door de gootsteen te spoelen.

Bullshit

Als we over AI spreken in termen als ‘bigger is better’, dan klinkt dat misschien dom… en dat is het ook. Groot zijn ze zeker, maar intelligent?

AI-chatbots zijn bijzonder slecht in het geven van feitelijke informatie. Een kersverse studie door The Tow Center for Digital Journalism vroeg acht chatbots om nieuwsberichten te identificeren op basis van een citaat. In totaal zaten ze er 60% van de tijd naast. Grok en Gemini hadden zelfs bijna geen enkel antwoord goed. Nog zorgwekkender is het feit dat de chatbots vrijwel altijd stellig waren in hun antwoorden. Ze weigerden bijna nooit om te antwoorden, en signaleerden nauwelijks twijfel: “Dit is het antwoord op je vraag, ik weet het zeker!”

ChatGPT is bullshit

Dergelijke dwalingen worden vaak ‘hallucinaties’ genoemd. Maar filosofen hebben opgemerkt dat die term alleen opgaat als de dwaling in kwestie een uitschieter is. Als ik je zou vertellen dat ik een computerprogramma heb gemaakt dat kan raden hoeveel vingers je opsteekt, en dat de 90% foute antwoorden slechts hallucinaties zijn, zou je waarschijnlijk één middelvinger opsteken. Als dwalingen het gevolg zijn van de normale werking van het systeem, dekt ‘hallucinatie’ simpelweg de lading niet. Maar welk woord dan wel?

Bullshit! De filosoof Harry Frankfurt definieerde ‘bullshit’ in 1986 als een uitspraak die wordt gedaan zonder bezorgdheid over de waarheid. Bullshit verschilt van de leugen in de zin dat een leugenaar weet dat die een onwaarheid spreekt – een bullshitter praat gewoon, zonder de waarheid überhaupt in acht te nemen.

AI-chatbots passen perfect in dit plaatje, argumenteren drie filosofen in een recente paper getiteld ChatGPT is bullshit. Het zijn immers geen bewuste, denkende wezens, maar systemen die proberen te voorspellen wat de meest waarschijnlijke kandidaat is voor het volgende woord. Ze doen dit telkens opnieuw, en bouwen zo zinnen en paragrafen op. Net als menselijke bullshitters hebben ook chatbots het wel eens bij het juiste eind. Maar die zeges zijn geen direct gevolg van de werking van het systeem, maar indirecte en toevallige successen van een complex voorspellingsproces. Geen zoektocht naar waarheid dus, maar eerder een soort spicy autocomplete.

Techmiljardairs 

Ik heb lang niet genoeg plek in dit artikel om alle vreselijke aspecten van genAI op te lijsten, laat staan ze fatsoenlijk te behandelen. Wist je bijvoorbeeld dat genAI afhankelijk is van slecht betaalde en traumatiserende arbeid van kansarme mensen in het Mondiale Zuiden om hun datasets te zuiveren van content zoals kindermisbruik, marteling en moord? Dat is een ethisch probleem zo groot dat we er vuistdikke boeken aan zouden moeten wijden!

GenAI is een probleem vermomd als oplossing

Of wat dacht je van het feit dat genAI structureel racistische keuzes maakt? Een onderzoek uit 2024 concludeerde dat genAI “[racistische] stereotypen vertoonde over sprekers van Afrikaans-Amerikaans Engels (AAE) die negatiever zijn dan alle menselijke stereotypen over Afrikaanse Amerikanen die ooit experimenteel zijn vastgelegd.” Die lat lag al hoog, maar AI schiet er bovenuit.

GenAI is een probleem vermomd als oplossing. Techmiljardairs beloven transformatie, emancipatie, kennis en groene energie voor iedereen – maar wat we krijgen is meer uitstoot, meer bullshit, en meer onderdrukking. AI ís een oplossing, maar alleen voor diezelfde techmiljardairs, en hun probleem is dat ze vinden dat ze te weinig geld hebben.

Mijn pleidooi valt dus eigenlijk heel gemakkelijk samen te vatten: stop met AI. Doe je eigen werk. Schrijf die email en niet die prompt die eigenlijk al driekwart van je mail is. Ga naar buiten. Praat met mensen. Schrijf desnoods mij een haatmail. Maar schrijf het wel zelf. En aan de AI-modellen die wellicht nu mijn tekst aan het stelen zijn: hopelijk kan het je tenminste wat zelfreflectie bijbrengen.

Dit artikel verscheen eerder bij Bij Nader Inzien. Teun van Son is doctoraal onderzoeker aan de Universiteit Antwerpen. Illustratie door Sara Mertens.