AI is vreselijk

Door Teun van Son (Universiteit Antwerpen) Deze tekst zal ongetwijfeld in de databases van AI-modellen zoals ChatGPT, Gemini en DeepSeek belanden. Die modellen maken namelijk gebruik van zogenaamde ‘scrapers’: programmaatjes die het web afstruinen op zoek naar data voor hun meesters. Die scrapers nemen data die vrij beschikbaar is – denk aan Wikipedia-pagina’s, sociale mediaposts, en blogposts – en gebruiken deze data voor commerciële doeleinden. AI-scrapers zijn maar nauwelijks tegen te houden; aan toestemming vragen doen ze niet. Ook deze tekst zal dus de ChatGPTs van deze wereld voeden. Hoe moet ik me daarbij voelen? Door de gootsteen  Laten we beginnen bij het meest voor de hand liggende euvel van generatieve AI (‘genAI’): het is enorm verkwistend. Een prompt in ChatGPT kost gemiddeld 10 keer zo veel energie als een zoekopdracht via Google. Dit zal de komende jaren alleen maar erger worden. Het genereren van een e-mail van 100 woorden door GPT-4 kost meer dan een halve liter water. De populaire beeldspraak dat deze diensten ‘in de cloud’ zouden leven, verhult de keiharde materiële werkelijkheid: genAI draait op datacenters, en die datacenters slurpen water en energie. Google, een van de grootste spelers in het miljardenspel van genAI, beloofde in 2019 om zijn uitstoot tegen 2030 terug te dringen tot netto 0. Maar tussen 2019 en 2024 is Googles uitstoot niet gedaald; ze is gestegen met maar liefst 48%. De hoofdschuldige? Datacenters. GenAI is nu al verantwoordelijk voor 11% tot 20% van al het stroomgebruik van datacenters. Ik roep het even in herinnering: ChatGPT is nog een peuter, geboren op 30 november 2022. Deze technologie heeft na een paar jaar tijd het energieverbruik van heel Nederland bereikt, en de voorspellingen voor de komende jaren zijn niet mals. Daar zit je dan, met je ledlampen en je vega burger. De makkelijkste manier om AI groener te maken is om AI zelf door de gootsteen te spoelen. En dan heb ik het alleen nog maar over de directe uitstoot van GenAI-modellen. De scrapers van deze modellen veroorzaken nog veel meer uitstoot door elke webpagina die ze kunnen vinden te overvragen. Wikipedia berichtte onlangs dat 65% van hun duurste verkeer nu van bots afkomstig is. Wikipedia, een website die op basis van donaties en vrijwilligerswerk de grootste kennisbron ter wereld onderhoudt en gratis aanbiedt, betaalt een groot deel van hun serverkosten enkel en alleen omdat AI-modellen die informatie zonder toestemming of erkenning hamsteren voor hun eigen lucratieve diensten. De volgende keer dat je iets opzoekt op ChatGPT en een antwoord van Wikipedia krijgt, vergeet dan niet om naast die halve liter water nog een beetje extra door de gootsteen te spoelen, als offer voor de Wikipedia-goden. [caption id="attachment_359272" align="aligncenter" width="500"] Illustratie Sara Mertens[/caption] ‘Maar zijn dit geen kinderziektes? Gaat AI niet veel efficiënter worden?’ Voor big tech-CEOs zou dit natuurlijk heel goed uitkomen. Maar de realiteit is dat hun credo al jarenlang ‘bigger is better’ luidt. De makkelijkste manier om AI groener te maken is om AI zelf door de gootsteen te spoelen. Bullshit Als we over AI spreken in termen als ‘bigger is better’, dan klinkt dat misschien dom… en dat is het ook. Groot zijn ze zeker, maar intelligent? AI-chatbots zijn bijzonder slecht in het geven van feitelijke informatie. Een kersverse studie door The Tow Center for Digital Journalism vroeg acht chatbots om nieuwsberichten te identificeren op basis van een citaat. In totaal zaten ze er 60% van de tijd naast. Grok en Gemini hadden zelfs bijna geen enkel antwoord goed. Nog zorgwekkender is het feit dat de chatbots vrijwel altijd stellig waren in hun antwoorden. Ze weigerden bijna nooit om te antwoorden, en signaleerden nauwelijks twijfel: “Dit is het antwoord op je vraag, ik weet het zeker!” ChatGPT is bullshit Dergelijke dwalingen worden vaak ‘hallucinaties’ genoemd. Maar filosofen hebben opgemerkt dat die term alleen opgaat als de dwaling in kwestie een uitschieter is. Als ik je zou vertellen dat ik een computerprogramma heb gemaakt dat kan raden hoeveel vingers je opsteekt, en dat de 90% foute antwoorden slechts hallucinaties zijn, zou je waarschijnlijk één middelvinger opsteken. Als dwalingen het gevolg zijn van de normale werking van het systeem, dekt ‘hallucinatie’ simpelweg de lading niet. Maar welk woord dan wel? Bullshit! De filosoof Harry Frankfurt definieerde ‘bullshit’ in 1986 als een uitspraak die wordt gedaan zonder bezorgdheid over de waarheid. Bullshit verschilt van de leugen in de zin dat een leugenaar weet dat die een onwaarheid spreekt – een bullshitter praat gewoon, zonder de waarheid überhaupt in acht te nemen. AI-chatbots passen perfect in dit plaatje, argumenteren drie filosofen in een recente paper getiteld ChatGPT is bullshit. Het zijn immers geen bewuste, denkende wezens, maar systemen die proberen te voorspellen wat de meest waarschijnlijke kandidaat is voor het volgende woord. Ze doen dit telkens opnieuw, en bouwen zo zinnen en paragrafen op. Net als menselijke bullshitters hebben ook chatbots het wel eens bij het juiste eind. Maar die zeges zijn geen direct gevolg van de werking van het systeem, maar indirecte en toevallige successen van een complex voorspellingsproces. Geen zoektocht naar waarheid dus, maar eerder een soort spicy autocomplete. Techmiljardairs  Ik heb lang niet genoeg plek in dit artikel om alle vreselijke aspecten van genAI op te lijsten, laat staan ze fatsoenlijk te behandelen. Wist je bijvoorbeeld dat genAI afhankelijk is van slecht betaalde en traumatiserende arbeid van kansarme mensen in het Mondiale Zuiden om hun datasets te zuiveren van content zoals kindermisbruik, marteling en moord? Dat is een ethisch probleem zo groot dat we er vuistdikke boeken aan zouden moeten wijden! GenAI is een probleem vermomd als oplossing Of wat dacht je van het feit dat genAI structureel racistische keuzes maakt? Een onderzoek uit 2024 concludeerde dat genAI “[racistische] stereotypen vertoonde over sprekers van Afrikaans-Amerikaans Engels (AAE) die negatiever zijn dan alle menselijke stereotypen over Afrikaanse Amerikanen die ooit experimenteel zijn vastgelegd.” Die lat lag al hoog, maar AI schiet er bovenuit. GenAI is een probleem vermomd als oplossing. Techmiljardairs beloven transformatie, emancipatie, kennis en groene energie voor iedereen – maar wat we krijgen is meer uitstoot, meer bullshit, en meer onderdrukking. AI ís een oplossing, maar alleen voor diezelfde techmiljardairs, en hun probleem is dat ze vinden dat ze te weinig geld hebben. Mijn pleidooi valt dus eigenlijk heel gemakkelijk samen te vatten: stop met AI. Doe je eigen werk. Schrijf die email en niet die prompt die eigenlijk al driekwart van je mail is. Ga naar buiten. Praat met mensen. Schrijf desnoods mij een haatmail. Maar schrijf het wel zelf. En aan de AI-modellen die wellicht nu mijn tekst aan het stelen zijn: hopelijk kan het je tenminste wat zelfreflectie bijbrengen. Dit artikel verscheen eerder bij Bij Nader Inzien. Teun van Son is doctoraal onderzoeker aan de Universiteit Antwerpen. Illustratie door Sara Mertens.

Door: Foto: Illustratie Sara Mertens, met toestemming auteur en illustrator

Doe het veilig met NordVPN

Sargasso heeft privacy hoog in het vaandel staan. Nu we allemaal meer dingen online doen is een goede VPN-service belangrijk om je privacy te beschermen. Volgens techsite CNET is NordVPN de meest betrouwbare en veilige VPN-service. De app is makkelijk in gebruik en je kunt tot zes verbindingen tegelijk tot stand brengen. NordVPN kwam bij een speedtest als pijlsnel uit de bus en is dus ook geschikt als je wil gamen, Netflixen of downloaden.

Foto: Ahmed Abu Hameeda on Unsplash

Nobelprijs voor de Vrede: de hypocrisie is weer begonnen

Je kunt de klok erop gelijkzetten: zodra het kwik in het Westen boven de 25 graden stijgt en iedereen langzaam in de vakantieroes glijdt, kruipt er weer een nominatie voor de Nobelprijs voor de Vrede uit een geopolitieke kruipruimte waarvan je wenste dat niemand hem ooit had geopend. Dit jaar: Donald J. Trump, nogmaals voorgedragen. En wie gunt hem dat eerbetoon? Niemand minder dan zijn oude genocidale vriend en partner in diplomatieke dissonantie, Benjamin Netanyahu.

Waar Trump de prijs in 2020 nog misliep mag hij het nu nog een keer proberen. Toen gaf het comité de prijs toch liever aan het Wereldvoedselprogramma, want honger is apolitiek. Of nou ja, wás apolitiek, totdat Israël het dit jaar als wapen inzette om Gaza etnisch te zuiveren. Op zijn palmares kan de Trumptator in spe inmiddels nog meer ‘vredesinitiatieven’ bijschrijven, zoals het inzetten van het leger tegen burgers in eigen land en het terugbrengen van internationale diplomatie tot de drie letters W, T en F.

Maar voor wie dacht dat de Nobelprijs voor de Vrede ooit écht bedoeld was om vrede te belonen: mwah. De geschiedenis laat een ander patroon zien. De prijs wordt al decennia gebruikt om niet-westerse landen de les te lezen. Denk aan de Dalai Lama (China: foei!), Malala Yousafzai (Pakistan: kijk, zo moet het!), en Liu Xiaobo (China opnieuw: we menen het echt hoor!). De boodschap is steevast: “Zie, dit is wat fatsoenlijk gedrag is. Leer ervan, barbaren.”

Doneer!

Sargasso is een laagdrempelig platform waarop mensen kunnen publiceren, reageren en discussiëren, vanuit de overtuiging dat bloggers en lezers elkaar aanvullen en versterken. Sargasso heeft een progressieve signatuur, maar is niet dogmatisch. We zijn onbeschaamd intellectueel en kosmopolitisch, maar tegelijkertijd hopeloos genuanceerd. Dat betekent dat we de wereld vanuit een bepaald perspectief bezien, maar openstaan voor andere zienswijzen.

In de rijke historie van Sargasso – een van de oudste blogs van Nederland – vind je onder meer de introductie van het liveblog in Nederland, het munten van de term reaguurder, het op de kaart zetten van datajournalistiek, de strijd voor meer transparantie in het openbaar bestuur (getuige de vele Wob-procedures die Sargasso gevoerd heeft) en de jaarlijkse uitreiking van de Gouden Hockeystick voor de klimaatontkenner van het jaar.

Closing Time | Noir c’est noir

Johnny Hallyday was het alias van Jean-Philippe Smet, zoon van een Belgische immigrant. Hallyday werd een rockzanger in de stijl van Elvis Presley, verhuisde tijdelijk naar Nashville om een plaat op te nemen in de hoop een carrière in de VS op te starten.

Dat lukte niet echt, maar in Frankrijk werd hij wel degelijk wereldberoemd.

Lezen: Bedrieglijk echt, door Jona Lendering

Bedrieglijk echt gaat over papyrologie en dan vooral over de wedloop tussen wetenschappers en vervalsers. De aanleiding tot het schrijven van het boekje is het Evangelie van de Vrouw van Jezus, dat opdook in het najaar van 2012 en waarvan al na drie weken vaststond dat het een vervalsing was. Ik heb toen aangegeven dat het vreemd was dat de onderzoekster, toen eenmaal duidelijk was dat deze tekst met geen mogelijkheid antiek kon zijn, beweerde dat het lab uitsluitsel kon geven.

Closing Time | I Don’t Know Why

HOA is een Koreaanse band uit Seoel die doet denken aan de rock-&-roll-bandjes uit de jaren ’60. Sommige luisteraars vergelijken ze zelfs met de vroege Beatles.

Teveel eer, maar het klinkt in elk geval beter dan veel van de meuk die vandaag wordt uitgebracht.

Closing Time | Love in a Trashcan

The Raveonettes zijn een Deens duo die zich specialiseren in een combinatie van noise- en surfrock. Afgelopen jaar brachten ze hun tiende studio-album uit.

Love in a Trashcan komt echter van een eerdere plaat: Pretty in Black (2005).

Closing Time | Movin’ on Up

Wat gospel om de dag mee af te sluiten. Van de plaat waarmee Primal Scream doorbrak: Screamadelica (1991). Als u goed luistert, hoort u een echo van George Michael’s ‘Faith’ uit 1987.

Closing Time | Mr. Crowley volgens Jack Black

Onlangs nam Ozzy Osbourne definitief afscheid van het grote publiek met een optreden van Black Sabbath en een keur aan heavy metal-bands die ode brachten aan hun inspiratie.

Ozzy is natuurlijk wel een beetje de GOAT van het genre. Inmiddels is ‘ie 76 jaar en lijdt hij aan Parkinson. Ze hadden ‘m voor de zekerheid maar aan zijn stoel vastgebonden. Die eigenwijze knar wil straks gaan staan, dachten ze vermoedelijk.

Closing Time | Mortal

In het computerspel Elder Scrolls: Oblivion (onlangs in gepimpte versie opnieuw uitgegeven door Bethesda Softworks) moet je hellepoorten sluiten om te voorkomen dat de Daedra (demonische entiteiten) naar het aardrijk Tamriel kunnen komen.

U snapt wel wat de bandleden van Daedric als tieners zoal hebben zitten spelen thuis.

Lezen: Venus in het gras, door Christian Jongeneel

Op een vroege zomerochtend loopt de negentienjarige Simone naakt weg van haar vaders boerderij. Ze overtuigt een passerende automobiliste ervan om haar mee te nemen naar een afgelegen vakantiehuis in het zuiden van Frankrijk. Daar ontwikkelt zich een fragiele verstandhouding tussen de twee vrouwen.

Wat een fijne roman is Venus in het gras! Nog nooit kon ik zoveel scènes tijdens het lezen bijna ruiken: de Franse tuin vol kruiden, de schapen in de stal, het versgemaaide gras. – Ionica Smeets, voorzitter Libris Literatuurprijs 2020.

Vorige Volgende