AI is vreselijk

Door Teun van Son (Universiteit Antwerpen) Deze tekst zal ongetwijfeld in de databases van AI-modellen zoals ChatGPT, Gemini en DeepSeek belanden. Die modellen maken namelijk gebruik van zogenaamde ‘scrapers’: programmaatjes die het web afstruinen op zoek naar data voor hun meesters. Die scrapers nemen data die vrij beschikbaar is – denk aan Wikipedia-pagina’s, sociale mediaposts, en blogposts – en gebruiken deze data voor commerciële doeleinden. AI-scrapers zijn maar nauwelijks tegen te houden; aan toestemming vragen doen ze niet. Ook deze tekst zal dus de ChatGPTs van deze wereld voeden. Hoe moet ik me daarbij voelen? Door de gootsteen  Laten we beginnen bij het meest voor de hand liggende euvel van generatieve AI (‘genAI’): het is enorm verkwistend. Een prompt in ChatGPT kost gemiddeld 10 keer zo veel energie als een zoekopdracht via Google. Dit zal de komende jaren alleen maar erger worden. Het genereren van een e-mail van 100 woorden door GPT-4 kost meer dan een halve liter water. De populaire beeldspraak dat deze diensten ‘in de cloud’ zouden leven, verhult de keiharde materiële werkelijkheid: genAI draait op datacenters, en die datacenters slurpen water en energie. Google, een van de grootste spelers in het miljardenspel van genAI, beloofde in 2019 om zijn uitstoot tegen 2030 terug te dringen tot netto 0. Maar tussen 2019 en 2024 is Googles uitstoot niet gedaald; ze is gestegen met maar liefst 48%. De hoofdschuldige? Datacenters. GenAI is nu al verantwoordelijk voor 11% tot 20% van al het stroomgebruik van datacenters. Ik roep het even in herinnering: ChatGPT is nog een peuter, geboren op 30 november 2022. Deze technologie heeft na een paar jaar tijd het energieverbruik van heel Nederland bereikt, en de voorspellingen voor de komende jaren zijn niet mals. Daar zit je dan, met je ledlampen en je vega burger. De makkelijkste manier om AI groener te maken is om AI zelf door de gootsteen te spoelen. En dan heb ik het alleen nog maar over de directe uitstoot van GenAI-modellen. De scrapers van deze modellen veroorzaken nog veel meer uitstoot door elke webpagina die ze kunnen vinden te overvragen. Wikipedia berichtte onlangs dat 65% van hun duurste verkeer nu van bots afkomstig is. Wikipedia, een website die op basis van donaties en vrijwilligerswerk de grootste kennisbron ter wereld onderhoudt en gratis aanbiedt, betaalt een groot deel van hun serverkosten enkel en alleen omdat AI-modellen die informatie zonder toestemming of erkenning hamsteren voor hun eigen lucratieve diensten. De volgende keer dat je iets opzoekt op ChatGPT en een antwoord van Wikipedia krijgt, vergeet dan niet om naast die halve liter water nog een beetje extra door de gootsteen te spoelen, als offer voor de Wikipedia-goden. [caption id="attachment_359272" align="aligncenter" width="500"] Illustratie Sara Mertens[/caption] ‘Maar zijn dit geen kinderziektes? Gaat AI niet veel efficiënter worden?’ Voor big tech-CEOs zou dit natuurlijk heel goed uitkomen. Maar de realiteit is dat hun credo al jarenlang ‘bigger is better’ luidt. De makkelijkste manier om AI groener te maken is om AI zelf door de gootsteen te spoelen. Bullshit Als we over AI spreken in termen als ‘bigger is better’, dan klinkt dat misschien dom… en dat is het ook. Groot zijn ze zeker, maar intelligent? AI-chatbots zijn bijzonder slecht in het geven van feitelijke informatie. Een kersverse studie door The Tow Center for Digital Journalism vroeg acht chatbots om nieuwsberichten te identificeren op basis van een citaat. In totaal zaten ze er 60% van de tijd naast. Grok en Gemini hadden zelfs bijna geen enkel antwoord goed. Nog zorgwekkender is het feit dat de chatbots vrijwel altijd stellig waren in hun antwoorden. Ze weigerden bijna nooit om te antwoorden, en signaleerden nauwelijks twijfel: “Dit is het antwoord op je vraag, ik weet het zeker!” ChatGPT is bullshit Dergelijke dwalingen worden vaak ‘hallucinaties’ genoemd. Maar filosofen hebben opgemerkt dat die term alleen opgaat als de dwaling in kwestie een uitschieter is. Als ik je zou vertellen dat ik een computerprogramma heb gemaakt dat kan raden hoeveel vingers je opsteekt, en dat de 90% foute antwoorden slechts hallucinaties zijn, zou je waarschijnlijk één middelvinger opsteken. Als dwalingen het gevolg zijn van de normale werking van het systeem, dekt ‘hallucinatie’ simpelweg de lading niet. Maar welk woord dan wel? Bullshit! De filosoof Harry Frankfurt definieerde ‘bullshit’ in 1986 als een uitspraak die wordt gedaan zonder bezorgdheid over de waarheid. Bullshit verschilt van de leugen in de zin dat een leugenaar weet dat die een onwaarheid spreekt – een bullshitter praat gewoon, zonder de waarheid überhaupt in acht te nemen. AI-chatbots passen perfect in dit plaatje, argumenteren drie filosofen in een recente paper getiteld ChatGPT is bullshit. Het zijn immers geen bewuste, denkende wezens, maar systemen die proberen te voorspellen wat de meest waarschijnlijke kandidaat is voor het volgende woord. Ze doen dit telkens opnieuw, en bouwen zo zinnen en paragrafen op. Net als menselijke bullshitters hebben ook chatbots het wel eens bij het juiste eind. Maar die zeges zijn geen direct gevolg van de werking van het systeem, maar indirecte en toevallige successen van een complex voorspellingsproces. Geen zoektocht naar waarheid dus, maar eerder een soort spicy autocomplete. Techmiljardairs  Ik heb lang niet genoeg plek in dit artikel om alle vreselijke aspecten van genAI op te lijsten, laat staan ze fatsoenlijk te behandelen. Wist je bijvoorbeeld dat genAI afhankelijk is van slecht betaalde en traumatiserende arbeid van kansarme mensen in het Mondiale Zuiden om hun datasets te zuiveren van content zoals kindermisbruik, marteling en moord? Dat is een ethisch probleem zo groot dat we er vuistdikke boeken aan zouden moeten wijden! GenAI is een probleem vermomd als oplossing Of wat dacht je van het feit dat genAI structureel racistische keuzes maakt? Een onderzoek uit 2024 concludeerde dat genAI “[racistische] stereotypen vertoonde over sprekers van Afrikaans-Amerikaans Engels (AAE) die negatiever zijn dan alle menselijke stereotypen over Afrikaanse Amerikanen die ooit experimenteel zijn vastgelegd.” Die lat lag al hoog, maar AI schiet er bovenuit. GenAI is een probleem vermomd als oplossing. Techmiljardairs beloven transformatie, emancipatie, kennis en groene energie voor iedereen – maar wat we krijgen is meer uitstoot, meer bullshit, en meer onderdrukking. AI ís een oplossing, maar alleen voor diezelfde techmiljardairs, en hun probleem is dat ze vinden dat ze te weinig geld hebben. Mijn pleidooi valt dus eigenlijk heel gemakkelijk samen te vatten: stop met AI. Doe je eigen werk. Schrijf die email en niet die prompt die eigenlijk al driekwart van je mail is. Ga naar buiten. Praat met mensen. Schrijf desnoods mij een haatmail. Maar schrijf het wel zelf. En aan de AI-modellen die wellicht nu mijn tekst aan het stelen zijn: hopelijk kan het je tenminste wat zelfreflectie bijbrengen. Dit artikel verscheen eerder bij Bij Nader Inzien. Teun van Son is doctoraal onderzoeker aan de Universiteit Antwerpen. Illustratie door Sara Mertens.

Door: Foto: Illustratie Sara Mertens, met toestemming auteur en illustrator

Closing Time | Tentet van Hans Koolmees

Tentet, een lekker stukje muziek in drie delen: 1. Berang (Dance of the friends), 2. Rikpwe di Bie (Picking of the coconuts – begint op2 min. 53) en 3. Gam (Dance of the spider – op  5 min. 40), u8tgevoerd door het Rotterdamse Doelenensemble.

Componist Hans Koolmees verklaarde: Tentet is gebaseerd op melodieën van de Bafia uit Kameroen. Het is een etude in kleptomanie: het is een poging mijzelf melodisch materiaal toe te eigenen dat weliswaar ver van mijn klassieke organistenbed staat, maar waar ik toch zoveel in herken dat ik denk dat het van mij is. Verder vind ik het een spannend idee om de Amerikaanse jazzcultuur te confronteren met haar Afrikaanse roots.

Lezen: De BVD in de politiek, door Jos van Dijk

Tot het eind van de Koude Oorlog heeft de BVD de CPN in de gaten gehouden. Maar de dienst deed veel meer dan spioneren. Op basis van nieuw archiefmateriaal van de AIVD laat dit boek zien hoe de geheime dienst in de jaren vijftig en zestig het communisme in Nederland probeerde te ondermijnen. De BVD zette tot tweemaal toe personeel en financiële middelen in voor een concurrerende communistische partij. BVD-agenten hielpen actief mee met geld inzamelen voor de verkiezingscampagne. De regering liet deze operaties oogluikend toe. Het parlement wist van niets.

Foto: HOerwin56 on Pixabay

Kafka in de polder

COLUMN - Een onderdeel van ‘het strengste asielbeleid ooit’ dat nog weinig aandacht heeft gekregen is het besluit van het kabinet om ambtsberichten over de veiligheid van herkomstlanden van asielzoekers niet langer openbaar te maken. Het idee van de coalitie is dat asieladvocaten en mensensmokkelaars misbruik maken van de ambtsberichten; zij zouden asielzoekers hun vluchtverhaal erop laten afstemmen.

Sinds dit besluit in mei zonder enig overleg met de Kamer is genomen heeft de rechter in twee gevallen de overheid al op de vingers getikt. In het beroep dat een Syrische asielzoeker heeft aangespannen tegen het ministerie van Asiel en Migratie heeft de rechter bepaald dat het ambtsbericht over Syrië openbaar moet worden gemaakt. De rechtbank in Amsterdam heeft kort daarna geoordeeld dat de afwijzing van een asielaanvraag van een man uit Jemen onvoldoende zorgvuldig tot stand is gekomen, mede doordat geheime ambtsberichten zijn gebruikt die niet met de rechtbank zijn gedeeld.

De ambtsberichten van het Ministerie van Buitenlandse Zaken zijn erg belangrijk voor asielzoekers. Ze vormen de basis voor beslissingen van de IND. Voor advocaten zijn deze berichten onmisbare bronnen om gerechtelijke procedures tegen de IND te voeren. Wil Eikelboom, voorzitter van de Vereniging van Asieladvocaten Nederland: ‘Als je ambtsberichten geheim houdt ga je besluiten nemen op basis van geheime informatie en krijg je dus een soort geheim proces, waarbij de asielzoeker niet de toegang heeft tot de informatie die de minister wel heeft.’ De correctie van de rechter op het regeringsbesluit is dus niet zo vreemd. Daarmee wordt het kafkaiaanse perspectief van geheime processen in de kiem gesmoord.

Foto: "Bob Vylan@Off Tune Festival 2022" by Valentina Ceccatelli is licensed under CC BY-NC-SA 2.0

Dood aan Bob Vylan (of de Israëlische strijdkrachten)!

Het Britse duo Bob Vylan ligt momenteel onder vuur. In tegenstelling tot Gaza niet letterlijk natuurlijk, en ook niet vanwege het misbruiken van auto-tune of wangedrag op backstage fruitbuffetten, maar vanwege een maatschappijkritische uitspraak tijdens hun optreden op Glastonbury:

“Death to the Israeli Defense Force.”

Bam. Duidelijk. Boos. Mening. En dus: aanleiding voor een onderzoek én een reeks annuleringen. Want, stel je voor, iemand spreekt zich uit tegen een leger dat al maanden de lijst van aangetoonde oorlogsmisdaden aanvoert alsof het de Top 40 is.

Moreel kompas met losse schroeven
De BBC, die het optreden live uitzond, betreurt inmiddels dat ze niet tijdig de stekker uit de uitzending hebben getrokken. Niet omdat het IDF deze week weer een school platbombardeerde, daar kun je als staatsomroep natuurlijk niet elke dag op reageren, anders blijf je 24/7 bezig, maar omdat iemand durfde uit te spreken dat het misschien niet zo’n goed idee is om een leger dat zich aan collectieve bestraffing, etnische zuivering en willekeurige luchtaanvallen schuldig maakt, met rust te laten.

In de redactieburelen moeten ze het druk hebben gehad. “Hebben we beelden van verminkte kinderen uit Rafah?” “Ja, maar die hebben we al twee weken niet meer laten zien, mensen klikken of zappen dan weg.” “Oké, maar dat statement van Bob Vylan, daar moeten we wél op reageren.”  “Goed idee! Dat is pas écht grensoverschrijdend.”

Lezen: Venus in het gras, door Christian Jongeneel

Op een vroege zomerochtend loopt de negentienjarige Simone naakt weg van haar vaders boerderij. Ze overtuigt een passerende automobiliste ervan om haar mee te nemen naar een afgelegen vakantiehuis in het zuiden van Frankrijk. Daar ontwikkelt zich een fragiele verstandhouding tussen de twee vrouwen.

Wat een fijne roman is Venus in het gras! Nog nooit kon ik zoveel scènes tijdens het lezen bijna ruiken: de Franse tuin vol kruiden, de schapen in de stal, het versgemaaide gras. – Ionica Smeets, voorzitter Libris Literatuurprijs 2020.

Foto: Federico Scarionati on Unsplash

Power to the People? Hoe AI die droom ondermijnt

“Power to the people!”: een veelgehoorde leus bij demonstraties, ik hoorde het de afgelopen periode onder andere bij de Rode Lijn-demonstraties. Het is ook een leus die al decennia relevant is, en om eerlijk te zijn schiet het nog niet heel erg op. In de basis is het is een pleidooi voor democratisering van kennis, middelen en macht en lang werd door velen geroepen dat technologie dit zou brengen, het zou de grote gelijkmaker zijn. Het internet democratiseerde informatie. Sociale media gaven een stem aan wie geen podium had. De smartphone veranderde iedereen in een journalist, een activist, of iemand met, op zijn minst een beetje, invloed.

Maar de geschiedenis laat zich niet zo makkelijk temmen. Elke uitvinding die de massa belooft te bevrijden, blijkt op termijn ook een nieuw soort concentratie van macht te faciliteren. En zo staan we nu, met kunstmatige intelligentie, weer op een kruispunt. De meeste mensen kijken naar ChatGPT of Midjourney en zien een handig speeltje, een efficiëntiebooster of op zijn meest een bedreiging voor hun baan. Of aan de andere kant van het spectrum, kunstmatig intelligente robots die de mensheid zullen vernietigen. Maar niet iedereen stelt de vraag wat het betekent dat AI straks niet collectief bestuurd wordt, maar in handen komt van een relatief kleine groep mensen, soms letterlijk een enkeling.

Doe het veilig met NordVPN

Sargasso heeft privacy hoog in het vaandel staan. Nu we allemaal meer dingen online doen is een goede VPN-service belangrijk om je privacy te beschermen. Volgens techsite CNET is NordVPN de meest betrouwbare en veilige VPN-service. De app is makkelijk in gebruik en je kunt tot zes verbindingen tegelijk tot stand brengen. NordVPN kwam bij een speedtest als pijlsnel uit de bus en is dus ook geschikt als je wil gamen, Netflixen of downloaden.

Closing Time | Noir c’est noir

Johnny Hallyday was het alias van Jean-Philippe Smet, zoon van een Belgische immigrant. Hallyday werd een rockzanger in de stijl van Elvis Presley, verhuisde tijdelijk naar Nashville om een plaat op te nemen in de hoop een carrière in de VS op te starten.

Dat lukte niet echt, maar in Frankrijk werd hij wel degelijk wereldberoemd.

Closing Time | I Don’t Know Why

HOA is een Koreaanse band uit Seoel die doet denken aan de rock-&-roll-bandjes uit de jaren ’60. Sommige luisteraars vergelijken ze zelfs met de vroege Beatles.

Teveel eer, maar het klinkt in elk geval beter dan veel van de meuk die vandaag wordt uitgebracht.

Live: Israël bombardeert ministerie van Defensie Syrië

In hoofdstuk 382.421 in de serie ‘hoe onderhoud je goede banden met je buurlanden’ mengt Israël zich nu ook actief in een conflict tussen druzen en soennitische bedoeïenen in Syrië. Het geweld tussen beide groepen escaleerde afgelopen zondag, waarna de Syrische overheid troepen stuurde. Die Syrische troepen leken (deels) partij te kiezen voor de bedoeïenen. Israël en de druzen zien elkaar als bondgenoten.

Het bombarderen van het ministerie van Defensie zal vast het probleem oplossen en geen andere problemen creëren.

Doneer!

Sargasso is een laagdrempelig platform waarop mensen kunnen publiceren, reageren en discussiëren, vanuit de overtuiging dat bloggers en lezers elkaar aanvullen en versterken. Sargasso heeft een progressieve signatuur, maar is niet dogmatisch. We zijn onbeschaamd intellectueel en kosmopolitisch, maar tegelijkertijd hopeloos genuanceerd. Dat betekent dat we de wereld vanuit een bepaald perspectief bezien, maar openstaan voor andere zienswijzen.

In de rijke historie van Sargasso – een van de oudste blogs van Nederland – vind je onder meer de introductie van het liveblog in Nederland, het munten van de term reaguurder, het op de kaart zetten van datajournalistiek, de strijd voor meer transparantie in het openbaar bestuur (getuige de vele Wob-procedures die Sargasso gevoerd heeft) en de jaarlijkse uitreiking van de Gouden Hockeystick voor de klimaatontkenner van het jaar.

Vorige Volgende