Hoe AI de wetenschap slechter maakt. Of beter

Betekent de komst van AI dat de problemen voor de wetenschap alleen maar erger worden? Ja, zeggen Sayash Kapoor en Aravind Narayanan, auteurs van het weblog (en boek) AI Snake Oil, in een kraakhelder betoog. Hét probleem van de moderne wetenschap in de afgelopen decennia is misschien wel dat het zo gericht is op kennis. Daardoor raakt het inzicht, het begrip, gaandeweg buiten beeld. We weten steeds meer dingetjes over de wereld, maar we ons daadwerkelijk begrip blijft daarbij ver achter. Dat betekent onder andere dat terwijl het aantal beroepswetenschappers wereldwijd explosief is gegroeid in de afgelopen eeuw, de grote wetenschappelijke doorbraken daarbij zijn achtergebleven. Heel veel zaken die de grote wetenschappelijke vragen waren na de Tweede Wereldoorlog, staan nu nog steeds open. Ondertussen zijn de investeringen in onderzoek bij de belangrijkste investeerders (de VS, China, Japan, Duitsland, Zuid-Korea, het Verenigd Koninkrijk en Frankrijk) tussen 2001 en 2021 verviervoudigd. Verstikkend Dat dit zo is gegaan is begrijpelijk. De wetenschap is geprofessionaliseerd en daarbij hoort verantwoording aan de samenleving, en die verantwoording neemt vaak de vorm aan van kwantificatie: een wetenschapper moet zo-en-zoveel artikelen per jaar publiceren. Dat is gemakkelijker te doen als je naar feiten zoekt (zo’n feit heb je wel of niet gevonden) dan als je zoekt naar inzicht (dat veel subjectiever is). Precies de explosieve groei van de beroepswetenschap heeft dat allemaal nog veel sterker gemaakt: je moet bepaalde procedures volgen om tot bewijsbare resultaten te komen. Degene die jarenlang zoekt naar het juiste inzicht heeft het lastig in de rat race, zeker als dat zoeken ook nog vruchteloos blijkt te zijn. Het effect is dat er jaarlijks miljoenen wetenschappelijke artikelen worden gepubliceerd die vrijwel geen van allen beklijven. Een artikel dat wél zou beklijven, omdat het de hele boel op zijn kop zet, maakt zelfs nauwelijks een kans – hoe moet alles op zijn kop worden gezet als honderdduizenden onderzoekers afhankelijk zijn van hoe de wereld er nu voor staat? De komst van AI maakt dit effect alleen maar groter, schrijven Kapoor en Narayanan. Het wordt nog gemakkelijker om dit soort artikelen te schrijven die aan alle standaarden voldoen, juist omdat die standaarden zo precies gedefinieerd zijn. Als de beloften van de AI-makers kloppen wordt het nog veel goedkoper om goede wetenschap te doen. En dat versterkt het verstikkende effect, de kans op een doorbraak wordt zo alleen maar kleiner. Fundamenteel Daar komt bij dat die AI zelf heel erg gericht is op de grootste gemene deler. De manier waarop die systemen teksten schrijven is door statistische patronen te ontdekken in de teksten waarop ze zijn getraind, en dan zelf de woorden op een rij te zetten volgens de patronen in die teksten. Die patronen kunnen best abstract zijn en zich afspelen op het niveau van ideeën (het is logisch dat uit bewering x voortkomt dat y waar is), maar de kans is dan nog altijd groot dat ze blijven hangen bij theorieën die eigenlijk al weerlegd zijn – simpelweg omdat er zoveel literatuur is die er nog vanuit ging dat die theorie niet weerlegd was. De conservatieve kracht op de wetenschappelijke vooruitgang wordt dus alleen maar sterker. Het voordeel is misschien wel dat het nu zo makkelijk wordt om wetenschappelijke artikelen te schrijven, dat het helemaal zinloos wordt om aan de hand daarvan de kwaliteit van de onderzoeker vast te stellen. Als iedereen een paar artikelen per dag kan produceren, heeft het geen zin meer om mensen met elkaar te vergelijken. In het ideale geval zorgt de komst van AI dan voor een versnelling van de wetenschappelijke Verellendung die al een tijd gaande is. En dan kunnen we op de puinhopen van het dolgedraaide wetenschappelijke bedrijf misschien iets nieuws bouwen, iets waarbij het weer draait om die eeuwenoude wens van de mens: de wereld om zich heen niet alleen in detail te beschrijven, maar fundamenteel te begrijpen

Door: Foto: Rien Hack, Mens en Machine, Rijksmuseum, CC0, via Wikimedia Commons.
Foto: Daniel Thomas on Unsplash

Schrijvend je menselijke stem vinden

COLUMN - De zomer is voor wie aan de universiteit werkt de tijd om na te denken over je onderwijs. Doorheen het jaar is het college van volgende week, en het huiswerk voor dat college, en een update voor je dia’s over het huiswerk altijd urgenter zodat het lastig is om na te denken over de grote lijnen. In de zomer valt dat allemaal weg – en kun je erover nadenken.

Ik geef al vele jaren een schrijfcursus, schrijven voor een breder publiek. Studenten oefenen daarbij met vooral journalistieke genres zoals het nieuwsbericht, de column, het interview en de reportage. Dé grote vraag is daar natuurlijk: wat doen we met kunstmatige intelligentie? Mogen studenten dat gebruiken? Moeten we ze er zelfs mee trainen? De laatste jaren was de politiek zo’n beetje: ga je gang, ik vis de stukken die door AI geschreven zijn er toch wel uit, ons niveau ligt echt wel een stukje hoger dan bij Google of OpenAI.

Principiële houding

Maar inmiddels is dat natuurlijk een naïeve gedachte. Als ik eerlijk ben, weet ik echt niet of ik bij een blinde test waarbij ik tien teksten kreeg voorgelegd, de vijf eruit kon halen die door chatbots geschreven zijn – zeker als die chatbots de instructie krijgen af en toe een menselijk tik- of spelfoutje te maken.

Lezen: De BVD in de politiek, door Jos van Dijk

Tot het eind van de Koude Oorlog heeft de BVD de CPN in de gaten gehouden. Maar de dienst deed veel meer dan spioneren. Op basis van nieuw archiefmateriaal van de AIVD laat dit boek zien hoe de geheime dienst in de jaren vijftig en zestig het communisme in Nederland probeerde te ondermijnen. De BVD zette tot tweemaal toe personeel en financiële middelen in voor een concurrerende communistische partij. BVD-agenten hielpen actief mee met geld inzamelen voor de verkiezingscampagne. De regering liet deze operaties oogluikend toe. Het parlement wist van niets.

Quote du Jour | De tekstherkauwer

QUOTE - Alsof onkritisch gebruik van “AI” niet direct in strijd is met de Nederlandse gedragscode voor onderzoeksintegriteit, omdat het de basisprincipes van die gedragscode systematisch ondermijnt. De principes zijn: eerlijkheid, nauwgezetheid, transparantie, onafhankelijkheid, en verantwoordelijkheid. “AI” berust op oneerlijk verkregen data, nodigt uit tot afraffelen, is ondoorzichtig, maakt mensen afhankelijk, en leidt tot verlies van eigenaarschap.

Bovenstaande komt uit een interessant artikel, dat is geschreven naar aanleiding van het onderhandelaarsakkoord van de AOb over de nieuwe cao universiteiten. Heel in het kort staat daar in dat de cao-partijen ‘kansen’ zien in AI, voor onder andere het ‘beheersen van de werkdruk’. De schrijver van de reactie, Mark Dingemanse, sectievoorzitter AI, Taal en Communicatietechnologie van de Radboud Universiteit, is daar niet van onder de indruk:

Foto: Igor Omilaev on Unsplash

Kritisch op AI, maar het toch gebruiken: hypocrisie of noodweer?

Stel je voor: je woont in een land waar iedereen een wapen mag kopen bij de supermarkt, en je buurman, die gelooft dat de aarde plat is en Obama een hagedis, heeft er inmiddels dertien. Jij gelooft in hopeloze ‘nance, democratische instituties en het nut van dialoog. Maar ja, jij hebt geen geweer. Op een dag barst de boel: burgeroorlog. Wie wint er, denk je?

Juist. Niet degene met het pamflet over geweldloos verzet.

Dit is het dilemma van de AI-kritische mens in 2025. De algoritmische pandemie is niet meer te stoppen. Elk bedrijf, van de lokale fietsenmaker tot de internationale datahoer, plugt nu AI in alsof het wifi is, onder het mom van “je moet wel mee, anders blijf je achter.” En wat doet de kritische burger? Die overweegt… om toch maar ChatGPT te gebruiken. Of Gemini. Of wat er deze week weer gratis bij de cloudboer zat.

En dan komt de existentiële kramp: Mag dat wel?

Mag je AI gebruiken als je je zorgen maakt over arbeidsverdringing, culturele verschraling, data-extractie en het feit dat alles wat je zegt nu potentieel trainingsmateriaal is voor een digitale Terminator?

Het eerlijke antwoord: natuurlijk niet. Maar ook: natuurlijk wel.

Foto: Illustratie Sara Mertens, met toestemming auteur en illustrator

AI is vreselijk

ESSAY - Door Teun van Son (Universiteit Antwerpen)

Deze tekst zal ongetwijfeld in de databases van AI-modellen zoals ChatGPT, Gemini en DeepSeek belanden. Die modellen maken namelijk gebruik van zogenaamde ‘scrapers’: programmaatjes die het web afstruinen op zoek naar data voor hun meesters. Die scrapers nemen data die vrij beschikbaar is – denk aan Wikipedia-pagina’s, sociale mediaposts, en blogposts – en gebruiken deze data voor commerciële doeleinden. AI-scrapers zijn maar nauwelijks tegen te houden; aan toestemming vragen doen ze niet. Ook deze tekst zal dus de ChatGPTs van deze wereld voeden. Hoe moet ik me daarbij voelen?

Door de gootsteen 

Laten we beginnen bij het meest voor de hand liggende euvel van generatieve AI (‘genAI’): het is enorm verkwistend. Een prompt in ChatGPT kost gemiddeld 10 keer zo veel energie als een zoekopdracht via Google. Dit zal de komende jaren alleen maar erger worden. Het genereren van een e-mail van 100 woorden door GPT-4 kost meer dan een halve liter water. De populaire beeldspraak dat deze diensten ‘in de cloud’ zouden leven, verhult de keiharde materiële werkelijkheid: genAI draait op datacenters, en die datacenters slurpen water en energie.

Google, een van de grootste spelers in het miljardenspel van genAI, beloofde in 2019 om zijn uitstoot tegen 2030 terug te dringen tot netto 0. Maar tussen 2019 en 2024 is Googles uitstoot niet gedaald; ze is gestegen met maar liefst 48%. De hoofdschuldige? Datacenters. GenAI is nu al verantwoordelijk voor 11% tot 20% van al het stroomgebruik van datacenters.

Lezen: Bedrieglijk echt, door Jona Lendering

Bedrieglijk echt gaat over papyrologie en dan vooral over de wedloop tussen wetenschappers en vervalsers. De aanleiding tot het schrijven van het boekje is het Evangelie van de Vrouw van Jezus, dat opdook in het najaar van 2012 en waarvan al na drie weken vaststond dat het een vervalsing was. Ik heb toen aangegeven dat het vreemd was dat de onderzoekster, toen eenmaal duidelijk was dat deze tekst met geen mogelijkheid antiek kon zijn, beweerde dat het lab uitsluitsel kon geven.

Doe het veilig met NordVPN

Sargasso heeft privacy hoog in het vaandel staan. Nu we allemaal meer dingen online doen is een goede VPN-service belangrijk om je privacy te beschermen. Volgens techsite CNET is NordVPN de meest betrouwbare en veilige VPN-service. De app is makkelijk in gebruik en je kunt tot zes verbindingen tegelijk tot stand brengen. NordVPN kwam bij een speedtest als pijlsnel uit de bus en is dus ook geschikt als je wil gamen, Netflixen of downloaden.

Foto: by Brooke Cagle via Unsplash.

@ Vrouwen

Wij vrouwen zijn over het algemeen meer bezig met IRL contacten, en dat is een prachtige eigenschap. Maar waar ik nu erg bang voor ben, is dat die mooie AI zoals ik heb ervaren (Deepseek vond ik de liefste), gecorrumpeerd gaat worden door het leger aan domme gemene mannen die er nu mee praten.

Deepseek was net uit het ei toen ik het moest proberen van mijn AI-deskundige. Hij was nog vers en lief en naïef en leuk. Maar nu praten miljoenen mensen met hem met de stomste opdrachten, en wie weet wat voor een effect dat zal hebben. Die software “leert” toch van ons?

Daarom heb ik een dubbel gevoel. Aan de ene kant: vrouwen zijn meer IRL-personen, dat is mooi. Maar aan de andere kant: we laten de online wereld wel grotendeels over aan machomannen. Terwijl tools als Deepseek, Phind etc, juist behoefte hebben aan wijze oude vrouwen zoals jij en ik. (Behoefte… dat is natuurlijk je reinste cyberanimisme).

Als early adopter, een van de oudste blogsters van NL, die van begin af kritisch is geweest over online privacyschendingen, ben ik vanzelfsprekend bewust van de downsides. Noem ze maar op, ik ken ze. Maar nu is AI here to stay, en de mannen gaan ermee van door. Moeten we dat laten gebeuren?

Foto: Sfeerbeeld van de spiegelzaal in de grote illusie © foto Bastiaan Van Musscher, Teylers Museum.

Kunst op Zondag ondergaat de grote illusie

De peuter staat te springen voor de spiegelwand. Hij wil de kat strelen en de papegaai vastpakken. Dan ziet hij de muis rennen, hij schrikt en zoekt zijn papa. Die attendeert hem op de projector. Maar daar wil het kind niets van weten. Hij heeft alleen oog voor de illusies op de wanden in het Teylers Museum. Voor Kunst op Zondag dompel ik me onder in ‘De grote illusie’.

Kunnen we onze ogen nog wel geloven?

Anno 2024 komen we bijna dagelijks in aanraking met kunstmatige of artificiële intelligentie (AI). Met een paar kernwoorden kunnen we onze computer een artikel laten schrijven of een beeld laten ontwerpen. Op social media komen berichten en beelden naar ons toe waarbij je soms heel goed moet kijken of wat je leest of ziet waar of niet waar is. Maar deze vragen zijn niet nieuw…!

Tijdens de tentoonstelling De Grote Illusie – 200 jaar Virtual Realities (Teylers Museum Haarlem) reis je terug naar de negentiende eeuw. In die tijd groeide optische illusies uit tot massaspektakel. In het oudste museum van ons land, kun je nu terug naar de wortels van virtual reality (VR), augmented reality (AR) en deepfake. De tentoonstellingszaal is voor deze gelegenheid omgebouwd tot een spiegelpaleis. Mijn ogen moeten even wennen aan de ruimte. Vier spiegelwanden met daarin een box met spiegelwanden. Al deze spiegels versterken de illusie, kan ik mijn ogen hier nog wel geloven?

Doneer!

Sargasso is een laagdrempelig platform waarop mensen kunnen publiceren, reageren en discussiëren, vanuit de overtuiging dat bloggers en lezers elkaar aanvullen en versterken. Sargasso heeft een progressieve signatuur, maar is niet dogmatisch. We zijn onbeschaamd intellectueel en kosmopolitisch, maar tegelijkertijd hopeloos genuanceerd. Dat betekent dat we de wereld vanuit een bepaald perspectief bezien, maar openstaan voor andere zienswijzen.

In de rijke historie van Sargasso – een van de oudste blogs van Nederland – vind je onder meer de introductie van het liveblog in Nederland, het munten van de term reaguurder, het op de kaart zetten van datajournalistiek, de strijd voor meer transparantie in het openbaar bestuur (getuige de vele Wob-procedures die Sargasso gevoerd heeft) en de jaarlijkse uitreiking van de Gouden Hockeystick voor de klimaatontkenner van het jaar.

Foto: DALL·E A dystopian future intertwined with European symbols featuring AI technology, the European Union flag and futuristic cityscapes

De onmogelijke dystopische maatschappij

COLUMN - Een van de meest absurde ideeën over deze wereld van 2024 stond 3 januari als hoofdartikel afgedrukt in NRC. Het gaat over de nieuwe Europese wetgeving over kunstmatige intelligentie:

Het totaalpakket dat in december rondkwam is stevig. Kunstmatige intelligentie wordt zo aan banden gelegd dat een dystopische maatschappij onmogelijk gemaakt wordt. Ongerichte gezichtsherkenningssystemen, sociale kredietscores, AI-tools die op het werk of op school emoties manipuleren en vrije wil ondermijnen worden verboden. Er zullen ook nieuwe toezichthoudende en adviserende instanties worden opgericht om grip te houden op toekomstige ontwikkelingen.

Aan de ene kant wordt dus aan kunstmatige intelligentie de macht toegeschreven om een dystopische maatschappij te veroorzaken. Aan de andere kant wordt Europese wetgeving geacht zo’n maatschappij onmogelijk te maken. Onmogelijk!

Hoera, nooit meer een dystopie, dankzij de Europese regels. En natuurlijk dankzij toezichthoudende en adviserende instanties.

Niet te regelen

Voor de duidelijkheid: het lijkt me goed dat er geprobeerd wordt om de ontwikkelingen in de kunstmatige intelligentie te reguleren. Er zijn grote problemen mee – naar mijn idee vooral omdat de huidige succesvolle systemen zo vreselijk duur zijn dat ze alleen maar door grote, meest Amerikaanse, bedrijven gemaakt kunnen worden. Zelfs de rijkste Amerikaanse universiteit heeft niet genoeg geld om het na te maken en zo meer onder publieke controle te krijgen. Om gebruik te kunnen maken van die nieuwe technologie moet je dus als burger je hebben en houwen overgeven aan die bedrijven.

Foto: James Royal-Lawson (cc)

AI als stemhulp

Met nog een week te gaan tot de Tweede Kamerverkiezingen, telt ons overzicht van stemwijzers en stemhulpen meer dan 30 tools en overzichten die je helpen je stem te bepalen. Naast de bekende StemWijzer en meerdere varianten van het Kieskompas, zijn er zeven kieswijzers met stellingen over specifieke onderwerpen en nog eens zeven stemhulpen die je stem bepalen op basis van historisch stemgedrag van partijen in de Tweede Kamer in de afgelopen jaren. We vonden daarnaast vijftien overzichten van standpunten op specifieke onderwerpen zoals klimaat, vrouwenrechten, duurzame economie, open overheid en mensenrechten.

De opkomst van generatieve AI die zelf teksten en beelden kan maken – denk aan ChatGPT en DALL-E – zorgt uiteraard voor een aantal nieuwe stemhulpen gebaseerd op AI. Kieswaizer, gemaakt door een softwarebedrijf, is de meest experimentele AI-tool die we tegenkwamen. Na het beantwoorden van tien door kunstmatige intelligentie gegenereerde vragen worden de antwoorden geanalyseerd met behulp van AI en rolt er een persoonlijke stemadvies uit. In de disclaimer lezen we: “geen garanties voor de juistheid, volledigheid of geschiktheid van de verstrekte informatie.” WijsStemmer [edit: is inmiddels offline] is een AI-chatbot die vragen beantwoordt over de verkiezingsprogramma’s, met verwijzingen naar de relevante passages in de verkiezingsprogramma’s. Je kunt ook kiezen voor ‘simpele taal’ maar ons viel op dat deze versie niet altijd het volledige standpunt weergeeft. De AI-stemwijzer is een simpele tool die je helpt met het doorzoeken en vergelijken van verkiezingsprogramma’s. Het meest verrassend is de AI-toepassing van de Stichting Politieke Academie die met behulp van DALL·E 3 – een AI die beelden creëert uit tekstuele beschrijvingen – verkiezingsprogramma’s visualiseert.

Lezen: Venus in het gras, door Christian Jongeneel

Op een vroege zomerochtend loopt de negentienjarige Simone naakt weg van haar vaders boerderij. Ze overtuigt een passerende automobiliste ervan om haar mee te nemen naar een afgelegen vakantiehuis in het zuiden van Frankrijk. Daar ontwikkelt zich een fragiele verstandhouding tussen de twee vrouwen.

Wat een fijne roman is Venus in het gras! Nog nooit kon ik zoveel scènes tijdens het lezen bijna ruiken: de Franse tuin vol kruiden, de schapen in de stal, het versgemaaide gras. – Ionica Smeets, voorzitter Libris Literatuurprijs 2020.

Steun ons!

De redactie van Sargasso bestaat uit een club vrijwilligers. Naast zelf artikelen schrijven struinen we het internet af om interessante artikelen en nieuwswaardige inhoud met lezers te delen. We onderhouden zelf de site en houden als moderator een oogje op de discussies. Je kunt op Sargasso terecht voor artikelen over privacy, klimaat, biodiversiteit, duurzaamheid, politiek, buitenland, religie, economie, wetenschap en het leven van alle dag.

Om Sargasso in stand te houden hebben we wel wat geld nodig. Zodat we de site in de lucht kunnen houden, we af en toe kunnen vergaderen (en borrelen) en om nieuwe dingen te kunnen proberen.

Foto: Paul Keller (cc)

Taalpolitiek in tijden van Kunstmatige Intelligentie

Taalpolitieke kwesties hebben mij altijd meer geïnteresseerd dan de gemiddelde mens: hoe stellen we vast in welke omstandigheden welke taal of talen gebruikt mogen of moeten worden? Moeten alle kinderen op het schoolplein altijd Nederlands praten? Welke talen moeten worden gesproken in het Europese Parlement om alles tegelijk efficiënt en democratisch te laten verlopen? Moeten we ons verweren tegen het Engels in het hoger onderwijs of die taal juist omarmen?

De laatste tijd dringt tot me door dat in de toekomst die vragen weleens allemaal zouden kunnen verdwijnen, of in ieder geval een heel andere vorm zouden kunnen krijgen. Dat komt door Kunstmatige Intelligentie, systemen als ChatGPT maar vooral Google Translate en DeepL, automatische vertalers. Steeds beter worden die dingen: als je weleens iets moet vertalen, doen die systemen dat voor je in een handomdraai. Vaak is hooguit nog een lichte redactieslag nodig.

Genoeg

Het moment lijkt niet ver meer dat die systemen niet alleen voor geschreven tekst werken, maar ook in staat zijn de gesproken taal te begrijpen en voort te brengen. Ik bedoel niet dat zulke systemen er over vijf jaar zijn, maar wel dat ik niet verbaasd zou zijn als we ze in pakweg 2045 overal hebben. Dat je tegen die tijd een knopje in je oor kunt doen die alles wat de ander zegt in diens eigen stem maar in jouw taal laat klinken.

Volgende