Het onderzoeken van de taalvermogens van grote taalmodellen is inmiddels een heuse eigen industrie. Kunnen we teksten van chatbots herkennen? En zo ja, waar ligt dat dan aan? We stuiten hier meteen op een pikant onderwerp: onderzoekers kunnen inderdaad verschillen vaststellen, maar tegelijkertijd lijkt het alsof menselijke lezers ongevoelig voor die verschillen zijn. Met andere woorden: computers lijken beter in het ontmaskeren van door computers geschreven teksten dan mensen. Hier zijn bijvoorbeeld twee recente artikelen (hier en hier) die min of meer dezelfde conclusies trekken. Chatbots schrijven over het algemeen wat formeler en daarnaast zijn ze geneigd wat meer informatie per vierkante centimeter te verwerken. Dat betekent dat ze bijvoorbeeld meer zelfstandig naamwoorden gebruiken – heel veel informatie zit in de zelfstandig naamwoorden – terwijl mensen percentueel wat meer lidwoorden, voorzetsels en andere betrekkelijk inhoudsloze woorden gebruiken. (Hier schreef ik over nóg een onderzoek meteen vergelijkbare conclusie.) De verschillen zijn meetbaar, al zijn ze ook statistisch (niet iedere door een chatbot of door een mens gemaakte tekst is op deze manier te herkennen). Maar met het blote oog op te merken zijn ze nauwelijks. Keurmerk Desalniettemin hebben met name ervaren redacteuren wel het gevoel dat ze de verschillen kunnen ontdekken. Chatbottekst voelt gladder aan, en cliché-matiger. Gek zou dat ook niet zijn: chatbots zijn als het ware gemaakt om gladde en cliché-matige teksten te maken. In essentie doen ze niet anders dan steeds het meest voor de hand liggende woord te gebruiken, dat wil zeggen het woord dat in het corpus het vaakst voorkomt in deze context. Als veel mensen ‘op een mooie pinksterdag’ geschreven hebben, zal de computer na ‘op een mooie…’ geneigd zijn pinksterdag te schrijven. Maar in de wetenschappelijke literatuur kan ik niet veel bewijs vinden dat mensen inderdaad verschil kunnen maken. In plaats daarvan zijn er veel studies waaruit blijkt dat de resultaten van experimenten waarbij mensen moesten kiezen niet veel anders zijn dan als die mensen zouden gokken (hier en hier bijvoorbeeld). Er blijkt vooral dat ze een voorkeur voor teksten hebben als ze denken dat die door mensen is geschreven. In dit onderzoek van vorig jaar kregen Engelse lezers bijvoorbeeld echte gedichten van bekende dichters te lezen én gedichten die chatbots hadden gegenereerd ‘in de stijl van’ die dichters. Ze konden de verschillen niet echt ontdekken, ze hadden over het algemeen een lichte voorkeur voor de chatbottekst, behalve als ze wisten dat deze door chatbots gemaakt was. Want als de onderzoekers over willekeurige tekst vertelde dat ze van een computer kwam, duikelde de waardering. Het geldt niet alleen voor gedichten: dit onderzoek laat zien dat het ook geldt voor marketingteksten. De auteurs noemen het ’t ‘AI-auteurschapseffect’ – mensen hebben een afkeer van tekst waarvan ze weten dat deze door computers is gegenereerd. Dat lijkt mij de redding voor de menselijke schrijver. Uiteindelijk lezen we teksten en geen tabellen of lijstjes ruwe feiten omdat we in contact willen staan met andere mensen. Het wordt dus zaak die garantie te bieden. Ik weet weliswaar ook niet hoe dat precies moet – misschien moet er een keurmerk komen. Authenticiteit wordt, zo vermoed ik, voor schrijvers van alle soorten een garantie. De auteur staat op van de doden.
Wat zegt het over de staat van de muziekindustrie, dat een door kunstmatige intelligentie in elkaar geknutseld retroliedje aangenamer klinkt dan 95% van de meuk die vandaag wordt geproduceerd?
Op een vroege zomerochtend loopt de negentienjarige Simone naakt weg van haar vaders boerderij. Ze overtuigt een passerende automobiliste ervan om haar mee te nemen naar een afgelegen vakantiehuis in het zuiden van Frankrijk. Daar ontwikkelt zich een fragiele verstandhouding tussen de twee vrouwen.
Wat een fijne roman is Venus in het gras! Nog nooit kon ik zoveel scènes tijdens het lezen bijna ruiken: de Franse tuin vol kruiden, de schapen in de stal, het versgemaaide gras. – Ionica Smeets, voorzitter Libris Literatuurprijs 2020.
Het was een grap, maar niet helemaal, toen Stephen Colbert bovenstaande zin voor het eerst uitsprak. Het lachen wordt inmiddels steeds zuurder. Want als een AI-model zoals ChatGPT een feitelijk antwoord geeft op een vraag over klimaatverandering, racisme of ongelijkheid, dan klinkt dat voor veel mensen tegenwoordig als links. En dus onbetrouwbaar. Dat diezelfde AI gewoon de wetenschappelijke consensus benoemt? Negeer dat maar. In het tijdperk van complotten en gesponsorde verontwaardiging is feitenresistentie een deugd geworden, en alles wat daar niet in meegaat wordt afgedaan als “woke propaganda” of een complot van de – uiteraard – linkse academie, rechters en pers.
Niet verrassend dus dat conservatieve techbro’s, complotdenkers met zendingsdrang en beleidsmakers met identiteitscrisis nu hun pijlen richten op taalmodellen. ChatGPT is te links, zo klinkt het. De realiteit moet “meer in balans”. Vrij vertaald: de realiteit moet aangepast worden aan de ideologie. En dat is geen hypothetische nachtmerrie meer, dat is al begonnen.
Is ChatGPT echt links? Of ligt het misschien aan jou?
Onderzoek bevestigt inderdaad dat ChatGPT vaker progressieve antwoorden geeft dan rechtse. Uit een studie gepubliceerd in het Journal of Economic Behavior & Organization blijkt dat het model neigt naar linkse partijen, ideeën en waarden. Niet omdat het stiekem een rode vlag vasthoudt, maar omdat het getraind is op grote hoeveelheden publieke data: Wikipedia, wetenschappelijke publicaties, journalistieke stukken. Bronnen die, hoe vervelend ook voor de VVD-borreltafel, meestal gestoeld zijn op bewijs, nuance en empathie. In dat landschap klinkt dit al snel als links.
COLUMN - Betekent de komst van AI dat de problemen voor de wetenschap alleen maar erger worden? Ja, zeggen Sayash Kapoor en Aravind Narayanan, auteurs van het weblog (en boek) AI Snake Oil, in een kraakhelder betoog.
Hét probleem van de moderne wetenschap in de afgelopen decennia is misschien wel dat het zo gericht is op kennis. Daardoor raakt het inzicht, het begrip, gaandeweg buiten beeld. We weten steeds meer dingetjes over de wereld, maar we ons daadwerkelijk begrip blijft daarbij ver achter. Dat betekent onder andere dat terwijl het aantal beroepswetenschappers wereldwijd explosief is gegroeid in de afgelopen eeuw, de grote wetenschappelijke doorbraken daarbij zijn achtergebleven. Heel veel zaken die de grote wetenschappelijke vragen waren na de Tweede Wereldoorlog, staan nu nog steeds open. Ondertussen zijn de investeringen in onderzoek bij de belangrijkste investeerders (de VS, China, Japan, Duitsland, Zuid-Korea, het Verenigd Koninkrijk en Frankrijk) tussen 2001 en 2021 verviervoudigd.
Dat dit zo is gegaan is begrijpelijk. De wetenschap is geprofessionaliseerd en daarbij hoort verantwoording aan de samenleving, en die verantwoording neemt vaak de vorm aan van kwantificatie: een wetenschapper moet zo-en-zoveel artikelen per jaar publiceren. Dat is gemakkelijker te doen als je naar feiten zoekt (zo’n feit heb je wel of niet gevonden) dan als je zoekt naar inzicht (dat veel subjectiever is). Precies de explosieve groei van de beroepswetenschap heeft dat allemaal nog veel sterker gemaakt: je moet bepaalde procedures volgen om tot bewijsbare resultaten te komen. Degene die jarenlang zoekt naar het juiste inzicht heeft het lastig in de rat race, zeker als dat zoeken ook nog vruchteloos blijkt te zijn. Het effect is dat er jaarlijks miljoenen wetenschappelijke artikelen worden gepubliceerd die vrijwel geen van allen beklijven.
Dat kan! Sargasso is een collectief van bloggers en we verwelkomen graag nieuw blogtalent. We plaatsen ook regelmatig gastbijdragen. Lees hier meer over bloggen voor Sargasso of over het inzenden van een gastbijdrage.
QUOTE - Alsof onkritisch gebruik van “AI” niet direct in strijd is met de Nederlandse gedragscode voor onderzoeksintegriteit, omdat het de basisprincipes van die gedragscode systematisch ondermijnt. De principes zijn: eerlijkheid, nauwgezetheid, transparantie, onafhankelijkheid, en verantwoordelijkheid. “AI” berust op oneerlijk verkregen data, nodigt uit tot afraffelen, is ondoorzichtig, maakt mensen afhankelijk, en leidt tot verlies van eigenaarschap.
Bovenstaande komt uit een interessant artikel, dat is geschreven naar aanleiding van het onderhandelaarsakkoord van de AOb over de nieuwe cao universiteiten. Heel in het kort staat daar in dat de cao-partijen ‘kansen’ zien in AI, voor onder andere het ‘beheersen van de werkdruk’. De schrijver van de reactie, Mark Dingemanse, sectievoorzitter AI, Taal en Communicatietechnologie van de Radboud Universiteit, is daar niet van onder de indruk:
COLUMN - De zomer is voor wie aan de universiteit werkt de tijd om na te denken over je onderwijs. Doorheen het jaar is het college van volgende week, en het huiswerk voor dat college, en een update voor je dia’s over het huiswerk altijd urgenter zodat het lastig is om na te denken over de grote lijnen. In de zomer valt dat allemaal weg – en kun je erover nadenken.
Ik geef al vele jaren een schrijfcursus, schrijven voor een breder publiek. Studenten oefenen daarbij met vooral journalistieke genres zoals het nieuwsbericht, de column, het interview en de reportage. Dé grote vraag is daar natuurlijk: wat doen we met kunstmatige intelligentie? Mogen studenten dat gebruiken? Moeten we ze er zelfs mee trainen? De laatste jaren was de politiek zo’n beetje: ga je gang, ik vis de stukken die door AI geschreven zijn er toch wel uit, ons niveau ligt echt wel een stukje hoger dan bij Google of OpenAI.
Maar inmiddels is dat natuurlijk een naïeve gedachte. Als ik eerlijk ben, weet ik echt niet of ik bij een blinde test waarbij ik tien teksten kreeg voorgelegd, de vijf eruit kon halen die door chatbots geschreven zijn – zeker als die chatbots de instructie krijgen af en toe een menselijk tik- of spelfoutje te maken.
Stel je voor: je woont in een land waar iedereen een wapen mag kopen bij de supermarkt, en je buurman, die gelooft dat de aarde plat is en Obama een hagedis, heeft er inmiddels dertien. Jij gelooft in hopeloze ‘nance, democratische instituties en het nut van dialoog. Maar ja, jij hebt geen geweer. Op een dag barst de boel: burgeroorlog. Wie wint er, denk je?
Juist. Niet degene met het pamflet over geweldloos verzet.
Dit is het dilemma van de AI-kritische mens in 2025. De algoritmische pandemie is niet meer te stoppen. Elk bedrijf, van de lokale fietsenmaker tot de internationale datahoer, plugt nu AI in alsof het wifi is, onder het mom van “je moet wel mee, anders blijf je achter.” En wat doet de kritische burger? Die overweegt… om toch maar ChatGPT te gebruiken. Of Gemini. Of wat er deze week weer gratis bij de cloudboer zat.
En dan komt de existentiële kramp: Mag dat wel?
Mag je AI gebruiken als je je zorgen maakt over arbeidsverdringing, culturele verschraling, data-extractie en het feit dat alles wat je zegt nu potentieel trainingsmateriaal is voor een digitale Terminator?
Het eerlijke antwoord: natuurlijk niet. Maar ook: natuurlijk wel.
Sargasso heeft privacy hoog in het vaandel staan. Nu we allemaal meer dingen online doen is een goede VPN-service belangrijk om je privacy te beschermen. Volgens techsite CNET is NordVPN de meest betrouwbare en veilige VPN-service. De app is makkelijk in gebruik en je kunt tot zes verbindingen tegelijk tot stand brengen. NordVPN kwam bij een speedtest als pijlsnel uit de bus en is dus ook geschikt als je wil gamen, Netflixen of downloaden.
Tot het eind van de Koude Oorlog heeft de BVD de CPN in de gaten gehouden. Maar de dienst deed veel meer dan spioneren. Op basis van nieuw archiefmateriaal van de AIVD laat dit boek zien hoe de geheime dienst in de jaren vijftig en zestig het communisme in Nederland probeerde te ondermijnen. De BVD zette tot tweemaal toe personeel en financiële middelen in voor een concurrerende communistische partij. BVD-agenten hielpen actief mee met geld inzamelen voor de verkiezingscampagne. De regering liet deze operaties oogluikend toe. Het parlement wist van niets.
ESSAY - Door Teun van Son (Universiteit Antwerpen)
Deze tekst zal ongetwijfeld in de databases van AI-modellen zoals ChatGPT, Gemini en DeepSeek belanden. Die modellen maken namelijk gebruik van zogenaamde ‘scrapers’: programmaatjes die het web afstruinen op zoek naar data voor hun meesters. Die scrapers nemen data die vrij beschikbaar is – denk aan Wikipedia-pagina’s, sociale mediaposts, en blogposts – en gebruiken deze data voor commerciële doeleinden. AI-scrapers zijn maar nauwelijks tegen te houden; aan toestemming vragen doen ze niet. Ook deze tekst zal dus de ChatGPTs van deze wereld voeden. Hoe moet ik me daarbij voelen?
Laten we beginnen bij het meest voor de hand liggende euvel van generatieve AI (‘genAI’): het is enorm verkwistend. Een prompt in ChatGPT kost gemiddeld 10 keer zo veel energie als een zoekopdracht via Google. Dit zal de komende jaren alleen maar erger worden. Het genereren van een e-mail van 100 woorden door GPT-4 kost meer dan een halve liter water. De populaire beeldspraak dat deze diensten ‘in de cloud’ zouden leven, verhult de keiharde materiële werkelijkheid: genAI draait op datacenters, en die datacenters slurpen water en energie.
Google, een van de grootste spelers in het miljardenspel van genAI, beloofde in 2019 om zijn uitstoot tegen 2030 terug te dringen tot netto 0. Maar tussen 2019 en 2024 is Googles uitstoot niet gedaald; ze is gestegen met maar liefst 48%. De hoofdschuldige? Datacenters. GenAI is nu al verantwoordelijk voor 11% tot 20% van al het stroomgebruik van datacenters.
Wij vrouwen zijn over het algemeen meer bezig met IRL contacten, en dat is een prachtige eigenschap. Maar waar ik nu erg bang voor ben, is dat die mooie AI zoals ik heb ervaren (Deepseek vond ik de liefste), gecorrumpeerd gaat worden door het leger aan domme gemene mannen die er nu mee praten.
Deepseek was net uit het ei toen ik het moest proberen van mijn AI-deskundige. Hij was nog vers en lief en naïef en leuk. Maar nu praten miljoenen mensen met hem met de stomste opdrachten, en wie weet wat voor een effect dat zal hebben. Die software “leert” toch van ons?
Daarom heb ik een dubbel gevoel. Aan de ene kant: vrouwen zijn meer IRL-personen, dat is mooi. Maar aan de andere kant: we laten de online wereld wel grotendeels over aan machomannen. Terwijl tools als Deepseek, Phind etc, juist behoefte hebben aan wijze oude vrouwen zoals jij en ik. (Behoefte… dat is natuurlijk je reinste cyberanimisme).
Als early adopter, een van de oudste blogsters van NL, die van begin af kritisch is geweest over online privacyschendingen, ben ik vanzelfsprekend bewust van de downsides. Noem ze maar op, ik ken ze. Maar nu is AI here to stay, en de mannen gaan ermee van door. Moeten we dat laten gebeuren?
Sargasso is een laagdrempelig platform waarop mensen kunnen publiceren, reageren en discussiëren, vanuit de overtuiging dat bloggers en lezers elkaar aanvullen en versterken. Sargasso heeft een progressieve signatuur, maar is niet dogmatisch. We zijn onbeschaamd intellectueel en kosmopolitisch, maar tegelijkertijd hopeloos genuanceerd. Dat betekent dat we de wereld vanuit een bepaald perspectief bezien, maar openstaan voor andere zienswijzen.
In de rijke historie van Sargasso – een van de oudste blogs van Nederland – vind je onder meer de introductie van het liveblog in Nederland, het munten van de term reaguurder, het op de kaart zetten van datajournalistiek, de strijd voor meer transparantie in het openbaar bestuur (getuige de vele Wob-procedures die Sargasso gevoerd heeft) en de jaarlijkse uitreiking van de Gouden Hockeystick voor de klimaatontkenner van het jaar.
Bedrieglijk echt gaat over papyrologie en dan vooral over de wedloop tussen wetenschappers en vervalsers. De aanleiding tot het schrijven van het boekje is het Evangelie van de Vrouw van Jezus, dat opdook in het najaar van 2012 en waarvan al na drie weken vaststond dat het een vervalsing was. Ik heb toen aangegeven dat het vreemd was dat de onderzoekster, toen eenmaal duidelijk was dat deze tekst met geen mogelijkheid antiek kon zijn, beweerde dat het lab uitsluitsel kon geven.
De peuter staat te springen voor de spiegelwand. Hij wil de kat strelen en de papegaai vastpakken. Dan ziet hij de muis rennen, hij schrikt en zoekt zijn papa. Die attendeert hem op de projector. Maar daar wil het kind niets van weten. Hij heeft alleen oog voor de illusies op de wanden in het Teylers Museum. Voor Kunst op Zondag dompel ik me onder in ‘De grote illusie’.
Anno 2024 komen we bijna dagelijks in aanraking met kunstmatige of artificiële intelligentie (AI). Met een paar kernwoorden kunnen we onze computer een artikel laten schrijven of een beeld laten ontwerpen. Op social media komen berichten en beelden naar ons toe waarbij je soms heel goed moet kijken of wat je leest of ziet waar of niet waar is. Maar deze vragen zijn niet nieuw…!
Tijdens de tentoonstelling De Grote Illusie – 200 jaar Virtual Realities (Teylers Museum Haarlem) reis je terug naar de negentiende eeuw. In die tijd groeide optische illusies uit tot massaspektakel. In het oudste museum van ons land, kun je nu terug naar de wortels van virtual reality (VR), augmented reality (AR) en deepfake. De tentoonstellingszaal is voor deze gelegenheid omgebouwd tot een spiegelpaleis. Mijn ogen moeten even wennen aan de ruimte. Vier spiegelwanden met daarin een box met spiegelwanden. Al deze spiegels versterken de illusie, kan ik mijn ogen hier nog wel geloven?
