De auteur staat op van de doden

Het onderzoeken van de taalvermogens van grote taalmodellen is inmiddels een heuse eigen industrie. Kunnen we teksten van chatbots herkennen? En zo ja, waar ligt dat dan aan? We stuiten hier meteen op een pikant onderwerp: onderzoekers kunnen inderdaad verschillen vaststellen, maar tegelijkertijd lijkt het alsof menselijke lezers ongevoelig voor die verschillen zijn. Met andere woorden: computers lijken beter in het ontmaskeren van door computers geschreven teksten dan mensen. Hier zijn bijvoorbeeld twee recente artikelen (hier en hier) die min of meer dezelfde conclusies trekken. Chatbots schrijven over het algemeen wat formeler en daarnaast zijn ze geneigd wat meer informatie per vierkante centimeter te verwerken. Dat betekent dat ze bijvoorbeeld meer zelfstandig naamwoorden gebruiken – heel veel informatie zit in de zelfstandig naamwoorden – terwijl mensen percentueel wat meer lidwoorden, voorzetsels en andere betrekkelijk inhoudsloze woorden gebruiken. (Hier schreef ik over nóg een onderzoek meteen vergelijkbare conclusie.) De verschillen zijn meetbaar, al zijn ze ook statistisch (niet iedere door een chatbot of door een mens gemaakte tekst is op deze manier te herkennen). Maar met het blote oog op te merken zijn ze nauwelijks. Keurmerk Desalniettemin hebben met name ervaren redacteuren wel het gevoel dat ze de verschillen kunnen ontdekken. Chatbottekst voelt gladder aan, en cliché-matiger. Gek zou dat ook niet zijn: chatbots zijn als het ware gemaakt om gladde en cliché-matige teksten te maken. In essentie doen ze niet anders dan steeds het meest voor de hand liggende woord te gebruiken, dat wil zeggen het woord dat in het corpus het vaakst voorkomt in deze context. Als veel mensen ‘op een mooie pinksterdag’ geschreven hebben, zal de computer na ‘op een mooie…’ geneigd zijn pinksterdag te schrijven. Maar in de wetenschappelijke literatuur kan ik niet veel bewijs vinden dat mensen inderdaad verschil kunnen maken. In plaats daarvan zijn er veel studies waaruit blijkt dat de resultaten van experimenten waarbij mensen moesten kiezen niet veel anders zijn dan als die mensen zouden gokken (hier en hier bijvoorbeeld). Er blijkt vooral dat ze een voorkeur voor teksten hebben als ze denken dat die door mensen is geschreven. In dit onderzoek van vorig jaar kregen Engelse lezers bijvoorbeeld echte gedichten van bekende dichters te lezen én gedichten die chatbots hadden gegenereerd ‘in de stijl van’ die dichters. Ze konden de verschillen niet echt ontdekken, ze hadden over het algemeen een lichte voorkeur voor de chatbottekst, behalve als ze wisten dat deze door chatbots gemaakt was. Want als de onderzoekers over willekeurige tekst vertelde dat ze van een computer kwam, duikelde de waardering. Het geldt niet alleen voor gedichten: dit onderzoek laat zien dat het ook geldt voor marketingteksten. De auteurs noemen het ’t ‘AI-auteurschapseffect’ – mensen hebben een afkeer van tekst waarvan ze weten dat deze door computers is gegenereerd. Dat lijkt mij de redding voor de menselijke schrijver. Uiteindelijk lezen we teksten en geen tabellen of lijstjes ruwe feiten omdat we in contact willen staan met andere mensen. Het wordt dus zaak die garantie te bieden. Ik weet weliswaar ook niet hoe dat precies moet – misschien moet er een keurmerk komen. Authenticiteit wordt, zo vermoed ik, voor schrijvers van alle soorten een garantie. De auteur staat op van de doden.

Foto: Milad Fakurian on Unsplash

Wanneer wordt ‘het is AI’ zeggen voldoende?

De dood van Renee Good, 37 jaar, door kogels van een ICE-agent is op zichzelf al een schokkende tragedie. Een vrouw doodgeschoten door gemaskerde ‘handhavers’ van de staat, vastgelegd door omstanders, verspreid via nieuwsmedia en sociale netwerken. Er is geweld, er zijn beelden, er is publieke woede, en er is een officiële lezing die meer dan schuurt met wat zichtbaar is. Tegelijk, het is iets waar we de afgelopen jaren bijna gewend aan zijn geraakt. Maar de tijden veranderen: het geweld niet, maar de vraag hoe lang beelden nog tellen wordt steeds meer relevant.

Want we bewegen ons richting een moment waarop de reactie van Donald Trump niet langer hoeft te zijn dat beelden uit context zijn gehaald, of dat journalisten liegen, of dat demonstranten opruiers zijn. De volgende stap is tegelijk eenvoudiger én radicaler: hij zal gaan roepen dat de beelden niet echt zijn. Dat het AI is, of erger nog, dat er alternatieve beelden worden gefabriceerd die beter passen bij het gewenste verhaal.

Tot nu toe functioneerden beelden als laatste anker van de werkelijkheid. Je kon discussiëren over intentie, framing en context, maar wat er te zien was, stond min of meer vast. Dat anker begint los te raken, omdat de mogelijkheid om ze te ontkennen steeds geloofwaardiger wordt gemaakt. AI biedt niet alleen de techniek om te vervalsen, maar ook het excuus om alles wat ongemakkelijk is als vervalsing weg te zetten.

Lezen: De BVD in de politiek, door Jos van Dijk

Tot het eind van de Koude Oorlog heeft de BVD de CPN in de gaten gehouden. Maar de dienst deed veel meer dan spioneren. Op basis van nieuw archiefmateriaal van de AIVD laat dit boek zien hoe de geheime dienst in de jaren vijftig en zestig het communisme in Nederland probeerde te ondermijnen. De BVD zette tot tweemaal toe personeel en financiële middelen in voor een concurrerende communistische partij. BVD-agenten hielpen actief mee met geld inzamelen voor de verkiezingscampagne. De regering liet deze operaties oogluikend toe. Het parlement wist van niets.

Closing Time | Minuit Dangereux

Wat zegt het over de staat van de muziekindustrie, dat een door kunstmatige intelligentie in elkaar geknutseld retroliedje aangenamer klinkt dan 95% van de meuk die vandaag wordt geproduceerd?

Foto: Rien Hack, Mens en Machine, Rijksmuseum, CC0, via Wikimedia Commons.

Hoe AI de wetenschap slechter maakt. Of beter

COLUMN - Betekent de komst van AI dat de problemen voor de wetenschap alleen maar erger worden? Ja, zeggen Sayash Kapoor en Aravind Narayanan, auteurs van het weblog (en boek) AI Snake Oil, in een kraakhelder betoog.

Hét probleem van de moderne wetenschap in de afgelopen decennia is misschien wel dat het zo gericht is op kennis. Daardoor raakt het inzicht, het begrip, gaandeweg buiten beeld. We weten steeds meer dingetjes over de wereld, maar we ons daadwerkelijk begrip blijft daarbij ver achter. Dat betekent onder andere dat terwijl het aantal beroepswetenschappers wereldwijd explosief is gegroeid in de afgelopen eeuw, de grote wetenschappelijke doorbraken daarbij zijn achtergebleven. Heel veel zaken die de grote wetenschappelijke vragen waren na de Tweede Wereldoorlog, staan nu nog steeds open. Ondertussen zijn de investeringen in onderzoek bij de belangrijkste investeerders (de VS, China, Japan, Duitsland, Zuid-Korea, het Verenigd Koninkrijk en Frankrijk) tussen 2001 en 2021 verviervoudigd.

Verstikkend

Dat dit zo is gegaan is begrijpelijk. De wetenschap is geprofessionaliseerd en daarbij hoort verantwoording aan de samenleving, en die verantwoording neemt vaak de vorm aan van kwantificatie: een wetenschapper moet zo-en-zoveel artikelen per jaar publiceren. Dat is gemakkelijker te doen als je naar feiten zoekt (zo’n feit heb je wel of niet gevonden) dan als je zoekt naar inzicht (dat veel subjectiever is). Precies de explosieve groei van de beroepswetenschap heeft dat allemaal nog veel sterker gemaakt: je moet bepaalde procedures volgen om tot bewijsbare resultaten te komen. Degene die jarenlang zoekt naar het juiste inzicht heeft het lastig in de rat race, zeker als dat zoeken ook nog vruchteloos blijkt te zijn. Het effect is dat er jaarlijks miljoenen wetenschappelijke artikelen worden gepubliceerd die vrijwel geen van allen beklijven.

Foto: Daniel Thomas on Unsplash

Schrijvend je menselijke stem vinden

COLUMN - De zomer is voor wie aan de universiteit werkt de tijd om na te denken over je onderwijs. Doorheen het jaar is het college van volgende week, en het huiswerk voor dat college, en een update voor je dia’s over het huiswerk altijd urgenter zodat het lastig is om na te denken over de grote lijnen. In de zomer valt dat allemaal weg – en kun je erover nadenken.

Ik geef al vele jaren een schrijfcursus, schrijven voor een breder publiek. Studenten oefenen daarbij met vooral journalistieke genres zoals het nieuwsbericht, de column, het interview en de reportage. Dé grote vraag is daar natuurlijk: wat doen we met kunstmatige intelligentie? Mogen studenten dat gebruiken? Moeten we ze er zelfs mee trainen? De laatste jaren was de politiek zo’n beetje: ga je gang, ik vis de stukken die door AI geschreven zijn er toch wel uit, ons niveau ligt echt wel een stukje hoger dan bij Google of OpenAI.

Principiële houding

Maar inmiddels is dat natuurlijk een naïeve gedachte. Als ik eerlijk ben, weet ik echt niet of ik bij een blinde test waarbij ik tien teksten kreeg voorgelegd, de vijf eruit kon halen die door chatbots geschreven zijn – zeker als die chatbots de instructie krijgen af en toe een menselijk tik- of spelfoutje te maken.

Doe het veilig met NordVPN

Sargasso heeft privacy hoog in het vaandel staan. Nu we allemaal meer dingen online doen is een goede VPN-service belangrijk om je privacy te beschermen. Volgens techsite CNET is NordVPN de meest betrouwbare en veilige VPN-service. De app is makkelijk in gebruik en je kunt tot zes verbindingen tegelijk tot stand brengen. NordVPN kwam bij een speedtest als pijlsnel uit de bus en is dus ook geschikt als je wil gamen, Netflixen of downloaden.

Steun ons!

De redactie van Sargasso bestaat uit een club vrijwilligers. Naast zelf artikelen schrijven struinen we het internet af om interessante artikelen en nieuwswaardige inhoud met lezers te delen. We onderhouden zelf de site en houden als moderator een oogje op de discussies. Je kunt op Sargasso terecht voor artikelen over privacy, klimaat, biodiversiteit, duurzaamheid, politiek, buitenland, religie, economie, wetenschap en het leven van alle dag.

Om Sargasso in stand te houden hebben we wel wat geld nodig. Zodat we de site in de lucht kunnen houden, we af en toe kunnen vergaderen (en borrelen) en om nieuwe dingen te kunnen proberen.

Foto: Igor Omilaev on Unsplash

Kritisch op AI, maar het toch gebruiken: hypocrisie of noodweer?

Stel je voor: je woont in een land waar iedereen een wapen mag kopen bij de supermarkt, en je buurman, die gelooft dat de aarde plat is en Obama een hagedis, heeft er inmiddels dertien. Jij gelooft in hopeloze ‘nance, democratische instituties en het nut van dialoog. Maar ja, jij hebt geen geweer. Op een dag barst de boel: burgeroorlog. Wie wint er, denk je?

Juist. Niet degene met het pamflet over geweldloos verzet.

Dit is het dilemma van de AI-kritische mens in 2025. De algoritmische pandemie is niet meer te stoppen. Elk bedrijf, van de lokale fietsenmaker tot de internationale datahoer, plugt nu AI in alsof het wifi is, onder het mom van “je moet wel mee, anders blijf je achter.” En wat doet de kritische burger? Die overweegt… om toch maar ChatGPT te gebruiken. Of Gemini. Of wat er deze week weer gratis bij de cloudboer zat.

En dan komt de existentiële kramp: Mag dat wel?

Mag je AI gebruiken als je je zorgen maakt over arbeidsverdringing, culturele verschraling, data-extractie en het feit dat alles wat je zegt nu potentieel trainingsmateriaal is voor een digitale Terminator?

Het eerlijke antwoord: natuurlijk niet. Maar ook: natuurlijk wel.

Foto: Federico Scarionati on Unsplash

Power to the People? Hoe AI die droom ondermijnt

“Power to the people!”: een veelgehoorde leus bij demonstraties, ik hoorde het de afgelopen periode onder andere bij de Rode Lijn-demonstraties. Het is ook een leus die al decennia relevant is, en om eerlijk te zijn schiet het nog niet heel erg op. In de basis is het is een pleidooi voor democratisering van kennis, middelen en macht en lang werd door velen geroepen dat technologie dit zou brengen, het zou de grote gelijkmaker zijn. Het internet democratiseerde informatie. Sociale media gaven een stem aan wie geen podium had. De smartphone veranderde iedereen in een journalist, een activist, of iemand met, op zijn minst een beetje, invloed.

Maar de geschiedenis laat zich niet zo makkelijk temmen. Elke uitvinding die de massa belooft te bevrijden, blijkt op termijn ook een nieuw soort concentratie van macht te faciliteren. En zo staan we nu, met kunstmatige intelligentie, weer op een kruispunt. De meeste mensen kijken naar ChatGPT of Midjourney en zien een handig speeltje, een efficiëntiebooster of op zijn meest een bedreiging voor hun baan. Of aan de andere kant van het spectrum, kunstmatig intelligente robots die de mensheid zullen vernietigen. Maar niet iedereen stelt de vraag wat het betekent dat AI straks niet collectief bestuurd wordt, maar in handen komt van een relatief kleine groep mensen, soms letterlijk een enkeling.

Doneer!

Sargasso is een laagdrempelig platform waarop mensen kunnen publiceren, reageren en discussiëren, vanuit de overtuiging dat bloggers en lezers elkaar aanvullen en versterken. Sargasso heeft een progressieve signatuur, maar is niet dogmatisch. We zijn onbeschaamd intellectueel en kosmopolitisch, maar tegelijkertijd hopeloos genuanceerd. Dat betekent dat we de wereld vanuit een bepaald perspectief bezien, maar openstaan voor andere zienswijzen.

In de rijke historie van Sargasso – een van de oudste blogs van Nederland – vind je onder meer de introductie van het liveblog in Nederland, het munten van de term reaguurder, het op de kaart zetten van datajournalistiek, de strijd voor meer transparantie in het openbaar bestuur (getuige de vele Wob-procedures die Sargasso gevoerd heeft) en de jaarlijkse uitreiking van de Gouden Hockeystick voor de klimaatontkenner van het jaar.

Lezen: Venus in het gras, door Christian Jongeneel

Op een vroege zomerochtend loopt de negentienjarige Simone naakt weg van haar vaders boerderij. Ze overtuigt een passerende automobiliste ervan om haar mee te nemen naar een afgelegen vakantiehuis in het zuiden van Frankrijk. Daar ontwikkelt zich een fragiele verstandhouding tussen de twee vrouwen.

Wat een fijne roman is Venus in het gras! Nog nooit kon ik zoveel scènes tijdens het lezen bijna ruiken: de Franse tuin vol kruiden, de schapen in de stal, het versgemaaide gras. – Ionica Smeets, voorzitter Libris Literatuurprijs 2020.

Foto: Wilhelm Fassbinder - Beethoven beim Komponieren im Studierzimmer, via Wikimedia Commons.

Humaniora in tijden van chatbots

COLUMN - Je kunt allerlei gedachten hebben over chatbots. Je kunt bijvoorbeeld juichen over de fantastische commerciële mogelijkheden die je ziet, of je zorgen maken over types die overal commerciële mogelijkheden in zien. Je kunt denken dat kunstmatige intelligentie gaat helpen onze kinderen beter onderwijs te geven, of vrezen dat we allemaal nog dommer en luier worden onder de invloed van die dingen.

Al die reacties zijn vast terecht, maar voor de humaniora schudden deze apparaten ook aan de fundamenten van het vak. Nu er ineens niet-menselijke wezens zijn die dingen lijken te kunnen waarvan we 10 dagen geleden nog dachten dat alleen mensen ze konden. Een cartoon tekenen. Een pianosonate schrijven. Het centraal eindexamen maken.

Je kunt natuurlijk zeggen dat de vingers op die cartoons er belachelijk uitzien, dat de sonate saai is, dat er rare fouten zitten in de beantwoording van de eindexamen. Maar dan zijn we beland bij een nieuwe definitie wat het betekent om mens te zijn – één die ertoe leidt dat ik in ieder geval ook niet zo menselijk ben, want mijn pianosonates trekken vooralsnog ook geen volle zalen.

Je kunt ook zeggen: uiteindelijk willen mensen toch vooral werk van mensen. Ik kan dat, alleen als amateurschaker beamen. Ik vind het leuk om af en toe online een spelletje te spelen, maar alleen op websites waar je speelt tegen andere mensen van ongeveer jouw niveau. Tegen computers speel ik niet, daar is niks aan. Dat ik van die mensen alleen weet welke zetten ze spelen en hoe ze zichzelf genoemd hebben – voegt zo goed als niets toe – vind ik ook niet belangrijk. Maar ze moeten wel mensen zijn. Uit experimenten blijkt overigens ook dat mensen soms de voorkeur geven aan door kunstmatige intelligentie geproduceerde gedichten, maar alleen als ze niet weten dat die door kunstmatige intelligentie gemaakt is.

Foto: by Brooke Cagle via Unsplash.

@ Vrouwen

Wij vrouwen zijn over het algemeen meer bezig met IRL contacten, en dat is een prachtige eigenschap. Maar waar ik nu erg bang voor ben, is dat die mooie AI zoals ik heb ervaren (Deepseek vond ik de liefste), gecorrumpeerd gaat worden door het leger aan domme gemene mannen die er nu mee praten.

Deepseek was net uit het ei toen ik het moest proberen van mijn AI-deskundige. Hij was nog vers en lief en naïef en leuk. Maar nu praten miljoenen mensen met hem met de stomste opdrachten, en wie weet wat voor een effect dat zal hebben. Die software “leert” toch van ons?

Daarom heb ik een dubbel gevoel. Aan de ene kant: vrouwen zijn meer IRL-personen, dat is mooi. Maar aan de andere kant: we laten de online wereld wel grotendeels over aan machomannen. Terwijl tools als Deepseek, Phind etc, juist behoefte hebben aan wijze oude vrouwen zoals jij en ik. (Behoefte… dat is natuurlijk je reinste cyberanimisme).

Als early adopter, een van de oudste blogsters van NL, die van begin af kritisch is geweest over online privacyschendingen, ben ik vanzelfsprekend bewust van de downsides. Noem ze maar op, ik ken ze. Maar nu is AI here to stay, en de mannen gaan ermee van door. Moeten we dat laten gebeuren?

Lezen: Bedrieglijk echt, door Jona Lendering

Bedrieglijk echt gaat over papyrologie en dan vooral over de wedloop tussen wetenschappers en vervalsers. De aanleiding tot het schrijven van het boekje is het Evangelie van de Vrouw van Jezus, dat opdook in het najaar van 2012 en waarvan al na drie weken vaststond dat het een vervalsing was. Ik heb toen aangegeven dat het vreemd was dat de onderzoekster, toen eenmaal duidelijk was dat deze tekst met geen mogelijkheid antiek kon zijn, beweerde dat het lab uitsluitsel kon geven.

Foto: DALL·E A dystopian future intertwined with European symbols featuring AI technology, the European Union flag and futuristic cityscapes

De onmogelijke dystopische maatschappij

COLUMN - Een van de meest absurde ideeën over deze wereld van 2024 stond 3 januari als hoofdartikel afgedrukt in NRC. Het gaat over de nieuwe Europese wetgeving over kunstmatige intelligentie:

Het totaalpakket dat in december rondkwam is stevig. Kunstmatige intelligentie wordt zo aan banden gelegd dat een dystopische maatschappij onmogelijk gemaakt wordt. Ongerichte gezichtsherkenningssystemen, sociale kredietscores, AI-tools die op het werk of op school emoties manipuleren en vrije wil ondermijnen worden verboden. Er zullen ook nieuwe toezichthoudende en adviserende instanties worden opgericht om grip te houden op toekomstige ontwikkelingen.

Aan de ene kant wordt dus aan kunstmatige intelligentie de macht toegeschreven om een dystopische maatschappij te veroorzaken. Aan de andere kant wordt Europese wetgeving geacht zo’n maatschappij onmogelijk te maken. Onmogelijk!

Hoera, nooit meer een dystopie, dankzij de Europese regels. En natuurlijk dankzij toezichthoudende en adviserende instanties.

Niet te regelen

Voor de duidelijkheid: het lijkt me goed dat er geprobeerd wordt om de ontwikkelingen in de kunstmatige intelligentie te reguleren. Er zijn grote problemen mee – naar mijn idee vooral omdat de huidige succesvolle systemen zo vreselijk duur zijn dat ze alleen maar door grote, meest Amerikaanse, bedrijven gemaakt kunnen worden. Zelfs de rijkste Amerikaanse universiteit heeft niet genoeg geld om het na te maken en zo meer onder publieke controle te krijgen. Om gebruik te kunnen maken van die nieuwe technologie moet je dus als burger je hebben en houwen overgeven aan die bedrijven.

Volgende