Chatbot kan niet langzaam denken

Het menselijk gedruis over tekst producerende kunstmatige intelligentie zal nog wel even voortduren. ChatGPT hielp me begin deze maand een artikel schrijven dat volgens sommigen behoorde tot het beste dat ik ooit schreef. Sindsdien ben ik ermee blijven experimenteren – vaak nog verbaasd over wat het systeem ineens bleek te kunnen bedenken, maar gaandeweg toch ook steeds meer vertrouwd met de beperkingen: de doodsheid van het geproduceerde proza (of van de geproduceerde plaatjes), de weigering om er ooit iets bij te leren.

Bijna 25 jaar geleden schreef ik een stuk, ‘grandeur en misère van de computertaalwetenschap‘. Ik weet niet of ik kan zeggen dat ik het toen goed zag; ik weet wel dat ik het nog op dezelfde manier zie. Aan het eind van het stuk wees ik er op dat dommekracht waarschijnlijk de toekomst was: computers die op basis van een enorme verzameling voorbeeldteksten aan de hand van statistiek steeds weer nieuwe teksten kunnen maken die op de oude lijken. Na “op een mooie” volgt meestal pinksterdag en dus schrijf je ‘op een mooie pinksterdag’.

Ratio

Dat is precies het principe waarop de systemen die nu furore maken gebouwd zijn. Ik voorzag dit indertijd niet omdat ik nu zo’n visionair was, maar omdat iedereen die zich er 25 jaar geleden een beetje in verdiepte het kon zien.

Waar ik wel onduidelijk over was: wat er nu eigenlijk precies ontbrak, indertijd. Ik noemde dat ‘inspiratie’, maar ik kan inmiddels echt niet meer bedenken wat ik daarmee indertijd bedoeld heb. Wel denk ik inmiddels iets meer inzicht te hebben in wat er nu eigenlijk ontbrak, wat er nu eigenlijk ontbreekt.

De econoom en psycholoog Daniel Kahneman heeft het idee populair gemaakt dat we twee vormen van denken hebben: een dat supersnel en intuïtief is maar daarbij voortdurend fouten maakt, de ‘automatische piloot’, de intuïtie; en een ander dat langzamer is, dat meer moeite kost, de ratio. Je kunt zeggen dat het eerste systeem hetgene is waar de moderne AI op richt. Wat ik 24 jaar geleden ‘inspiratie’ noemde is het tweede systeem.

Zo kan ChatGPT niet rekenen, althans niet met relatief grote getallen:

Het is een beetje verrassend dat dit mis gaat – waar is een computer nu beter in dan rekenen – maar het is ook te verklaren. De som die ik hier geef heeft ChatGPT waarschijnlijk nooit gezien; 23+56=79 staat misschien wel ergens in het corpus met teksten waarop het getraind is, maar het heeft niet echt leren rekenen, zoals een mens dat geleerd heeft: met specifieke uitleg en dan oefeningen.

Verbluffend

De problemen met de dorre stijl en het feit dat het op iedere inhoudelijke vraag maar wat begint te bazelen als het ’t niet weet, hebben een soortgelijke oorsprong, denk ik. Bij ieder antwoord op iedere vraag neemt het alle teksten mee die het ooit gelezen heeft, los van de oorsprong van die tekst: een tweet van een anonymus weegt evenveel als een artikel van een deskundige. Als je het vraagt naar de geschiedenis van Amsterdam of het bestaan van buitenaards leven weegt het alles mee.

Wat er nodig is, is kortom een versie van Kahnemans langzame systeem – bewustzijn misschien wel, de mogelijkheid om van bepaalde mensen of bronnen te leren en andere te negeren, de mogelijkheid om soms niet het antwoord te kiezen dat intuïtief juist lijkt (de som van 4.433.557 en 4.634.630 zal wel beginnen met een 8, want 4+4=8) maar één die regels volgt en toepast, één die dingen kan leren op een andere manier dan door alleen maar imitatie. Zo’n tweede systeem is er nu niet – het enige dat er een héééél klein beetje op lijkt, zijn de filters die kennelijk zijn toegevoegd en die maken dat het systeem waarschuwingen geeft als je probeert het racistische of seksistische uitspraken te ontlokken; maar dat is wel een heel mager traag systeem.

Maar feitelijk is zo’n langzaam systeem, en vooral de manier waarop het zou moeten aansluiten op het snelle nog net zozeer een raadsel als toen ik het uit de losse pols ‘inspiratie’ noemde. We weten eenvoudigweg niet hoe we denken en misschien zijn onze hersenen ook wel te dom om te kunnen begrijpen hoe ze zelf werken. Mijn voorspelling voor 2046: dan is de dommekracht van computers nog verbluffender, en we kunnen misschien nog wat beter benoemen wat er ontbreekt.