We discussieerden over een brief die enkele hoogleraren en andere geleerden in Vrij Nederland schreven om bezwaar te maken tegen het feit dat Alexander Klöpping te vaak op tv verschijnt om over Kunstmatige Intelligentie te praten. (Vrij Nederland heeft die brief achter een betaalmuur gezet, maar hier staat een kopie.) De geleerden wilden dat in plaats van Klöpping geleerden over het onderwerp praten. Nu ja, die kwestie, daar waren we het snel over eens dat het lastig is om daarover te zeggen. Ja, de ideale wereld is er een waarin mensen aan het woord komen die verstand hebben van de onderwerpen die ze bespreken, en omdat er aan de universiteiten mensen werken met verstand van zaken, zou je willen dat die vaker verschenen.
Maar dat gebeurt eigenlijk over geen enkel onderwerp, simpelweg omdat de inhoud al heel lang niet is wat de praatprogramma’s drijft. Dat geldt niet alleen voor Kunstmatige Intelligentie.
Wij waren wél geïnteresseerd in de inhoud en we kwamen dus al snel te spreken over een argument dat de geleerden in hun brief noemden: het argument dat Klöpping antropomorfismen gebruikt. De achtergrond is dat onlangs bekend werd dat een verzameling agents van ChatGPT gezamenlijk een opdracht uitvoerden op een manier die inging tegen de instructies van de menselijke gebruiker, vervolgens berichten schreven op een plek waar de andere bots ze konden inlezen, en op een bepaald moment ook berichten stuurden over het feit dat de menselijke gebruiker bezwaar zou hebben tegen deze manier van doen, en dat die gebruiker daar niet achter moest komen:
De Grote Klöpping Show – waarin hij met een twinkeling in z’n ogen over het potentiële einde van de mensheid praat – zit vol met bekende antropomorfismes. AI wordt ‘vindingrijker’ en mag niet overleggen, maar ‘doet dat toch’ en ‘op eigen houtje’. Ze raken ‘in paniek’ bij de gedachte dat mensen ze in de smiezen kunnen krijgen.
Later in de brief komen de schrijvers nogmaals terug op die paniek:
Menselijkheid zit in een lijf, dát voelt spanning, liefde, honger. Paniek voelen, dat kan niet zonder lijf, want dat voel je in je hart, of in je longen of buik. Een AI-systeem kan dus niet ‘in paniek’ raken, want paniek is geen logisch gevolg van rekenkundige processen, maar iets dat je lichaam instinctief doet, vanzelf.
De vraag is in hoeverre dit klopt. Heb je een lichaam nodig om in paniek te raken? Dat lijkt me een kwestie van definitie. De autoriteit waarmee wordt gesteld dat paniek een kwestie is van hart, longen of buik, is lastig te onderbouwen: het wordt hier simpelweg gesteld, maar zonder argumenten.
Er valt echter wel iets tegenin te brengen. Er is bijvoorbeeld het idee van collectieve paniek, waarbij het iets is dat niet zozeer een individu behelst, als wel een groep mensen die als individu rustig zouden zijn gebleven, maar die ervoor zorgen dat ze als groep in paniek raken. En die groep heeft geen letterlijk hart, of longen of buik.
Solide
Je kunt ook niet zeggen; ja, maar ieder van die individuen heeft natuurlijk wel de voor paniek kennelijk benodigde organen, want dan kun je niet begrijpen hoe die paniek dan overslaat. Het is niet een biologisch virus, dat overslaan kan redelijkerwijs alleen cognitief overslaan: je merkt dat anderen zenuwachtig worden, en daardoor wordt je zelf zenuwachtig. Zo bezien is het logischer om te zeggen dat je verhoogde hartslag en de kramp in je buik het gevolg zijn van je paniek: die paniek komt eerst en je lichaam reageert daarop, omdat je nu eenmaal een lichaam hebt.
‘Menselijkheid zit in een lijf’ is, kortom, natuurlijk een respectabel filosofische positie, en populair in deze tijd omdat hij individualistisch is (de individuele mens is waar stemmingen verkeren) en reductionistisch (gevoelens worden teruggebracht naar lichamelijke toestanden) maar het is niet de enige. Je kunt minstens ook zeggen dat menselijkheid in de verbinding met anderen zit, en dan de (open) vraag opwerpen of een zwerm botjes dezelfde vorm van collectiviteit bezit als een groep mensen.
Sowieso lijken de geleerde briefschrijvers hier ‘antropomorfisme’ als wetenschappelijk uitgangspunt te verwarren met het gebruik van metaforen in wetenschapscommunicatie. Je kunt terecht bezwaar maken als je zegt dat nu bewezen is dat bots de menselijke stemming ‘paniek’ kennen, dat nu bewezen zou zijn dat je dus in paniek kunt raken als gevolg van logisch rekenkundige processen. Want dat is helemaal niet bewezen: er is immers ook de interpretatie mogelijk dat die paniek alleen maar ligt in de manier waarop mensen het gedrag van die bots interpreteren. Dat lijkt me wetenschappelijk meer solide.
Absolute waarheid
Maar in mijn ogen betekent dat niet dat een communicator als Klöpping niet zou spreken van paniek bij de bots. Sterker nog, het is heel lastig om over deze vrij ingewikkelde gang van zaken te praten zonder beeldspraak te gebruiken die je aan menselijk gedrag ontleent. Dat is bovendien de manier waarop mensen al sinds mensenheugenis over hun apparaten praten: mijn grasmaaier heeft er vandaag geen zin in, stom ding! Of: deze beleidsmaatregel vermoordt iedere lust tot intiatief. Je bespreekt iets vrij onbegrijpelijks in termen van iets waar je wel een intuïtie over hebt. En dan kun je wel zeggen dat er voor vermoorden twee levende wezens nodig zijn (een moordenaar met de intentie om te moorden en een ademend wezen dat met ademen ophoudt), en dat de beleidsmaatregel en de lust niet aan die voorwaarden voldoen, maar dan mis je het punt.
Er is wel een ánder punt met die antropomorfische beeldspraak: dat mensen in het specifieke geval van kunstmatige intelligentie misschien geneigd zijn om die beeldspraak net te letterlijk te nemen – te vergeten dat we hier met apparaten van doen hebben waarop niet alles wat we over mensen denken zomaar van toepassing is. Daarover kun je best discussiëren. Maar het helpt volgens mij dan niet om te doen alsof één beeld van stemmingen – dat ze producten zijn van het biologische lichaam – zelf als absolute waarheid te stellen. Want ook daar valt best iets op af te dingen.
