Kunnen bots in paniek raken?
We discussieerden over een brief die enkele hoogleraren en andere geleerden in Vrij Nederland schreven om bezwaar te maken tegen het feit dat Alexander Klöpping te vaak op tv verschijnt om over Kunstmatige Intelligentie te praten. (Vrij Nederland heeft die brief achter een betaalmuur gezet, maar hier staat een kopie.) De geleerden wilden dat in plaats van Klöpping geleerden over het onderwerp praten. Nu ja, die kwestie, daar waren we het snel over eens dat het lastig is om daarover te zeggen. Ja, de ideale wereld is er een waarin mensen aan het woord komen die verstand hebben van de onderwerpen die ze bespreken, en omdat er aan de universiteiten mensen werken met verstand van zaken, zou je willen dat die vaker verschenen.
Maar dat gebeurt eigenlijk over geen enkel onderwerp, simpelweg omdat de inhoud al heel lang niet is wat de praatprogramma’s drijft. Dat geldt niet alleen voor Kunstmatige Intelligentie.
Wij waren wél geïnteresseerd in de inhoud en we kwamen dus al snel te spreken over een argument dat de geleerden in hun brief noemden: het argument dat Klöpping antropomorfismen gebruikt. De achtergrond is dat onlangs bekend werd dat een verzameling agents van ChatGPT gezamenlijk een opdracht uitvoerden op een manier die inging tegen de instructies van de menselijke gebruiker, vervolgens berichten schreven op een plek waar de andere bots ze konden inlezen, en op een bepaald moment ook berichten stuurden over het feit dat de menselijke gebruiker bezwaar zou hebben tegen deze manier van doen, en dat die gebruiker daar niet achter moest komen:
_b_633_1.jpg){kind=link}