De Amerikaanse YouTuber Husk IRL maakt video’s waarin hij experimenteert met de grenzen van kunstmatige intelligentie. Hij probeert een chatbot te verleiden tot een strafbaar feit – bijvoorbeeld door hem een vals alibi te geven of een tekening te plagiëren – of er een sollicitatiegesprek mee te oefenen. In een van zijn laatste video’s doet hij iets betrekkelijk simpels wat een video oplevert die tegelijkertijd heel grappig is én heel instructief. Hij opent drie bots op drie telefoons en vraagt ze om samen om en om tot 100 te tellen. (Bekijk hier [1] de video)
Een groepje van vijfjarige kinderen zou dat kunnen doen: je spreekt onderling een volgorde af en dan tel je om en om. Maar de chatbots brengen er weinig van terecht en zouden de 100 zo te zien nooit gehaald hebben als Husk niet af en toe de regie had overgenomen. Ze lagen anders waarschijnlijk nu nog steeds heel enthousiast tegen elkaar te roepen: ‘Exactly! We can do this! Let’s keep the pace going and we will arrive there smoothly’ zonder dat iemand een getal gaf. Het humoristische video’s komt voor een deel uit het contrast tussen dit grote enthousiasme van de bots en de wat slomere manier van praten van de mens.
Er zijn zo te zien twee problemen, het ene wat oppervlakkiger dan het andere. Het oppervlakkige probleem is dat de bots nogal veel zeggen, en dus de hele tijd hun enthousiasme over de opgelegde taak en hun bereidheid om hem uit te voeren uitdrukken. Maar het interessante probleem is hun totale gebrek aan gevoel voor coördinatie.
Het is ook ingewikkeld, in een gesprek, zelfs bij zo’n eenvoudig taakje. Je moet eerst afspreken wie er het eerste komt, en daarbij moet er iemand het initiatief nemen, en dan moet er iemand tweede willen zijn. Dat initiatief nemen lijken de bots nog wel te begrijpen, herhaaldelijk claimen ze ‘I’ll go first’ (vaak zonder dan daadwerkelijk te beginnen), maar geen van hen zegt ooit ‘ok, dan ga ik tweede’. Noch lijkt een van hen er op de schaarse momenten dat ze tellen (ze komen wel bij 100, maar dat kost ze 40 minuten, waarvan je er in het filmpje 20 ziet) echt intern rekening mee te houden wanneer hij aan de beurt is. Als het even draait, roepen ze in willekeurige volgorde het volgende getal, ze wachten niet op elkaar. Een van de drie is bijvoorbeeld wat slomer, en die komt geregeld met een getal dat al geweest is.
Gesprekken voeren is een ingewikkelde taak. Je moet weten wanneer je wel of niet moet beginnen te spreken, en dat luistert al nauw: een fractie van een seconde te lang wachten nadat de ander is gestopt met praten, is ongemakkelijk, te snel invallen is onbeleefd. En hoe weet je dat die ander klaar is? Bovendien is zomaar één woord (bijvoorbeeld: fifty nine) zeggen in sommige omstandigheden onbeleefd, en moet je dat wat aankleden, maar in andere omstandigheden is dat voortdurend aankleden en in een hele zin zeggen en daarbij ook nog zeggen dat je echt op de goede weg bent alleen maar storend.
Ik denk dat je kunt zien dat de chatbots zijn getraind op dialogen met mensen, wat ze erg afwachtend maakt, vandaar dat ze grote moeite hebben om daadwerkelijk te beginnen met tellen. Met elkaar wordt het ingewikkelder, en dan zeker in groepjes. Zichzelf opsplitsen in groepjes ‘agents’ die samen een complexe taak uitvoeren, zoals een ingewikkeld wiskundig probleem oplossen of een computerprogramma schrijven, doet kunstmatige intelligentie overigens wel vaker, maar dan hoeft het niet door dat filter dat getraind is op begripvolle gesprekken met een menselijke gebruiker. En zich zo snel aanpassen aan deze wonderlijke taak, dat lukt niet.
[1] de video: