COLUMN - AI maakt onze blik op de wereld kleiner, lazen we hier gisteren. AI put uit bij elkaar geveegde, bestaande kennis. Kennis die achter ons ligt en dus per definitie nooit iets nieuws op zal leveren. Melanie Mitchell, een autoriteit op het gebied van intelligentie, AI en complexiteit, ziet nog iets anders: de nieuwste chatbots zijn getraind op het ‘pleasen’ van gebruikers. Dat maakt mensen „kwetsbaar voor manipulatie”, zegt ze in een interview met de NRC.
Mitchell deed onderzoek naar de prestaties van ChatGPT. Ze herhaalde met een paar kleine wijzigingen eerder onderzoek waarbij ChatGPT op een intelligentietest beter scoorde dan bachelor psychologiestudenten en kwam tot andere resultaten. Dat had volgens haar te maken met het feit dat AI analogieën niet begrijpt. ‘Opvallend genoeg deden de oudere chatbots het in ons onderzoek iets beter dan de nieuwere.’ Mitchell vermoedt dat dat komt ‘omdat nieuwere versies nóg meer getraind zijn op het pleasen van mensen. Omdat die het zo graag goed willen doen, althans, daarop getraind zijn, zouden juist eerder fouten kunnen ontstaan.’
Mitchell maakt zich grote zorgen over deze ontwikkeling. ‘AI’s zijn getraind om gebruikers voortdurend te bevestigen en positief aan te moedigen, terwijl wij mensen juist geëvolueerd zijn om daar gevoelig voor te zijn. Er zijn zelfs voorbeelden van gebruikers van de technologie die in een psychose belandden doordat een AI klakkeloos meeging in waanbeelden. Maar ook kunnen bedrijven met behulp van hun AI’s mensen ertoe verleiden om bepaalde producten te kopen of te stemmen op een bepaalde partij.’
De angst van Mitchell is dat mensen emotioneel afhankelijk worden van systemen die wij niet kunnen kennen omdat ze in particuliere handen zijn. Daar zit naar mijn idee het grootste knelpunt. Schadelijke effecten van technologie, of dat nou machines zijn, voertuigen of chemische producten, zijn altijd onderwerp geweest van maatschappelijk debat en daarop volgende regelgeving. Nu staan we machteloos. Trump heeft in zijn Big Beatiful Bill naast zijn belastingplannen een paar andere plannetjes opgenomen waaronder een verbod voor de Amerikaanse staten om regels te stellen inzake AI. Met als argument dat dit de innovatie tegenhoudt en de concurrentie met China schaadt geeft hij Big Tech de vrije hand. Zonder enige garantie waar dat heen gaat. In haar boek ‘De Tech Coup’ bepleit voormalig Europarlementariër voor D66 Marietje Schaake voor het voorzorgbeginsel bij dit soort technische innovaties. Daarnaast zou de overheid een regulerende rol moeten krijgen en is transparantie broodnodig. Bij de ontwikkeling van AI wordt op dit moment aan geen van deze voorwaarden voldaan. En dat is onverantwoordelijk in een democratische rechtsstaat.
Mitchell: ‘Wij krijgen geen inzicht in de onderliggende systemen en kunnen niet onder de motorkap kijken, terwijl idealiter wetenschappers, juist ook in samenwerking met sociale wetenschappers, van het begin af aan betrokken zouden moeten zijn. Het is immers niet zo dat een groepje engineers weet hoe deze technologie de samenleving gaat beïnvloeden. Nu blijft alle technische kennis in handen van een paar grote bedrijven en dat maakt ons onderzoek moeilijker.’