COLUMN - Een van de meest absurde ideeën over deze wereld van 2024 stond 3 januari als hoofdartikel afgedrukt in NRC. Het gaat over de nieuwe Europese wetgeving over kunstmatige intelligentie:
Het totaalpakket dat in december rondkwam is stevig. Kunstmatige intelligentie wordt zo aan banden gelegd dat een dystopische maatschappij onmogelijk gemaakt wordt. Ongerichte gezichtsherkenningssystemen, sociale kredietscores, AI-tools die op het werk of op school emoties manipuleren en vrije wil ondermijnen worden verboden. Er zullen ook nieuwe toezichthoudende en adviserende instanties worden opgericht om grip te houden op toekomstige ontwikkelingen.
Aan de ene kant wordt dus aan kunstmatige intelligentie de macht toegeschreven om een dystopische maatschappij te veroorzaken. Aan de andere kant wordt Europese wetgeving geacht zo’n maatschappij onmogelijk te maken. Onmogelijk!
Hoera, nooit meer een dystopie, dankzij de Europese regels. En natuurlijk dankzij toezichthoudende en adviserende instanties.
Niet te regelen
Voor de duidelijkheid: het lijkt me goed dat er geprobeerd wordt om de ontwikkelingen in de kunstmatige intelligentie te reguleren. Er zijn grote problemen mee – naar mijn idee vooral omdat de huidige succesvolle systemen zo vreselijk duur zijn dat ze alleen maar door grote, meest Amerikaanse, bedrijven gemaakt kunnen worden. Zelfs de rijkste Amerikaanse universiteit heeft niet genoeg geld om het na te maken en zo meer onder publieke controle te krijgen. Om gebruik te kunnen maken van die nieuwe technologie moet je dus als burger je hebben en houwen overgeven aan die bedrijven.
Maar om nu meteen zoveel vertrouwen te hebben in een instantie als de EU om te denken dat zij een dystopie kunnen tegenhouden?
De voornaamste karakteristiek van de ontwikkelingen in de kunstmatige intelligentie lijkt mij vooral dat ze op dit moment volkomen onvoorspelbaar is. We weten gewoonweg niet wanneer ChatGPT 5 of 6 of 7 komt, en hoeveel zaken die nog blijkt te kunnen die ons volkomen verrassen. Alleen al in het afgelopen jaar is ChatGPT op een aantal vlakken verbazingwekkend veel beter geworden, en we begrijpen volgens mij nog maar half wat dat systeem allemaal kan.
Het gevaarlijkste wat je nu kunt doen is daarom: vertrouwen op dat het allemaal wel goed komt. Europa regelt het wel, daar hebben ze hun ogen niet in hun zak. We moeten waakzaam zijn voor de dystopieën, want die verdwijnen heus niet ineens nu er regels zijn over iets dat inherent nauwelijks te regelen valt.
Reacties (5)
“naar mijn idee vooral omdat de huidige succesvolle systemen zo vreselijk duur zijn dat ze alleen maar door grote, meest Amerikaanse, bedrijven gemaakt kunnen worden.”
Dat klinkt als wishful thinking; Massagezichtsherkenningssystemen in combinatie met sociale kredietscores (net als zonetoegangscontrole op gezichtsherkenning) zijn in China al een aantal jaar orde van de dag, met Chinese (dus relatief “ouderwetse”) technologie. Ik denk dat de wetgeving vooral in dat licht bezien moet worden. We verbieden massasurveillance (a la 1984, maar dan totaler), zoals die nu al bestaat.
Ik ben dan vooral benieuwd of dat alleen gericht is op biologische kenmerken, of dat bijvoorbeeld massale nummerplaatherkenning er ook onder gaat vallen (of hebben Rutte c.s. al een uitzonder bedongen voor “kenmerken die niet 100% zeker persoonlijk te herleiden zijn”, want in jouw auto zou theoretisch iemand anders kunnen rijden, dus die mogen we wel scannen en volgen).
Ik ben het niet direct oneens met de column en op tijd er over na denken is ook goed. We hebben het hier voorlopig nog over llm’s die nog dommer zijn dan het achtereind van een varken.
Er is geen intelligentie, er is een model die soort van kan voorspellen wat er volgt door grote hoeveelheid data te verslinden om te kijken wat er verwacht wordt in gelijke omstandigheden.
Een gevolg daarvan is dat alles wat er uitkomt zo’n beetje gestolen is van ergens anders vandaan. Met alle miljarden die er tegenaan gegooid worden en de enorme misser die het genereert vind ik de huidige stand van zaken onderweldigend. Het is volgens mij vooral een wereld van hype van vc’s die sneller willen cashen dan de technologie voortschrijdt.
“Er is geen intelligentie, er is een model die soort van kan voorspellen wat er volgt door grote hoeveelheid data te verslinden om te kijken wat er verwacht wordt in gelijke omstandigheden. ”
Als je de modellen een foto van een persoon die balonnen vasthoudt geeft en vraagt wat er gebeurt als het touwtje wordt doorgeknipt krijg je het juiste antwoord. Ik zou deze techniek niet teveel onderschatten, zeker gezien de snelheid waarin de modellen verbeteren.
Dat komt omdat het model data die data heeft verzamelt en het algoritme vergelijkt. Dat is geen intelligentie. Dat dit soms een verbazingwekkend resultaat heeft betekent niet dat er ergens benul is van de situatie nog wat er aan de hand is.
Die verbluffende resultaten worden vervolgens breed op internet gepubliceerd met een kijk nou eens hype. Maar meestal heeft de persoon die de schaar vasthoudt nog drie handen met zes vinger. De honderdduizenden ml missers die er aan voorafgaan die krijg je niet te zien en als je een complexe vraag stelt wordt het helemaal wild. Het is meer een infinite monkey cage benadering https://en.wikipedia.org/wiki/Infinite_monkey_theorem.
De verwachtingen en hype zijn zo groot dat techreuzen demo’s faken om relevant te blijven https://techcrunch.com/2023/12/07/googles-best-gemini-demo-was-faked/. Of een danser inhuren die een robot moet voorstellen die ze graag zouden kunnen maken https://www.theguardian.com/technology/video/2021/aug/20/elon-musk-plan-tesla-bot-man-dancing-bodysuit-video.
De realiteit is eerder dat we nu op de piek zitten van wat met de huidige technologie kan, voordat er een t-800 op je deur klopt zijn er nog enorm veel grote doorbraken nodig waarvan we simpelweg nog geen idee hebben. Net als dat autonoom rijdende auto geldt voor AI de eerste helft is makkelijk de rest schrijdt langzaam voort. Heel langzaam.
Dat vertrouwen hoeven wij ook niet te hebben, dat vertrouwen heeft de EU al. In zichzelf…