De dood van Renee Good, 37 jaar, door kogels van een ICE-agent is op zichzelf al een schokkende tragedie. Een vrouw doodgeschoten door gemaskerde ‘handhavers’ van de staat, vastgelegd door omstanders, verspreid via nieuwsmedia en sociale netwerken. Er is geweld, er zijn beelden, er is publieke woede, en er is een officiële lezing die meer dan schuurt met wat zichtbaar is. Tegelijk, het is iets waar we de afgelopen jaren bijna gewend aan zijn geraakt. Maar de tijden veranderen: het geweld niet, maar de vraag hoe lang beelden nog tellen wordt steeds meer relevant.
Want we bewegen ons richting een moment waarop de reactie van Donald Trump niet langer hoeft te zijn dat beelden uit context zijn gehaald, of dat journalisten liegen, of dat demonstranten opruiers zijn. De volgende stap is tegelijk eenvoudiger én radicaler: hij zal gaan roepen dat de beelden niet echt zijn. Dat het AI is, of erger nog, dat er alternatieve beelden worden gefabriceerd die beter passen bij het gewenste verhaal.
Tot nu toe functioneerden beelden als laatste anker van de werkelijkheid. Je kon discussiëren over intentie, framing en context, maar wat er te zien was, stond min of meer vast. Dat anker begint los te raken, omdat de mogelijkheid om ze te ontkennen steeds geloofwaardiger wordt gemaakt. AI biedt niet alleen de techniek om te vervalsen, maar ook het excuus om alles wat ongemakkelijk is als vervalsing weg te zetten.
In de zaak rond Renee Good is die dynamiek al zichtbaar. De federale autoriteiten spreken over een bedreigende situatie, over zelfverdediging, over een auto die mogelijk als wapen werd ingezet. De beelden die circuleren laten iets anders zien. Dat verschil is politiek explosief. En precies daar ligt de verleiding om de discussie te verplaatsen van wat er gebeurde naar of het überhaupt gebeurd is zoals we denken.
Het is niet moeilijk voor te stellen hoe dit eruitziet. Een president die zegt dat “linkse activisten” met AI video’s hebben gemanipuleerd. Een woordvoerder die beweert dat experts twijfels hebben over de authenticiteit. Een alternatieve reconstructie, gegenereerd met dezelfde technologie, waarin de agent duidelijk in gevaar is. Niet als bewijs, maar als tegenbeeld. Niet om te overtuigen, maar om te verwarren. En verwarring is alles wat nodig is.
Dat is de kern van het probleem. Autoritaire politiek heeft geen absolute waarheid nodig. Twijfel volstaat. Als alles betwistbaar is, is niets nog bindend. In zo’n wereld verliest verontwaardiging haar scherpte, omdat elk feit kan worden geneutraliseerd met een gefabriceerd ’tegenfeit’. De dood van een vrouw wordt dan niet ontkend, maar opgelost in ruis.
AI is op dit moment nog niet goed genoeg, maar met de huidige ontwikkelingen is het eerder maanden dan jaren ver weg. De vraag is dus niet of dit gaat gebeuren, maar wanneer het politiek rendabel wordt. Wanneer de kosten van ontkennen lager zijn dan de kosten van toegeven. Wanneer de achterban bereid is te accepteren dat zelfs video geen bewijs meer is, zolang het maar het eigen kamp beschermt. Trump heeft die grens al vaker verlegd. Van fake news naar alternatieve feiten naar openlijke minachting voor instituties. AI is geen breuk, maar een logisch vervolg.
Als beelden hun status als gedeelde werkelijkheid verliezen, blijft alleen macht over. Dan beslist niet langer wat zichtbaar is, maar wie het hardst kan beweren dat zichtbaarheid zelf onbetrouwbaar is. De moord op Renée Good is dan niet alleen een tragedie, maar een voorbode. Niet van technologische vooruitgang, maar van een politiek waarin zelfs de realiteit uiteindelijk volledig optioneel wordt.
Reacties (8)
Maar of het echt iets uitmaakt? Die overvloed aan beelden is er pas een jaar of 15, sinds de komst van de smartphone, en je kunt niet zeggen dat de bevolking sindsdien beter geïnformeerd is over wat er in de wereld gebeurt. Neem de bestorming van het Capitool van 5 jaar geleden. Iedereen heeft kunnen zien wat daar gebeurde, maar voor de Amerikanen was het geen belemmering om de ophitser van dat zootje 4 jaar later opnieuw tot president te kiezen.
Zelfs als er een heleboel betrouwbare beelden zijn, blijkt het nog mogelijk te zijn om veel mensen te belazeren. En wie betrouwbare informatie zocht kon die in het verleden ook vaak vinden, hoewel er toen vaak helemaal geen beelden waren van wat er gebeurde. Dat zal in de toekomst ook wel lukken. Misschien gaan mensen wel weer wat kritischer nadenken als ze beseffen dat alles gemanipuleerd kan zijn. Of zou dat wensdenken zijn?
Dat het uiteindelijk niet veel uitmaakt betekent niet dat het niet belangrijk is. Want tot nu toe is er daadwerkelijk actief onzin verspreiden nodig om je niet te hoeven verantwoorden. Straks is niet eens meer te verifiëren dat het onzin is.
En je opmerking ‘Misschien gaan mensen wel weer wat kritischer nadenken als ze beseffen dat alles gemanipuleerd kan zijn. Of zou dat wensdenken zijn?’
Ja, dat is wensdenken. Het heeft nu al tot gevolg dat mensen alles gaan wantrouwen, ook betrouwbare bronnen. Het resultaat: onverschilligheid, want uitzoeken wat wel waar is kost tijd en is iets wat veel mensen sowieso niet kunnen (zowel qua niveau als qua tijdsinvestering)
Is dat zo? Ik vind dit wel erg pessimistisch. Ik denk dat de meeste mensen nog steeds wel kritisch kunnen nadenken over wat ze zien en horen. En een onderscheid kunnen maken tussen echt en nagemaakt. Het is verontrustend wat je schrijft, maar de werkelijkheid is denk ik minder extreem dan de meest beangstigende voorspellingen. Dat komt ook omdat het extreme meer aandacht trekt. En aandacht is de kern van het verdienmodel van de media.
Is dat zo?
Ik vind van wel.
Als je gaat kijken op Facebook, Tiktok of Dumpert, dan kom je steeds vaker AI video’s tegen. En dan ga je bij elke andere video denken of dat wel waar is.
Zoals Joost zegt: je gaat het opgeven om nog moeite te doen om uit te vissen of de video echt is. Op dit moment kun je nog vaak aan imperfecties zien dat het AI is, maar dat zal steeds minder het geval worden.
Bij elke video moet je je nu afvragen: waarom filmt iemand dit (in hemelsnaam)? Vanuit welke (toevallige?) hoek (meerdere hoeken?) wordt gefilmd? Hoe (onnatuurlijk) stabiel is de camera/smartphone? Kloppen de geluiden met het beeld of ontbreken juist geluiden (OMG, WTF?)?
Hoeveel mensen kunnen dit niet?
Putin is Stalin aan het witwassen, zijn er al oude fimopnamen van Stalin gemanipuleerd om Stalin de goede vader van Rusland te laten lijken? Zo gaat AI met terugwerkende kracht gevaarlijk zijn. Wat is moeilijker voor Putin in Rusland, alle schoolboeken vervagen of alle video’s van Stalin op het Russische internet vervangen?
Wat als ICE het filmpje van Renee Good die door het autoraam roept dat het ok is, was vervangen door een waar ze roept “I’m gonna kill you MF’s!”?
Manipulatie met beelden was er altijd al. Het is nu, zou je kunnen zeggen, op een verontrustende manier geperfectioneerd. De vraag is echter welke invloed die beelden hebben en op wie. Een beeld alleen heeft niet altijd en zeker niet bij iedereen directe invloed. Mensen hebben hun eigen interpretatiekader, ze hebben kennis, een kritisch vermogen. De invloed van een beeld is sterk afhankelijk van de persoon en de context van de ontvanger. Ook van de mensen met wie hij of zij omgaat. Om het effect van beelden te beoordelen moet je niet alleen kijken naar de zender, maar ook naar de ontvanger. Ik zou de almacht van ai dus wel wat willen relativeren.
Dat is de vraag. Nog niet zo lang gelden, voor de komst van de smartphone, waren zulke filmpjes er helemaal niet. En toen lukte het ook vaak om behoorlijk goed te achterhalen wat er was gebeurd, zeker als er veel ooggetuigen waren.
Er zal iets verschuiven in hoe we naar beeld kijken. Zoals dat wel vaker is gebeurd. In de jaren ’70, ’80 en ’90 werd “beeld” (de tv) door vrijwel iedereen gezien als autoriteit en als betrouwbare informatiebron. Dat is al lang niet meer zo vanzelfsprekend, omdat het ook zonder AI al op allerlei misleidende of manipulatieve manieren wordt ingezet. Bijvoorbeeld via misleidende onderschriften bij foto’s, of commentaar bij beelden.
En de overvloed van beelden biedt ook mogelijkheden voor manipulatie, zoals dat bijvoorbeeld gebeurde bij de rellen rond de wedstrijd Ajax – Maccabi Tel Aviv. Wat meer twijfel over de “waarheid” die die beelden zouden laten zien was daar op zijn plaats geweest, ook al waren ze niet gemanipuleerd door AI.
Ik bedoel niet te zeggen dat er geen reden is om je zorgen te maken over de mogelijkheden om beeld te manipuleren met AI. Maar uiteindelijk zal het er toe leiden dat we beelden anders zullen gaan waarderen als informatiebron, en hoe dat precies uit zal vallen is onvoorspelbaar.
Maar…een snelle zoekopdracht levert al tig AI-detectietools op! Nu gaan die vnl over text, maar ze zullen er toch ook wel voor beeld zijn?
Hoewel…na wat nader onderzoek blijken die tools vooral naar het woordgebruik, zinsgebruik en -samenstelling te kijken. Dat is nu nog te doen, maar ik verwacht dat AI snel genoeg leert om zich “normaler” uit te drukken.
Aha! Ik weet niet hoe betrouwbaar dit is, maar: https://blogs.microsoft.com/on-the-issues/2020/09/01/disinformation-deepfakes-newsguard-video-authenticator/
It’s a start…wel ook Amerikaans want Microsoft, maar hoewel dat bedrijf en Bill Gates in mijn achting gezakt zijn, lijkt het programma waar dit onderdeel van is (Defending Democracy Program) toch wel iets goeds voort te brengen.
Ironisch (maar niet onlogisch); het programma maakt gebruik van AI
De kritische kijker wil eerst uitzoeken of die “video-authenticator” wel te vertrouwen is, vooral als die om niet door Musk op X gezet is…
Als AI tot in alle poriën van de netwerken is doorgedrongen zal het zich tegen “aanvallen” gaan weren en door “collega-AI” gemaakte video’s standaard voor echt verklaren?
Of zal er juist een concurrentiestrijd ontstaan tussen AI programma’s, welk programma wordt de “winner takes all”?