COLUMN - Al een paar jaar hebben we te maken met nepnieuws. Onderdeel daarvan zijn foto’s die creatief worden hergebruikt. Oude beelden van Spaanse tasjesdieven actief in eigen land worden opnieuw gepost als zijnde moslims die recent in een Noord-Europese stad een vrouw beroven, om het verhaal te bewijzen dat ‘we’ sinds de komst van vluchtelingen in de afgelopen twee jaar worden ‘overstroomd’ door buitenlandse criminelen – dat werk.
Het kan nog een stuk erger. Een Duits-Amerikaanse onderzoeksgroep is al geruime tijd bezig met software die YouTube video’s in real-time kan aanpassen. Ze gebruiken daarbij een tussenpersoon die zittend voor een webcam allerlei grimassen trekt, die vervolgens direct worden verwerkt in een gezicht uit een bestaande video. Zo kun je met Face2Face in een paar minuten tijd een ingrijpend veranderde versie van een bestaand filmpje opnemen.
De groep gaf vorig jaar een video vrij waarop een dikkige man met een driedagenbaardje al bekkentrekkend met een eerder opgenomen GW Bush wordt gemixed, zodat president Bush ineens overtuigend allerlei tics vertoont terwijl hij zijn betoog afsteekt; daarna laat een andere jongeman president Poetin met verve lachen en schmieren.
Een tweede onderzoeksgroep presenteerde deze week een techniek om bestaande mensen nieuwe teksten in de mond te leggen. Een vertrouwd gezicht wordt softwarematig tot in zijn vezels ontleed – hoe zitten die mond en lippen in elkaar, hoe bewegen de ogen en wangen tijdens het spreken? Dat videomodel kan dan na enige training en met wat fine-tunen kersverse teksten uitspreken, als waren ze authentiek.
Ze toonden een paar proefjes met Obama: hij stak vrij overtuigend een nooit gehouden toespraak af, hij sprak grijs en wel een tekst uit die oorspronkelijk in zijn studentenjaren was opgenomen, en het meest onrustbarend was wel dit: de Obama Bot diste verzonnen zinnen op die door een Obama-imitator waren ingesproken.
Overtuigende, maar totaal valse videobeelden: dat was nu net wat nog ontbrak in onze toch al zo riante verzameling nepnieuws. De techniek is nog maar pril, maar met pech zijn binnen een paar jaar zelfs videobeelden van interviews en speeches niet langer meer te vertrouwen.
De onderzoekers achter de Obama Bot zeiden hoopvol dat, wanneer je zo’n techniek eenmaal onder de knie hebt, het daarna ook een stuk makkelijker is om instrumenten te ontwikkelen waarmee je het daadwerkelijke gebruik ervan kunt opsporen. Dat moge zo zijn, maar haast geen enkele nieuwsconsument doet dat. Zodra een ogenschijnlijk onrustbarende foto op Twitter of Facebook verschijnt, wordt die overhaast doorgegeven en onder grote verontwaardiging verder verspreid; zelden controleren mensen of de foto en de erbij vermelde context daadwerkelijk authentiek zijn.
We willen te graag dat wat we vrezen metterdaad waar is. En we krijgen steeds meer middelen in handen om de werkelijkheid naar onze angsten om te vormen.
Deze column van Karin Spaink verscheen eerder in Het Parool.
Reacties (13)
Ik vertrouw op het zelflerende en zelfcorrigerende systeem dat realiteit heet. Hoe meer flauwekul hoe sneller we ten ondergaan of hoe sneller de feedbacks en correcties. Wat voor flauwekul geldt, geldt ook voor asfalt, co2, plastics etc…
Men kan het niet vaak genoeg zeggen: meer is beter.
‘Huxley feared the truth would be drowned in a sea of irrelevance. Orwell feared we would become a captive culture. Huxley feared we would become a trivial culture, preoccupied with some equivalent of the feelies, the orgy porgy, and the centrifugal bumblepuppy. As Huxley remarked in Brave New World Revisited, the civil libertarians and rationalists who are ever on the alert to oppose tyranny “failed to take into account man’s almost infinite appetite for distractions.” ‘
Tja, authenticiteit wordt nog echt een dingetje. Wat dacht je van telefoongesprekken? Hoe zul je kunnen nagaan dat degene met wie je praat, en wiens stem je herkent, het ook echt is? Er ligt een hele wereld open voor alle gauwdieven van de toekomst.
Het voorbeeld van Bush is onbedoeld gek maal twee. Toen hij president was gaf ie incoherente (idiote) speeches waar niemand commentaar op durfde te hebben.
@3: Ik voorzie een grote toekomst voor een blockchain technologie waarmee authenciteit digitaal kan worden vastgelegd. Dat zou zelfs per frame kunnen. Totdat de kwantum computer doorbreekt uiteraard want dan hebben we echt een probleem.
Voorlopig echter zie ik alleen nuttig gebruik voor de amusements industrie en zijdelings voor propaganda en fakenews. Wat de genoemde software kan werd eerder al op andere manieren gedaan met een prima resultaat. Bij fakenews of propaganda, lijkt mij, gaat het voornamelijk om de gedachte erachter die je wilt uitdragen. En daar zoek je de middelen bij die voor het grootst mogelijke effect zorgen. Deze software kan dan een optie zijn.
Als het digitaal is, kan het gehackt worden. Ook als het quantumcomputing is. Want quantumcomputers bestrijd je met quantumcomputers. Erger is als mensen liever in leugens geloven. Dumbing down heeft voor hen de gewenste effecten. Voor een wazige wereld hoeft geen verantwoording afgelegd te worden.
De techniek is niet heel nieuw. Vijf jaar geleden waren er toch al rennende, vliegende of fietsende babies in filmpjes te zien?
@7: Het verschil is dat je met de huidige techniek realtime kunt renderen, vroeger moest zoiets eerst in een filmstudio gemaakt worden, nu kan je een live uitzending manipuleren.
@5: Blockchain is niet zozeer gevoelig voor postquantum, eerder voor te veel nodes in handen van je tegenstander.
Zo lang de NOS weg komt met ordinair knippen in filmpjes die op het Internet onversneden te zien zijn, realiseer ik me dat het ontmaskeren van nepnieuws meer een functie is van wat je zelf wilt zien.
Ook audio kan real-time worden vervalst, Adobe heeft hierover onlangs een presentatie gegeven. Combineer dat met video en je hebt het ideale recept om mensen te foppen.
@11: Dat kan al jaren:
https://www.audio4fun.com/voice-changer.htm
Leuk speelgoed.
De vraag is dus: wat doen we met media die zich opzettelijk bezondigen aan het beduvelen van hun publiek, zoals Het Journaal dat aantoonbaar doet? In feite is daar maar één moreel verantwoorde reactie op mogelijk: niet meer naar kijken of luisteren. Laat je dat na, dan ben je er mede verantwoordelijk voor dat de leugenmachines blijven draaien.