Is online manipulatie oké als het niet effectief is?

door Fleur Jongepier (Universitair Docent Radboud Universiteit Nijmegen). De concepten “individu” en “vrijheid” hebben in het digitale tijdperk geen betekenis meer (Yuval Noah Harari). Omdat algoritmes “ons beter begrijpen dan wij onszelf begrijpen, kunnen ze ons manipuleren op manieren die we niet kunnen begrijpen” (Jamie Bartlett). We worden door big tech bedrijven behandeld als een massa “gebruikers” die als een kudde “samengedreven” kan worden (Shoshana Zuboff). Poeh, poeh, nou, nou, zo kan die wel weer. Wordt de soep werkelijk zo heet gegeten als die wordt opgediend? Jesse Frederik en Maurits Martijn (hierna: team FrederikMartijn) plaatsen in een stuk in de Correspondent terecht de nodige vraagtekens. Online advertenties (dat is waar het de meesten die alarm slaan om te doen is) zijn, stellen zij, de “nieuwe internetbubbel”.

Korte Cursus Manipulatie van BoF

Bits of Freedom lanceert vandaag de ‘Korte Cursus Manipulatie’, een online tool om internetgebruikers inzicht te bieden in de manieren waarop platforms als Google, Facebook en YouTube ons manipuleren. De cursus is onderdeel van een campagne, naar aanleiding van het onderzoeksrapport van Bits of Freedom en dr. Holly Robbins over hoe socialemediaplatforms als Google, Facebook en YouTube mensen online massaal manipuleren, van censuur tot profilering en slimme designtrucjes om onze aandacht vast te houden.

Foto: Nukamari (cc)

Dieven met dieven vangen

The New York Times publiceerde afgelopen weekend een lang artikel over Clearview AI. De oprichter, de Australiër Hoan Ton-That, zocht al langer naar een klapper maar was niet verder gekomen dan een app waarmee je selfies van een Trump-kapsel kon voorzien. Ton-That maakte ook een site waar je al je vrienden videolinks kon sturen; moest je wel even al je contacten uit je chatprogramma’s met de site delen.

Toen volgende een lumineus idee. Ton-That verdiepte zich in kunstmatige intelligentie en algoritmes, leerde hoe je sites kon leegtrekken (scrapen), en verzamelde wat startkapitaal. Hij bouwde een programma dat overal foto’s jatte en die opsloeg in een database, waarbij elke foto werd voorzien van de naam van de geportretteerde, plus de locatie, plaats en tijd van de opname. Ton-That verzamelde een fikse stapel, en liet er gezichtsherkenning op los.

Lang wist-ie niet wat ermee kon aanvangen. Toen wist hij Peter Thiel voor zijn project te interesseren. Thiel is de extreemrechtse mede-oprichter van Paypal, een van de eerste investeerders in Facebook, en de oprichter van Palantir, die veel opsporingssoftware maakt voor de CIA, en voor banken plus andere financiële dienstverleners.

Na wat vallen en opstaan wist Ton-That een paar politiediensten in de Verenigde Staten te interesseren, meestal via iemand die hij eerst zelf had gescout. Inmiddels beschikte hij over een database met 3 miljard gezichten. Hij vroeg zo’n detective om een paar foto’s van mensen die ze zochten, wist hem te imponeren met de resultaten, de diender pleitte bij de baas, en hoppa, weer een klant. Inmiddels doet Clearview zaken met lokale politiediensten, de FBI en Homeland Security.

Foto: Stuart Rankin (cc)

Dat ontbrak er nog maar aan

COLUMN - Al een paar jaar hebben we te maken met nepnieuws. Onderdeel daarvan zijn foto’s die creatief worden hergebruikt. Oude beelden van Spaanse tasjesdieven actief in eigen land worden opnieuw gepost als zijnde moslims die recent in een Noord-Europese stad een vrouw beroven, om het verhaal te bewijzen dat ‘we’ sinds de komst van vluchtelingen in de afgelopen twee jaar worden ‘overstroomd’ door buitenlandse criminelen – dat werk.

Het kan nog een stuk erger. Een Duits-Amerikaanse onderzoeksgroep is al geruime tijd bezig met software die YouTube video’s in real-time kan aanpassen. Ze gebruiken daarbij een tussenpersoon die zittend voor een webcam allerlei grimassen trekt, die vervolgens direct worden verwerkt in een gezicht uit een bestaande video. Zo kun je met Face2Face in een paar minuten tijd een ingrijpend veranderde versie van een bestaand filmpje opnemen.

De groep gaf vorig jaar een video vrij waarop een dikkige man met een driedagenbaardje al bekkentrekkend met een eerder opgenomen GW Bush wordt gemixed, zodat president Bush ineens overtuigend allerlei tics vertoont terwijl hij zijn betoog afsteekt; daarna laat een andere jongeman president Poetin met verve lachen en schmieren.

Een tweede onderzoeksgroep presenteerde deze week een techniek om bestaande mensen nieuwe teksten in de mond te leggen. Een vertrouwd gezicht wordt softwarematig tot in zijn vezels ontleed – hoe zitten die mond en lippen in elkaar, hoe bewegen de ogen en wangen tijdens het spreken? Dat videomodel kan dan na enige training en met wat fine-tunen kersverse teksten uitspreken, als waren ze authentiek.

Lezen: Venus in het gras, door Christian Jongeneel

Op een vroege zomerochtend loopt de negentienjarige Simone naakt weg van haar vaders boerderij. Ze overtuigt een passerende automobiliste ervan om haar mee te nemen naar een afgelegen vakantiehuis in het zuiden van Frankrijk. Daar ontwikkelt zich een fragiele verstandhouding tussen de twee vrouwen.

Wat een fijne roman is Venus in het gras! Nog nooit kon ik zoveel scènes tijdens het lezen bijna ruiken: de Franse tuin vol kruiden, de schapen in de stal, het versgemaaide gras. – Ionica Smeets, voorzitter Libris Literatuurprijs 2020.

De vlo op de olifant

Op 6 Mei 2010 ging het gruwelijk mis. In ongeveer 36 minuten gingen de markten onderuit in de VS en kortstondig verdampte meer dan een half biljoen dollar aan beurswaarde. Verlies dat overigens in de loop van die dag vrijwel helemaal weer werd goedgemaakt.

Bijna vijf jaar later is de schuldige gevonden. Zegt men. Een keurig nette man die in de twee-onder-een-kap van zijn ouders in het westen van Londen een venijnige handelsactie in gang zette.

50 tinten manipulatie

COLUMN - Wat is manipulatie, en hoe ver mag de overheid gaan in het beïnvloeden van haar burgers? Dat waren de hoofdvragen in de keynote toespraak van Cass Sunstein, getiteld 50 shades of manipulation, afgelopen weekend in Wageningen.

Cass Sunstein, is een Amerikaanse jurist en beleidsmaker, en staat vanwege zijn hoge productiviteit ook wel bekend als de “one man think tank”. Zijn bekendste boek heet “Nudge”, waarin hij voorstelt dat minimalistische interventies gebaseerd op gedragseconomisch onderzoek mensen voor hun eigen fouten kunnen behoeden. Daarop kreeg hij veel kritiek van liberalen die zulke zogenaamde “nudges” als manipulatie afdoen. Sunstein’s nieuwste boek, The ethics of influence dat in september uitkomt, is een antwoord op die kritiek. In zijn keynote speech afgelopen zondag op een conferentie in Wageningen over gedrag en beleid, gaf hij een voorproefje.

Volgens Sunstein is een actie manipulatief als die de reflectieve en deliberatieve capaciteiten van een ander onvoldoende aanspreekt. In deze definitie speelt het onderscheid tussen onze onbewuste “automatische” processen en onze bewuste “deliberatieve” processen (respectievelijk Systeem 1 en 2, in de terminologie van gedragswetenschapper Daniel Kahneman) een dus een belangrijke rol.

Zo zijn bijvoorbeeld subliminale advertenties een duidelijk geval van manipulatie, net als andere marketingtechnieken die vooral ons “Systeem 1” beïnvloeden. Sunstein geeft als voorbeeld een gezondheidsdienst die zegt dat een bepaald medicijn “de kans op ziekte X halveert”, in plaats van te zeggen dat die kans daalt van één op een miljoen naar één op twee miljoen. De dienst is manipulatief, omdat het mensen niet alle informatie geeft voor een bewuste keuze.

Foto: Eric Heupel (cc)

Gezondheidskosten per extra levensjaar

DATA - Met wat onwetenschappelijke datamanipulatie (heel populair tegenwoordig) kunnen we aantonen hoeveel het in verschillende landen nou kost om een extra jaar te leven.

Gisteren verschenen bij het excellente datablog van The Guardian de gegevens over de uitgaven voor gezondheid per land. Daar halen we de kosten per bewoner uit (PPP zoals dat heet).
Vervolgens nemen we de lijst met levensverwachting per land van de CIA.
Daarin zien we dat de laagste levensverwachting iets meer dan 48 jaar is. We nemen dus 48 jaar als baseline en kijken vervolgens hoeveel dollar het per persoon kost om een jaartje langer te leven.

Dat levert dit overzicht op:

Nee, daar valt geen wetenschappelijke conclusie uit te trekken. Wat je hooguit kunt constateren is dat het levensrendement van onze gezondheidsuitgaven niet zo heel hoog zijn.

Lezen: Het wereldrijk van het Tweestromenland, door Daan Nijssen

In Het wereldrijk van het Tweestromenland beschrijft Daan Nijssen, die op Sargasso de reeks ‘Verloren Oudheid‘ verzorgde, de geschiedenis van Mesopotamië. Rond 670 v.Chr. hadden de Assyriërs een groot deel van wat we nu het Midden-Oosten noemen verenigd in een wereldrijk, met Mesopotamië als kernland. In 612 v.Chr. brachten de Babyloniërs en de Meden deze grootmacht ten val en kwam onder illustere koningen als Nebukadnessar en Nabonidus het Babylonische Rijk tot bloei.

Volgende