Is online manipulatie oké als het niet effectief is?

door Fleur Jongepier (Universitair Docent Radboud Universiteit Nijmegen). De concepten “individu” en “vrijheid” hebben in het digitale tijdperk geen betekenis meer (Yuval Noah Harari). Omdat algoritmes “ons beter begrijpen dan wij onszelf begrijpen, kunnen ze ons manipuleren op manieren die we niet kunnen begrijpen” (Jamie Bartlett). We worden door big tech bedrijven behandeld als een massa “gebruikers” die als een kudde “samengedreven” kan worden (Shoshana Zuboff). Poeh, poeh, nou, nou, zo kan die wel weer. Wordt de soep werkelijk zo heet gegeten als die wordt opgediend? Jesse Frederik en Maurits Martijn (hierna: team FrederikMartijn) plaatsen in een stuk in de Correspondent terecht de nodige vraagtekens. Online advertenties (dat is waar het de meesten die alarm slaan om te doen is) zijn, stellen zij, de “nieuwe internetbubbel”.

Korte Cursus Manipulatie van BoF

Bits of Freedom lanceert vandaag de ‘Korte Cursus Manipulatie’, een online tool om internetgebruikers inzicht te bieden in de manieren waarop platforms als Google, Facebook en YouTube ons manipuleren. De cursus is onderdeel van een campagne, naar aanleiding van het onderzoeksrapport van Bits of Freedom en dr. Holly Robbins over hoe socialemediaplatforms als Google, Facebook en YouTube mensen online massaal manipuleren, van censuur tot profilering en slimme designtrucjes om onze aandacht vast te houden.

Lezen: De BVD in de politiek, door Jos van Dijk

Tot het eind van de Koude Oorlog heeft de BVD de CPN in de gaten gehouden. Maar de dienst deed veel meer dan spioneren. Op basis van nieuw archiefmateriaal van de AIVD laat dit boek zien hoe de geheime dienst in de jaren vijftig en zestig het communisme in Nederland probeerde te ondermijnen. De BVD zette tot tweemaal toe personeel en financiële middelen in voor een concurrerende communistische partij. BVD-agenten hielpen actief mee met geld inzamelen voor de verkiezingscampagne. De regering liet deze operaties oogluikend toe. Het parlement wist van niets.

Foto: Nukamari (cc)

Dieven met dieven vangen

The New York Times publiceerde afgelopen weekend een lang artikel over Clearview AI. De oprichter, de Australiër Hoan Ton-That, zocht al langer naar een klapper maar was niet verder gekomen dan een app waarmee je selfies van een Trump-kapsel kon voorzien. Ton-That maakte ook een site waar je al je vrienden videolinks kon sturen; moest je wel even al je contacten uit je chatprogramma’s met de site delen.

Toen volgende een lumineus idee. Ton-That verdiepte zich in kunstmatige intelligentie en algoritmes, leerde hoe je sites kon leegtrekken (scrapen), en verzamelde wat startkapitaal. Hij bouwde een programma dat overal foto’s jatte en die opsloeg in een database, waarbij elke foto werd voorzien van de naam van de geportretteerde, plus de locatie, plaats en tijd van de opname. Ton-That verzamelde een fikse stapel, en liet er gezichtsherkenning op los.

Lang wist-ie niet wat ermee kon aanvangen. Toen wist hij Peter Thiel voor zijn project te interesseren. Thiel is de extreemrechtse mede-oprichter van Paypal, een van de eerste investeerders in Facebook, en de oprichter van Palantir, die veel opsporingssoftware maakt voor de CIA, en voor banken plus andere financiële dienstverleners.

Na wat vallen en opstaan wist Ton-That een paar politiediensten in de Verenigde Staten te interesseren, meestal via iemand die hij eerst zelf had gescout. Inmiddels beschikte hij over een database met 3 miljard gezichten. Hij vroeg zo’n detective om een paar foto’s van mensen die ze zochten, wist hem te imponeren met de resultaten, de diender pleitte bij de baas, en hoppa, weer een klant. Inmiddels doet Clearview zaken met lokale politiediensten, de FBI en Homeland Security.

Foto: Stuart Rankin (cc)

Dat ontbrak er nog maar aan

COLUMN - Al een paar jaar hebben we te maken met nepnieuws. Onderdeel daarvan zijn foto’s die creatief worden hergebruikt. Oude beelden van Spaanse tasjesdieven actief in eigen land worden opnieuw gepost als zijnde moslims die recent in een Noord-Europese stad een vrouw beroven, om het verhaal te bewijzen dat ‘we’ sinds de komst van vluchtelingen in de afgelopen twee jaar worden ‘overstroomd’ door buitenlandse criminelen – dat werk.

Het kan nog een stuk erger. Een Duits-Amerikaanse onderzoeksgroep is al geruime tijd bezig met software die YouTube video’s in real-time kan aanpassen. Ze gebruiken daarbij een tussenpersoon die zittend voor een webcam allerlei grimassen trekt, die vervolgens direct worden verwerkt in een gezicht uit een bestaande video. Zo kun je met Face2Face in een paar minuten tijd een ingrijpend veranderde versie van een bestaand filmpje opnemen.

De groep gaf vorig jaar een video vrij waarop een dikkige man met een driedagenbaardje al bekkentrekkend met een eerder opgenomen GW Bush wordt gemixed, zodat president Bush ineens overtuigend allerlei tics vertoont terwijl hij zijn betoog afsteekt; daarna laat een andere jongeman president Poetin met verve lachen en schmieren.

Een tweede onderzoeksgroep presenteerde deze week een techniek om bestaande mensen nieuwe teksten in de mond te leggen. Een vertrouwd gezicht wordt softwarematig tot in zijn vezels ontleed – hoe zitten die mond en lippen in elkaar, hoe bewegen de ogen en wangen tijdens het spreken? Dat videomodel kan dan na enige training en met wat fine-tunen kersverse teksten uitspreken, als waren ze authentiek.

Steun ons!

De redactie van Sargasso bestaat uit een club vrijwilligers. Naast zelf artikelen schrijven struinen we het internet af om interessante artikelen en nieuwswaardige inhoud met lezers te delen. We onderhouden zelf de site en houden als moderator een oogje op de discussies. Je kunt op Sargasso terecht voor artikelen over privacy, klimaat, biodiversiteit, duurzaamheid, politiek, buitenland, religie, economie, wetenschap en het leven van alle dag.

Om Sargasso in stand te houden hebben we wel wat geld nodig. Zodat we de site in de lucht kunnen houden, we af en toe kunnen vergaderen (en borrelen) en om nieuwe dingen te kunnen proberen.

De vlo op de olifant

Op 6 Mei 2010 ging het gruwelijk mis. In ongeveer 36 minuten gingen de markten onderuit in de VS en kortstondig verdampte meer dan een half biljoen dollar aan beurswaarde. Verlies dat overigens in de loop van die dag vrijwel helemaal weer werd goedgemaakt.

Bijna vijf jaar later is de schuldige gevonden. Zegt men. Een keurig nette man die in de twee-onder-een-kap van zijn ouders in het westen van Londen een venijnige handelsactie in gang zette.

Foto: copyright ok. Gecheckt 09-02-2022

50 tinten manipulatie

COLUMN - Wat is manipulatie, en hoe ver mag de overheid gaan in het beïnvloeden van haar burgers? Dat waren de hoofdvragen in de keynote toespraak van Cass Sunstein, getiteld 50 shades of manipulation, afgelopen weekend in Wageningen.

Cass Sunstein, is een Amerikaanse jurist en beleidsmaker, en staat vanwege zijn hoge productiviteit ook wel bekend als de “one man think tank”. Zijn bekendste boek heet “Nudge”, waarin hij voorstelt dat minimalistische interventies gebaseerd op gedragseconomisch onderzoek mensen voor hun eigen fouten kunnen behoeden. Daarop kreeg hij veel kritiek van liberalen die zulke zogenaamde “nudges” als manipulatie afdoen. Sunstein’s nieuwste boek, The ethics of influence dat in september uitkomt, is een antwoord op die kritiek. In zijn keynote speech afgelopen zondag op een conferentie in Wageningen over gedrag en beleid, gaf hij een voorproefje.

Volgens Sunstein is een actie manipulatief als die de reflectieve en deliberatieve capaciteiten van een ander onvoldoende aanspreekt. In deze definitie speelt het onderscheid tussen onze onbewuste “automatische” processen en onze bewuste “deliberatieve” processen (respectievelijk Systeem 1 en 2, in de terminologie van gedragswetenschapper Daniel Kahneman) een dus een belangrijke rol.

Zo zijn bijvoorbeeld subliminale advertenties een duidelijk geval van manipulatie, net als andere marketingtechnieken die vooral ons “Systeem 1” beïnvloeden. Sunstein geeft als voorbeeld een gezondheidsdienst die zegt dat een bepaald medicijn “de kans op ziekte X halveert”, in plaats van te zeggen dat die kans daalt van één op een miljoen naar één op twee miljoen. De dienst is manipulatief, omdat het mensen niet alle informatie geeft voor een bewuste keuze.

Foto: Sargasso achtergrond wereldbol

Gezondheidskosten per extra levensjaar

DATA - Met wat onwetenschappelijke datamanipulatie (heel populair tegenwoordig) kunnen we aantonen hoeveel het in verschillende landen nou kost om een extra jaar te leven.

Gisteren verschenen bij het excellente datablog van The Guardian de gegevens over de uitgaven voor gezondheid per land. Daar halen we de kosten per bewoner uit (PPP zoals dat heet).
Vervolgens nemen we de lijst met levensverwachting per land van de CIA.
Daarin zien we dat de laagste levensverwachting iets meer dan 48 jaar is. We nemen dus 48 jaar als baseline en kijken vervolgens hoeveel dollar het per persoon kost om een jaartje langer te leven.

Dat levert dit overzicht op:

Nee, daar valt geen wetenschappelijke conclusie uit te trekken. Wat je hooguit kunt constateren is dat het levensrendement van onze gezondheidsuitgaven niet zo heel hoog zijn.

Doneer!

Sargasso is een laagdrempelig platform waarop mensen kunnen publiceren, reageren en discussiëren, vanuit de overtuiging dat bloggers en lezers elkaar aanvullen en versterken. Sargasso heeft een progressieve signatuur, maar is niet dogmatisch. We zijn onbeschaamd intellectueel en kosmopolitisch, maar tegelijkertijd hopeloos genuanceerd. Dat betekent dat we de wereld vanuit een bepaald perspectief bezien, maar openstaan voor andere zienswijzen.

In de rijke historie van Sargasso – een van de oudste blogs van Nederland – vind je onder meer de introductie van het liveblog in Nederland, het munten van de term reaguurder, het op de kaart zetten van datajournalistiek, de strijd voor meer transparantie in het openbaar bestuur (getuige de vele Wob-procedures die Sargasso gevoerd heeft) en de jaarlijkse uitreiking van de Gouden Hockeystick voor de klimaatontkenner van het jaar.

Volgende