De macht van Facebook en Google door filters

ANALYSE - Waarom de geheime filters op de social media als Facebook en Google zo snel mogelijk verplicht openbaar moeten worden gemaakt

Stel je voor…

Stel… Mark Zuckerberg himself kijkt naar de televisie. Hij ziet dat er in Italië binnenkort verkiezingen zijn, en denkt: die Beppe Grillo, die moet winnen.

Ik zeg niet dat het zo is, sterker nog, waarschijnlijk is het niet zo. Het is maar een verzonnen voorbeeld.

Maar zo’n Zuckerberg zou in dat geval niet zoals wij normale burgers op zijn handen hoeven blijven zitten, of het blijven duimen voor zijn favoriet. Ook hoeft hij niet zoals andere big shots in business een grote donatie te doen aan zijn idool. Zelfs hoeft hij geen data te tappen.

Het enige wat hij hoeft te doen, is zijn team de opdracht geven dat het ultra-geheime Facebook algoritme een paar extra regels krijgt: artikelen over zijn idool worden vaker gedeeld, en artikelen waarin hij negatief wordt genoemd krijgen minder exposure.

Het kost niets, en als het maar redelijk subtiel gebeurt, zou niemand doorhebben dat het gebeurt. En omdat Facebook door de helft van de Italianen dagelijks gebruikt wordt, heeft het gegarandeerd een heel manifeste invloed op de uitslag van de stembus, dat ze zonder dat ze het wisten maanden blootgesteld aan een door filters gepimpte verslaggeving over Grillo.

Waarom dit voorbeeld?

Ik kom met dit voorbeeld omdat het iets blootlegt waar de hele discussie over privacy en nepnieuws en de social media tot nu toe volkomen voorbij is gegaan: de enorme macht die bedrijven als Google en Facebook zelf hebben gekregen, en vooral de totale onbekendheid van zowel het publiek als de politiek over hoe ze die macht gebruiken.

Het is heel goed mogelijk dat bovenstaand voorbeeld helemaal niet zo fictief is als we denken. Wellicht zijn Facebook, Google en Twitter, de drie belangrijkste kanalen via welke mensen zich tegenwoordig laten voorlichten, al jaren bezig met experimenten of campagnes om mensen te beïnvloeden als het gaat om politieke zaken, zoals nieuws over partijen of over politieke standpunten.

De focus van de discussie

De discussie focust zich op privacy: nu wil het feit dat de nieuwe privacywetgeving van de EU best een goede stap is in de goede richting, tenminste voor onze privacy ten opzichte van bedrijven. Iedereen kan opzoeken wat er van hem of haar opgeslagen wordt en het gaan verwijderen. Als de EU ook gaat handhaven, dan is dat eigenlijk vrij goed geregeld. Het is zo jammer dat overheden zelf echter totaal de andere kant op bewegen, en steeds meer en in het geheim van burgers op gaan slaan.

Een veel lastiger punt, waar de overheid nog echt geen antwoord op heeft, is het probleem van het nepnieuws. Maar goed, zolang gevestigde politici zelf ook niet in hun eerste leugentje gestikt zijn, kan je je soms afvragen in hoeverre het gevaar puur komt van buitenlandse mogendheden en door hen ingehuurde bedrijven.

Ingrijpen gebeurt al

Beïnvloeding door derde partijen, al dan niet door middel van leugens, is een probleem, natuurlijk, maar hoe zit het met Facebook, Google en Twitter zelf? Niemand die dit zich afvraagt en niemand die zich daar zorgen over maakt. Behalve wanneer het gaat om zichtbare censuur, waar Facebook bijvoorbeeld wat blote borsten verwijdert.

Dat met name Facebook als bedrijf al inhoudelijk ingrijpt, dat weten we al, sterker nog, ze zijn er zelfs erg trots op. Maar hoe en waar dit bedrijf ingrijpt, dat mag niemand weten, en willekeur ligt op de loer. Hier staat een bedrijf dat haar eigen moraal bepaalt, en die vervolgens via haar kanaal oplegt aan al haar gebruikers. Het probleem is echter dat die gebruikers samen toevallig wel meer dan de helft van de totale samenleving vormen. Een samenleving waar we dacht ik gewend waren de gedragsregels in openbaarheid en overleg te bepalen… tot nu.

Maak de filters openbaar

Google, Facebook en Twitter zijn kanalen die zo groot zijn dat ze essentiële onderdelen vormen van onze moderne infrastructuur. Ik heb er op zich geen problemen mee dat die infrastructuur door private bedrijven wordt aangelegd en onderhouden. Ik heb er wel moeite mee dat ze in het aanleggen daarvan kunnen doen wat ze willen, en dat nog verborgen kunnen houden ook. Dat is ronduit gevaarlijk.

Als de politiek nadenkt, dan stelt ze zo snel mogelijk het openbaar maken van de algoritmen waarmee social mediabedrijven die boven een bepaald volume komen verplicht. Het kan niet zijn dat we niet weten volgens welke criteria deze bedrijven informatie filteren. In de commerciële wereld is dat eigenlijk al niet wenselijk, maar al zeker niet waar het politieke informatie betreft.

Hier ligt een mooie maar vooral urgente taak voor de Europese Unie. Want nationale regeringen kunnen niet tegen de sociale media op. De EU kan dat wel. Dat heeft de introductie van de nieuwe privacywetgeving voor een goed deel al bewezen.

Een volgende stap zal moeten zijn dat manieren van filteren die het politieke proces kunnen beïnvloeden, verboden worden.

 

(Op Sargasso.nl schreef ik eerder een veel langere analyse van alle gevaren en kansen van de sociale media voor de samenleving: dit artikel vindt u hier.)

  1. 2

    @0: Het is heel goed mogelijk dat bovenstaand voorbeeld helemaal niet zo fictief is als we denken.

    Ik zou denken dat het ongeveer beschrijft hoe Cambridge Analytica te werk ging. Het is geen fictie. En het vervelende is: facebook werkt verslavend, dus de gebruikers geven het ook niet zo maar op.

  2. 3

    Een beetje (Europese) overheid met ballen blokkeert doodleuk de IP-adressen van Faecesbook en nodigt ze daarna uit voor onderhandelingen. En daarna mag Zuckenberg met mij op de foto.

  3. 4

    Ik zou denken dat het ongeveer beschrijft hoe Cambridge Analytica te werk ging.

    @2 Het zit een stuk geraffineerder in elkaar, heb ik begrepen.

    Cambridge Analytica koopt gegevens van Facebook over de voorkeuren van tientallen miljoenen gebruikers, en vervolgens laat ze haar eigen algoritmen op die data los.

    Zo kan ze via Big Data ontraadselen wie er gevoelig is voor welke soort prikkels/boodschappen. Je kunt aan de hand van de informatie die mensen zelf invullen, zoek- en deelgegevens, waar mensen op klikken en waarop niet, namelijk een heleboel afleiden over het soort persoon waar je mee te maken hebt.

    Het is een soort gepersonaliseerde propagandavoering, waarbij gericht die mensen worden gevoerd met boodschappen over de heks Hillary, pizzagate, pro-Trump reclame; of over Brexit met boodschappen over de kosten van immigratie, Boris Johnson, de verstikkende EU – die daar gevoelig voor zijn en positief op zullen reageren.

    Het maakt dus gebruik van confirmation bias om een filterbubbel in stand te houden, te versterken en een bepaalde richting in te duwen.

  4. 5

    @4 “Het maakt dus gebruik van confirmation bias om een filterbubbel in stand te houden, te versterken en een bepaalde richting in te duwen.”

    Dat een dergelijke manier van handelen mogelijk is, lijkt mij nog niet dat deze ook wenselijk is. Wellicht moet de vraag toch eens gesteld en beantwoord gaan worden over wat in het digitale domein allemaal wel en niet kan. Een dergelijke manier van massa-beïnvloeding lijkt mij overigens ongewenst en immoreel, want het lijkt op een vorm van machtsmisbruik die zich niet verhoudt met de vrijheid van individuën cq. groepen.

  5. 6

    Hier staat een bedrijf dat haar eigen moraal bepaalt, en die vervolgens via haar kanaal oplegt aan al haar gebruikers.

    Stel: dit gaat over de voedingsindustrie. Vervang moraal door voedselveiligheid en gebruikers door consumenten. Wie zou dat nog accepteren?

    Het uitblijven van een Keuringsdienst voor Waren die de algoritmes van Facebook en Google kan inspecteren is volgens mij een teken van de achterlijkheid van de politiek.

  6. 7

    “… is volgens mij een teken van de achterlijkheid van de politiek.”

    Ik meen dat de juiste benaming “neoliberaal” is…

  7. 8

    @1, Arduenn: Los van dat sociale media naast de nadelen ook enorm grote voordelen biedt, is opzeggen van de profielen geen oplossing van het probleem, want de meeste mensen doen dat niet, en zo blijft het boven beschreven gevaar gewoon bestaan.

    @3, Beugwant: De introductie van AVG wijst uit dat dit soort paardenmiddelen niet eens nodig zijn om FB en Google te temmen. Als de EU een maatregel als ik voorstel invoer, dan volgen die sociale mediabedrijven heus wel. Ze weten dat de EU optreedt in dat soort gevallen en fikse boetes uitdeelt. Het punt is alleen dat de EU dit gevaar (nog) niet ziet.

    @4, Prediker / @2 Bork: Waar het mij om gaat is dat Facebook zelf ongestraft en legaal kan doen wat Cambridge Analytica illegaal deed. Bij CA gaat het om een lek dat nu wel gedicht zal worden, en overigens met de introductie van AVG ook niet meer zal kunnen, maar wie controleert Facebook zelf? De slager keurt zijn eigen vlees…

    @5 / Esgist: Juist, helemaal eens.

    @6 / Jos: Inderdaad, ook hier helemaal eens.

    @7 / Esgist: Eens, het is een gevaarlijk vertrouwen in de vrije markt – maar Facebook is gewoon monopolist, dus waar dat vertrouwen in de vrije markt al terecht zou zijn (dat is helemaal niet terecht overigens), is dat hier nog eens niet van toepassing ook.

    We zien dat Facebook nu zijn best doet om moreel en open over te komen, om de politiek ervan te weerhouden in te grijpen. Laat alsjeblieft de politiek Zuckerberg niet op zijn blauwe ogen geloven.

    Ook als die man volkomen te vertrouwen zou zijn, dan nog is openheid en controle noodzakelijk voor een veilig systeem.

  8. 9

    @8 “het is een gevaarlijk vertrouwen in de vrije markt – maar Facebook is gewoon monopolist ”

    Klopt allebei. De eerste heeft daarbij de makke dat men zich niet realiseert dat vrijheid, ook in de markt, alleen kan bestaan als die vrijheid ook gewaarborgd is. De ander had al jaren geleden verplicht opgesplitst moeten worden, net als een aantal andere tech-giganten die inmiddels naar mijn smaak veel te groot en machtig geworden zijn.

    Facebook doet inderdaad zijn best om integer etc. over te komen, maar is dat in feite niet. Het andere aspect is dat ongeveer de halve wereld voor zijn sociale contacten van facebook of een van haar andere kanalen afhankelijk is. Daarnaast heb ik de indruk dat het Zuckerberg alleen te doen is om geld en macht, zoals hij met kritiek omgaat wijst daar op.

    Helaas wordt je vandaag de dag als linksgekkie of links-fascist weggezet als je stelt dat een aantal bedrijven die wereldwijd opereren ook door wereldwijde regels beperkt zouden moeten worden.

  9. 10

    Ik denk dat het opsplitsen van bedrijven ook niet hoeft eerlijk gezegd. Dat gaat er dan vanuit dat als bedrijven opgesplitst worden, de vrije markt haar heilige goede werk gaat doen. Dat klopt gewoon niet. Consumenten zijn helemaal niet zo bewust, dat ze voor het beste én schoonste bedrijf kiezen. En al helemaal niet als de manier waarop dat bedrijf opereert geheim is. Vandaar dat regulering nog veel belangrijker is. De EU heeft met AVG een heel belangrijke en goede stap gezet. Maar er zijn nog veel meer gevaren aan de sociale media.

    Of Facebook zo integer is… ik denk in eigen ogen trouwens wel. Ik weet het niet zeker, maar ik denk werkelijk dat Zuckerberg het niet zo slecht bedoelt. Maar zijn opvattingen van fatsoen zijn niet de algemene opvattingen van fatsoen, en daar gaat het om. En dat controle in deze altijd beter is dan vertrouwen.

  10. 11

    @10 opsplitsen: Wellicht misschien geen echte voordelen ivm marktwerking, maar mogelijk wel dat de gedeelde totale macht een voordeel biedt ten opzichte van een de facto monopolist.

    De integriteit van Zuckerberg? Ach, ik kan me herinneren dat hij in zijn studiejaren al een keer voor de rechter geweest is in verband met een socialmedia gevalletje… Ik heb niet de indruk dat hij sindsdien echt veranderd is, doch die neiging wel beter heeft leren camoufleren.

Geef een reactie

Het e-mailadres wordt niet gepubliceerd. Vereiste velden zijn gemarkeerd met *

| Registreren