Meer mogelijk met big data – de keerzijde

ACHTERGROND - Big data wordt big business. Met big data, analytics en het internet of things wint ook het privacydebat weer aan belang. Het uitgangspunt ‘ik heb niets te verbergen’ is daarbij geen houdbaar argument meer.

‘All the privacy solutions you hear about are on the wrong track.’ In MIT Technology Review zet Evgeny Morozov, auteur van The Net Delusion, perfect uiteen waar het mis gaat in het huidige privacy-debat. Hij begint bij 1967, als Paul Baran, een technicus, de blik vooruit werpt en mijmert over een netwerk van computers dat allerlei alledaagse problemen van mensen zou kunnen oplossen. Je zou met zo’n netwerk bijvoorbeeld precies weten wat er wanneer op televisie is en zelfs berichten krijgen wanneer jouw favoriete televisieserie begint. Baran had een vooruitziende blik.

Internet draagt niet bij aan democratie

De afgelopen twintig jaar is er hard gewerkt aan het internet. Soms komen de ideële doelstellingen daarvan nog voorbij, maar Morozov rekent af met degenen die de (digitale) free flow of information associëren met ‘meer democratie’. Een aanhoudende hallucinatie noemt hij dat. Hij wijst daarbij op de honger naar informatie – en dus data, de grondstof – van zowel bedrijven als overheden, die al langer bestaat dan het internet. Bedrijven willen meer weten omdat ze dan beter kunnen adverteren of verkopen; overheden willen graag ons gedrag in goede banen leiden, zodat we niet te veel kosten en voldoende bijdragen aan het in stand houden van de overheid. Morozov wijst op de software die door de Italiaanse overheid wordt gebruikt om verbanden te vinden tussen de opgegeven inkomsten (via de inkomstenbelasting) en de uitgaven van individuen. Wanneer de Italiaanse overheid de mogelijkheden om data over het uitgavenpatroon van burgers te verzamelen ziet inkrimpen, ligt het voor de hand dat Google en Facebook het volgende loket zijn waar deze informatie verkrijgbaar is.

Data = ruilmiddel

Burgers op hun beurt springen nog steeds gewillig door het hoepeltje in ruil voor het afstaan van data. Na het gebruik van honderden websites, tientallen overheidsdiensten, honderden apps en allerlei online en offline acties weet je echter al lang niet meer waar al je datarechten zijn gebleven – of wanneer en aan wie je ze hebt verspeeld. Meestal vinden we dat geen bezwaar, want iedere keer als we gemakkelijk doen over het afstaan van data krijgen we in ruil daarvoor gratis software, gratis content of korting op onze uitgaven.

De data die we afstaan aan derden vormen de basis voor big data analytics. Op basis van algoritmen kunnen bedrijven en overheden vervolgens beslissingen nemen, waarbij het steeds moeilijker wordt om uit te leggen waarom die beslissingen zijn genomen of op basis van welke argumenten. Het betekent dat verantwoordelijkheid steeds vaker aan systemen of constellaties zal worden toegeschreven: “het algoritme heeft besloten.”

Hiermee wordt de afstand tussen burger en overheid groter. Het ondermijnt het geloof in een democratie: namelijk dat bestuurders zich relateren tot de acties die zij nemen. Omgekeerd kunnen analytics er voor zorgen dat iemand die niet in patronen past, zonder uitleg in een uitzonderingssituatie kan worden geplaatst. Iemand die afwijkt, trekt de aandacht en kan vragen voorgelegd krijgen.

Laat me met rust

Morozov verwijst in zijn artikel ook naar een ander grondbeginsel van privacy: namelijk het recht om met rust gelaten te worden en zelf beslissingen te nemen, zonder dat iemand zich daar doorlopend mee bemoeit. De zelfredzaamheid, die uiteraard gepaard gaat met een zekere verantwoordelijkheid, zou goed moeten passen bij liberale grondbeginselen. In liberale kringen wordt weliswaar gesproken over een balans tussen fundamentele liberale waarden privacy en veiligheid maar er wordt onvoldoende bij stilgestaan dat het opgeven van delen van privacy een onomkeerbaar proces is, juist doordat informatie bij de overheid belandt. Vrijheid wordt steeds meer ingeperkt door een ‘grens van onzichtbaar prikkeldraad’, aldus Morozov, die bovendien steeds moeilijker doordringbaar wordt: onze mogelijkheden tot onafhankelijk gedrag worden steeds kleiner. Morozov geeft daarbij een praktisch voorbeeld: stel, je wilt een T-shirt kopen, maar je ziet dat het in Bangladesh gemaakt is. Koop je het wel, dan ben je wellicht fout bezig omdat je geen rekening houdt met de slechte arbeidsomstandigheden aldaar. Maar koop je het T-shirt niet, dan betekent dat misschien wel dat je een kind de prostitutie in dwingt. Steeds vaker gaan mensen voor het nemen van zo’n beslissing ‘research’ doen op het web. Met andere woorden, ze maken niet zelfstandig een afweging, maar laten deze over aan dat wat een zoekmachine aan informatie teruggeeft. Die machine is weliswaar afhankelijk van jouw input, maar zeker niet objectief en onthoudt bovendien wat je gevraagd hebt.

Ik heb niets te verbergen

Volgens Morozov gaat het fout wanneer de discussie zich beperkt tot het uitgangspunt dat mensen zelf moeten kunnen beslissen met wie ze wel of niet data delen. De gedachte ‘ik heb niets te verbergen’ – voor velen de meest praktische opvatting over privacy – is problematisch. Het risico zit hem in autonoom gedrag dat ‘afwijkt’ en wijzelf zijn niet degenen die daarvoor de criteria opstellen. Hoe meer informatie we over ons zelf blootgeven, hoe meer dat onzichtbare prikkeldraad zich sluit. Dat heeft tot gevolg dat mensen die in beginsel gelijk zijn, door een overheid op verschillende wijze kunnen worden bejegend. Aan individualiteit kunnen dan negatieve consequenties worden verbonden.

Morozov pleit voor een andere discussie, waarbij ook wordt gekeken naar de keerzijde van het alsmaar willen inperken van risico’s en het zoeken naar zekerheden door overheden. We moeten opnieuw leren accepteren dat in een vrije samenleving ook risico’s schuilen. Het alternatief is dat een overheid die de kans op terreuraanslagen wil minimaliseren, overgaat tot monitoren en beïnvloeden van burgers. In dat opzicht is de overheid al een heel eind de verkeerde weg ingeslagen met het willen weten wat iedereen doet, denkt en zegt. Met democratie heeft het allemaal weinig te maken, met veiligheid nog minder.

Deze post is tot stand gekomen in samenwerking met de Zero Distance community en T-Systems en verscheen eerder Toii.

  1. 1

    Evgeny Morozov weet als geen ander pijnpunten te duiden in de huidige koers waarin de impact van moderne technologie steeds meer ons leven is gaan beheersen en de risico’s die daaraan vastzitten.

    Komende uit Belarus weet hij als geen ander hoe dicators opereren en hoe ze met behulp van het internet hun machtspositie uitbreiden:

    http://www.youtube.com/watch?v=-hFk6FDrZBc

  2. 2

    “data die we afstaan aan derden vormen de basis voor big data”
    Nogal eenzijdig alsof de verzamelwoede beperkt blijft tot “vrijwillig” beschikbaar gestelde gegevens.
    Het gaat juist om alle vergaarde data en vooral hoe de overheid die ge/misbruikt.

  3. 3

    Het scheelt dat mensen die weten hoe het werkt en hoe het ècht goed te gebruiken zeer zeldzaam zijn en niet in het bereik van 99% van de bedrijven/(overheids)instellingen. Op het moment doen de meeste organisaties maar wat.

  4. 4

    @3: Inderdaad Aesir, de meesten doen maar wat. Dat is het voordeel van heel veel Big Data. Zie maar eens uit alle Big Data die ik als voetprint op de websites achterlaat een goede analyse te maken. Het doemscenario van Morozov dat juist dan het onzichtbare prikkeldraad zich om mij heen sluit, klinkt lekker onheilspellend maar de praktijk is veel te weerbarstig om echt persoonlijk risicovol te worden.