Kunnen we algoritmes maken die niet uitsluiten?

van Rosa van den Dool. Met het toeslagenschandaal werd nogmaals duidelijk dat data en datatechnologieën niet neutraal zijn en kunnen discrimineren, net als mensen. Hoe kunnen we dit soort data-onrechtvaardigheid de das omdoen? De Nederlandse overheid verzamelt grote hoeveelheden privacygevoelige data van en over burgers. Wat er vervolgens met deze gegevens gebeurt is niet altijd zichtbaar, maar kan wel grote impact hebben op ons leven. Wanneer ik inlog op de website van de Belastingdienst om belastingaangifte te doen, schrik ik van de hoeveelheid informatie die over mij in het systeem staat: de overheid weet beter wat ik dit jaar heb verdiend dan ikzelf. Algoritmen helpen overheidsinstanties omgaan met de oneindige stroom aan binnenkomende data. Deze computerprogramma’s bepalen vervolgens op basis van jouw gegevens of jij bijvoorbeeld in aanmerking komt voor een steekproef, waarmee ze checken of je wel genoeg belasting betaalt of wel recht hebt op huurtoeslag. Heel efficiënt, maar hieraan kleeft ook een keerzijde: algoritmes die gebruikt worden om informatie te sorteren en verwerken zijn niet neutraal en kunnen discrimineren. Of jij dus wordt uitgekozen voor een steekproef, kan zomaar worden bepaald op basis van je naam of de buurt waarin je woont. Discriminerende technologie Cultuur- en mediawetenschapper dr. Gerwin van Schie (UU) onderzoekt hoe het gebruik van data en algoritmen kan leiden tot discriminatie en onrechtvaardigheid in Nederland. “Als je wordt geboren in Nederland, melden je ouders je aan bij de gemeente en komen je gegevens terecht in de databases van de overheid. Je leeftijd wordt geregistreerd, maar bijvoorbeeld ook je geboorteland én het geboorteland van je ouders.” Waarom is dit problematisch? Een voorbeeld dat dit illustreert is de Leefbarometer: een online tool van het ministerie voor Binnenlandse Zaken die voorspelde in hoeverre een buurt ‘leefbaar’ was. Persoonsgegevens over geboorteland werden gebruikt als meetinstrument voor kwaliteit en veranderden zo in een voorspeller voor de leefbaarheidsscore. Wanneer er in een wijk dus veel mensen woonden met ouders die in het buitenland geboren zijn, werd die wijk als minder ‘leefbaar’ bestempeld. Pas sinds begin 2022 is het CBS overgegaan op een nieuwe indeling, waarin minder bepalend is waar iemands ouders vandaan komen, en meer bepalend waar iemand zélf geboren is. Dit betekent dus dat overheidsinstanties nog steeds data over je achtergrond kunnen gebruiken om een onderscheid te maken tussen groepen mensen, buurten of steden. Datadialoog Data-discriminatie komt niet voort uit racistische overheidsmedewerkers die meer ongelijkheid willen creëren of bepaalde bevolkingsgroepen het leven zuur willen maken. Het is het gevolg van een manier van denken die sterk is verweven met de Nederlandse cultuur. Volgens Van Schie speelt cultuur een grote rol in het bepalen waar we data over verzamelen en waar niet. “Als je wil weten wat de etnische samenstelling van de gevangenispopulatie in Nederland is, kun je naar het CBS en vind je het zo. Maar als je iets wil weten over de diversiteit in hoogleraren in Nederland, zijn daar geen gegevens over.” Systemen als de Leefbarometer zijn dus niet neutraal of objectief, omdat mensen met een bepaalde culturele blik zélf de categorieën in zo’n systeem bedenken. Het afnemen van een culturele bril gaat niet vanzelf, maar vergt aandacht. Hoe lossen we dit op? Hoogleraar Inlichtingen en Recht prof. mr. Jan-Jaap Oerlemans (UU) pleit voor meer dialoog en openheid over de manier waarop overheidsinstanties met gegevens omgaan. Hij ziet dat steeds meer overheidsinstanties gegevens over burgers verzamelen. Maar hoe ver mogen ze hierin gaan? “Deze vraag wordt vaak niet genoeg publiekelijk besproken. Dat moeten we wél doen,” zegt Oerlemans. Hij legt uit dat er te weinig toezicht is en dat adequate wetgeving eigenlijk nog ontbreekt. Hierdoor kunnen overheidsinstanties te ver gaan bij het verzamelen van inlichtingen en is het soms bijvoorbeeld niet duidelijk wat er met niet-gebruikte gegevens gebeurt. Ook ethicus mr. dr. Bart Wernaart benadrukt het belang van het voeren van het gesprek over de datahonger van overheidsinstanties. Hij legt uit dat datatechnologie een prominentere plek op de publieke agenda nodig heeft. Er bestaat namelijk een zogenaamd democratisch deficit als het hierom gaat: “Technologie speelt nauwelijks een rol in de verkiezingen en de politiek, terwijl het een grote rol speelt in ons leven.” Om dit probleem aan te pakken en te kunnen bepalen wat overheidsinstanties wel en niet mogen doen met persoonsgegevens, moet er volgens Wernaart eerst iets gebeuren met de gevoelens in de samenleving. “Je kunt niet wachten tot de wetgeving er iets mee doet: dan ben je te laat.” Dit artikel vercheen eerder bij Studium Generale Utrecht.

Door: Foto: Afbeelding Ari He via Unsplash.
Waan van de dag

Big Brother Awards voor Minister van Financiën en DPG Media

, door

Bits of Freedom  heeft gisteravond de de Big Brother Awards uitgereikt aan grootste schenders van onze digitale rechten in 2024

De grote publieksfavoriet van deze misschien wel minst begeerde prijs van Nederland was dit jaar de Minister van Financiën. Hij wint de publieksprijs vanwege het maken van beleid dat indirect leidt tot privacyschendingen en discriminatie door financiële instellingen.

“Omdat Nederland niet gezien wil worden als bron voor financiering van terrorisme, heeft de Minister een zware last op de schouders van de financiële instellingen gelegd. Die willen ook niet met terrorisme worden geassocieerd, dus hanteren ze meedogenloos beleid. Op zoek naar ‘verdachte’ kenmerken, zetten ze discriminerende risicoprofielen en algoritmen in,” vertelt Evelyn Austin, directeur Bits of Freedom. Uit onderzoek van het ministerie van Financiën zelf blijkt dat negen procent van alle Nederlanders vermoedt de afgelopen twee jaar te maken hebben gehad met discriminatie. Onder mensen met een niet-westerse migratieachtergrond is dit zelfs 32%.

Lezen: De BVD in de politiek, door Jos van Dijk

Mededeling

Tot het eind van de Koude Oorlog heeft de BVD de CPN in de gaten gehouden. Maar de dienst deed veel meer dan spioneren. Op basis van nieuw archiefmateriaal van de AIVD laat dit boek zien hoe de geheime dienst in de jaren vijftig en zestig het communisme in Nederland probeerde te ondermijnen. De BVD zette tot tweemaal toe personeel en financiële middelen in voor een concurrerende communistische partij. BVD-agenten hielpen actief mee met geld inzamelen voor de verkiezingscampagne. De regering liet deze operaties oogluikend toe. Het parlement wist van niets.

Foto: Ivan Radic (cc)

We moeten het meer hebben over datasolidariteit

, door

DATA - Het debat over het delen van persoonsgegevens gaat al te vaak over privacy, menen Daniel Kapitan en Egge van der Poel. Volgens de twee docenten/adviseurs moeten we het meer hebben over de maatschappelijke waarde van data delen, over datasolidariteit.

Privacy domineert nog steeds het debat rondom het delen en hergebruik van persoonsgegevens, zoals blijkt uit de discussie rondom het verstrekken van vaccinatiegegevens door het RIVM aan het CBS. Maar privacy is het probleem niet.

Maxim Februari schreef tijdens de eerste lockdown al dat het een ‘gruwelijk misverstand’ is om te denken dat databescherming om privacy van een individu gaat. Het gaat niet om een afweging tussen het private belang van privacy en het maatschappelijke belang van – in het geval van COVID – een draaiende economie en een gezonde bevolking.

Betrouwbaar data (her)gebruiken

Het echte vraagstuk is dat wij als maatschappij zoeken naar een betrouwbare en eerlijke manier om data te gebruiken en hergebruiken als collectief goed. Op Europees niveau wordt gewerkt aan wetgeving die zulk hergebruik van data mogelijk moet maken. Het feit dat de lopende consultatie duizenden pagina’s aan reacties heeft opgeleverd, geeft de complexiteit van het vraagstuk weer. Wel lijkt er consensus te zijn dat geen enkele organisatie, publiek noch privaat, een te grote vinger in de pap zou moeten hebben. Er moet steeds balance of power blijven om misstanden te voorkomen.

Foto: Marco Verch Professional Photographer (cc)

Voor de neezeggers

, door

COLUMN - De voorgestelde coronapas schept een tweedeling tussen wie wel en wie niet is gevaccineerd, beweren critici. Dat is niet waar: een negatieve test volstaat, evenals een bewijs dat je antilichamen draagt en al een infectie hebt doorgemaakt. Ook zonder vaccin kun je dus gerust café in, café uit. Wel even een testje doen, en dat is gratis.

‘Maar mijn privacy dan?’ zegt de weigeraar. Nu, de check zit verpakt in een QR-code, en die is privacy-bestendig: wie zo’n code uitleest, ontvangt verder geen gegevens van je – niet eens waarom je een groen vinkje hebt. ‘De app volgt mijn bewegingen,’ protesteert een ander. Welnee, dat kan-ie helemaal niet. De coronacheck-app slaat alleen je certificaat op, en leest niet uit waar je je bevindt, noch waar je je liet checken.

Wie serieus bezorgd is over zijn privacy, kan beter zijn mobieltje weggooien dan die zorgen botvieren op deze app. (Voorts zou ik ze dringend aanraden hun ‘research’ niet langer op Facebook en YouTube te doen, dat zijn privacy-schenders bij uitstek.) Je kunt trouwens ook een papieren QR-code aanvragen, dan heb je helemaal geen mobieltje of DigID nodig: bel 0800 1421, en je krijgt ’m in de brievenbus.

Lezen: Het wereldrijk van het Tweestromenland, door Daan Nijssen

Mededeling

In Het wereldrijk van het Tweestromenland beschrijft Daan Nijssen, die op Sargasso de reeks ‘Verloren Oudheid‘ verzorgde, de geschiedenis van Mesopotamië. Rond 670 v.Chr. hadden de Assyriërs een groot deel van wat we nu het Midden-Oosten noemen verenigd in een wereldrijk, met Mesopotamië als kernland. In 612 v.Chr. brachten de Babyloniërs en de Meden deze grootmacht ten val en kwam onder illustere koningen als Nebukadnessar en Nabonidus het Babylonische Rijk tot bloei.

Waan van de dag

25 jaar Bits of Freedom

, door

25 jaar strijden voor digitale burgerrechten

De redactie van Sargasso feliciteert BoF van harte met het bereiken van deze mijlpaal. We hebben ons altijd verwant gevoeld met de inzet van deze organisatie voor de rechten van burgers die gebruik maken van het internet. En we hopen dat BoF nog lang door kan gaan met de broodnodige acties voor een vrij internet. Word dus donateur!

Hieronder het persbericht van BoF:

Foto: Elroy Serrao (cc)

Rechts wil met spoed een derde geheime dienst oprichten

, door

386 reacties zijn er binnengekomen voor de internetconsultatie over de ‘derde geheime dienst’, ook bekend als de Nationaal Coördinator Terrorismebestrijding en Veiligheid (NCTV). Voor een internetconsultatie die slechts vijf dagen open heeft gestaan, zijn dat ongebruikelijk veel reacties, vooral van burgers.

Het gaat om een wetsvoorstel dat de bevoegdheden van de NCTV wil verruimen zodat de organisatie ook burgers kan bespioneren. De NCTV deed dit al zonder wettelijke bevoegdheid, onthulde NRC in april, maar in plaats van de NCTV op de vingers te tikken wil de demissionair minister van Justitie de NCTV ruim baan geven. Hiermee wordt in feite een ‘derde geheime dienst’ opgericht, concluderen Amnesty en Bits of Freedom.

Amnesty, Bits of Freedom en andere organisaties sloegen enkele dagen geleden alarm, omdat de internetconsultatie stilletjes was geopend voor een extreem korte periode van vijf dagen, terwijl de termijn normaal vier weken is. Stilletjes, omdat het gebruikelijk persbericht over verschijnen van de internetconsultatie uitbleef.

Demissionair minister Grapperhaus – die voor zijn aantreden als minister nog rechtsstatelijke principes had die hij beschreef in een boek met de titel Rafels aan de rechtstaat – reageerde dat het nodig was het wetsvoorstel met spoed te behandelen om “geen leemtes op het gebied van terrorismebestrijding en bescherming van de nationale veiligheid te laten vallen”. Nogal vreemd argument, want als het opvullen van deze ‘leemte’ zo belangrijk is, waarom was dat dan niet geregeld vóórdat de NCTV zonder bevoegdheid burgers ging bespioneren? Dan was de minister wellicht ook nog niet demissionair geweest. Overigens is het dreigingsniveau op dit moment 3 (van 5), dus waarom juist nu een derde geheime dienst oprichten?

Foto: kleuske (cc)

Onze bureaucratie is failliet

, door

COLUMN - Onze bureaucratie woekert maar door.

We hebben zo’n 25 GGD’en in Nederland, elk met een eigen registratiesysteem, wat nogal lastig bleek te zijn toen medewerkers van callcenters er afspraken voor coronatesten en de uitkomsten daarvan in moesten registreren. Ze waren veel tijd kwijt met het uitzoeken hoe elke GGD de gegevens gebruikte. Ook bleek het systeem lek.

We hebben tegenwoordig circa 19 manieren om vast te leggen of iemand al tegen corona is gevaccineerd, en zo ja, waarmee en wanneer. Terwijl we ongeveer weten hoeveel mensen er in Nederland zijn gevaccineerd, is er op centraal niveau geen enkel zicht wie dat zijn, zodat het plan voor een coronapaspoort in duigen viel. Daarop kwam men op het idee het oude vaccinatieboekje te gebruiken, maar sommige regio’s waren daar aanvankelijk dan weer op tegen.

Bij de Jeugdbescherming zijn grote wachtlijsten. Hoeveel kinderen en gezinnen daar in totaal wachten totdat ze iemand krijgen toegewezen, weet niemand: er is geen centrale registratie, en elke regionale jeugdbeschermingsorganisatie pakt de wachtlijstenregistratie anders aan.

Tegelijkertijd wordt het beleid noch de uitvoering ervan beter van al die bureaucratie. In tegendeel.

Voor het aanvragen van zorg voor zulke kinderen heeft elke gemeente weer andere systemen ingericht. Ik leerde afgelopen weekend dat jeugdbeschermers onderling appgroepjes hebben waarin ze elkaar helpen uitzoeken voor welke hulp in welke gemeente ze welk aanvraagformulier moeten gebruiken. Overal moet dat namelijk anders. Het kost ze handenvol tijd – en ze hebben maar twee uur per week, per gezin. Dan is hun budget op.

Steun ons!

Mededeling

De redactie van Sargasso bestaat uit een club vrijwilligers. Naast zelf artikelen schrijven struinen we het internet af om interessante artikelen en nieuwswaardige inhoud met lezers te delen. We onderhouden zelf de site en houden als moderator een oogje op de discussies. Je kunt op Sargasso terecht voor artikelen over privacy, klimaat, biodiversiteit, duurzaamheid, politiek, buitenland, religie, economie, wetenschap en het leven van alle dag.

Om Sargasso in stand te houden hebben we wel wat geld nodig. Zodat we de site in de lucht kunnen houden, we af en toe kunnen vergaderen (en borrelen) en om nieuwe dingen te kunnen proberen.

Waan van de dag

Big Brother Awards 2022

, door

Bits of Freedom reikt op 13 februari de Big Brother Awards uit aan de grootse privacyschender van 2022. Er zijn vier genomineerden: minister van Binnenlandse Zaken Hanke Bruins Slot (“voor het faciliteren van de grenzeloze datahonger van de geheime diensten en het afbreken van het toezicht op die diensten”), burgemeester Femke Halsema (“de structurele en indringende inmenging van de gemeente Amsterdam in de levens van kinderen en jongvolwassenen in de Top400“), Eurocommissaris Ylva Johansson (“voor het wetsvoorstel waarmee ze vertrouwelijkheid op het internet opheft“) en minister van Justitie Dilan Yeşilgöz-Zegerius (“voor haar poging de illegale surveillancepraktijken van de NCTV te legaliseren“).

Waan van de dag

Drie demissionaire bewindslieden genomineerd voor Big Brother Awards

, door

Demissionair minister Ferd Grapperhaus (Justitie en Veiligheid), demissionair staatssecretaris Alexandra van Huffelen (Financiën, Toeslagen) en demissionair minister Hugo de Jonge (VWS) zijn dit jaar genomineerd voor de Big Brother Awards Publieksprijs 2021. Zij maken kans op de prijs voor hun inzet voor, respectievelijk, het stiekem optuigen van een derde geheime dienst in Nederland (de NCTV), discriminatie van gezinnen die toeslagen ontvingen op grond van afkomst (niet-Nederlandse nationaliteit), en het onvoldoende gemotiveerd invoeren van het Coronatoegangsbewijs.

Quote du Jour

Quote du Jour | Werk voor robots en stofzuigers

, door

‘De teamleider staat toe dat mensen drugs gebruiken om sneller te werken’, zegt de Poolse Karolina via Facebook-chat. ‘Cocaïne en amfetamine.’ Karolina nam ontslag en zocht een andere baan. ‘Dit was geen baan voor normale mensen maar werk voor robots en stofzuigers.’ Stofzuigers – dat zijn werknemers die amfetamine gebruiken, vertelt ze. ‘Wij herkennen ons niet in deze getuigenis’, schrijft Jumbo.

De Groene Amsterdammer schrijft op basis van onderzoek van het platform voor onderzoeksjournalistiek Investico over drugs op de werkvloer, wat “een gigantisch probleem” is onder vooral arbeidsmigranten. Vooral “flexmigranten” die vaak in distributiecentra, kassen en voedselverwerkende fabrieken werken zijn kwetsbaar voor een problematische verslaving. Soms dus aangemoedigd door de werkgever of uitzendbureaus. “De uitzendbureaus beschermen de mensen die drugs gebruiken. Want zij zijn sterker, sneller en kunnen langer door”, zegt een Slowaakse man in Trouw.

Volgende