Kunnen we algoritmes maken die niet uitsluiten?

van Rosa van den Dool. Met het toeslagenschandaal werd nogmaals duidelijk dat data en datatechnologieën niet neutraal zijn en kunnen discrimineren, net als mensen. Hoe kunnen we dit soort data-onrechtvaardigheid de das omdoen? De Nederlandse overheid verzamelt grote hoeveelheden privacygevoelige data van en over burgers. Wat er vervolgens met deze gegevens gebeurt is niet altijd zichtbaar, maar kan wel grote impact hebben op ons leven. Wanneer ik inlog op de website van de Belastingdienst om belastingaangifte te doen, schrik ik van de hoeveelheid informatie die over mij in het systeem staat: de overheid weet beter wat ik dit jaar heb verdiend dan ikzelf. Algoritmen helpen overheidsinstanties omgaan met de oneindige stroom aan binnenkomende data. Deze computerprogramma’s bepalen vervolgens op basis van jouw gegevens of jij bijvoorbeeld in aanmerking komt voor een steekproef, waarmee ze checken of je wel genoeg belasting betaalt of wel recht hebt op huurtoeslag. Heel efficiënt, maar hieraan kleeft ook een keerzijde: algoritmes die gebruikt worden om informatie te sorteren en verwerken zijn niet neutraal en kunnen discrimineren. Of jij dus wordt uitgekozen voor een steekproef, kan zomaar worden bepaald op basis van je naam of de buurt waarin je woont. Discriminerende technologie Cultuur- en mediawetenschapper dr. Gerwin van Schie (UU) onderzoekt hoe het gebruik van data en algoritmen kan leiden tot discriminatie en onrechtvaardigheid in Nederland. “Als je wordt geboren in Nederland, melden je ouders je aan bij de gemeente en komen je gegevens terecht in de databases van de overheid. Je leeftijd wordt geregistreerd, maar bijvoorbeeld ook je geboorteland én het geboorteland van je ouders.” Waarom is dit problematisch? Een voorbeeld dat dit illustreert is de Leefbarometer: een online tool van het ministerie voor Binnenlandse Zaken die voorspelde in hoeverre een buurt ‘leefbaar’ was. Persoonsgegevens over geboorteland werden gebruikt als meetinstrument voor kwaliteit en veranderden zo in een voorspeller voor de leefbaarheidsscore. Wanneer er in een wijk dus veel mensen woonden met ouders die in het buitenland geboren zijn, werd die wijk als minder ‘leefbaar’ bestempeld. Pas sinds begin 2022 is het CBS overgegaan op een nieuwe indeling, waarin minder bepalend is waar iemands ouders vandaan komen, en meer bepalend waar iemand zélf geboren is. Dit betekent dus dat overheidsinstanties nog steeds data over je achtergrond kunnen gebruiken om een onderscheid te maken tussen groepen mensen, buurten of steden. Datadialoog Data-discriminatie komt niet voort uit racistische overheidsmedewerkers die meer ongelijkheid willen creëren of bepaalde bevolkingsgroepen het leven zuur willen maken. Het is het gevolg van een manier van denken die sterk is verweven met de Nederlandse cultuur. Volgens Van Schie speelt cultuur een grote rol in het bepalen waar we data over verzamelen en waar niet. “Als je wil weten wat de etnische samenstelling van de gevangenispopulatie in Nederland is, kun je naar het CBS en vind je het zo. Maar als je iets wil weten over de diversiteit in hoogleraren in Nederland, zijn daar geen gegevens over.” Systemen als de Leefbarometer zijn dus niet neutraal of objectief, omdat mensen met een bepaalde culturele blik zélf de categorieën in zo’n systeem bedenken. Het afnemen van een culturele bril gaat niet vanzelf, maar vergt aandacht. Hoe lossen we dit op? Hoogleraar Inlichtingen en Recht prof. mr. Jan-Jaap Oerlemans (UU) pleit voor meer dialoog en openheid over de manier waarop overheidsinstanties met gegevens omgaan. Hij ziet dat steeds meer overheidsinstanties gegevens over burgers verzamelen. Maar hoe ver mogen ze hierin gaan? “Deze vraag wordt vaak niet genoeg publiekelijk besproken. Dat moeten we wél doen,” zegt Oerlemans. Hij legt uit dat er te weinig toezicht is en dat adequate wetgeving eigenlijk nog ontbreekt. Hierdoor kunnen overheidsinstanties te ver gaan bij het verzamelen van inlichtingen en is het soms bijvoorbeeld niet duidelijk wat er met niet-gebruikte gegevens gebeurt. Ook ethicus mr. dr. Bart Wernaart benadrukt het belang van het voeren van het gesprek over de datahonger van overheidsinstanties. Hij legt uit dat datatechnologie een prominentere plek op de publieke agenda nodig heeft. Er bestaat namelijk een zogenaamd democratisch deficit als het hierom gaat: “Technologie speelt nauwelijks een rol in de verkiezingen en de politiek, terwijl het een grote rol speelt in ons leven.” Om dit probleem aan te pakken en te kunnen bepalen wat overheidsinstanties wel en niet mogen doen met persoonsgegevens, moet er volgens Wernaart eerst iets gebeuren met de gevoelens in de samenleving. “Je kunt niet wachten tot de wetgeving er iets mee doet: dan ben je te laat.” Dit artikel vercheen eerder bij Studium Generale Utrecht.

Door: Foto: Afbeelding Ari He via Unsplash.
Foto: Schermafbeelding video van Legal Centre Lesvos.

Einde aan illegale pushbacks?

, door

Vorige week, 19 januari, maakte Hans Leijtens, de nieuwe directeur van Frontex, bekend dat hij van de illegale pushbacks af wil. Frontex ondersteunt en coördineert de bewaking van de buitengrenzen van de Europese Unie.

De vorige directeur moest opstappen omdat Frontex werd beschuldigd van illegaal terugsturen van vluchtelingen. De organisatie wordt al langer bekritiseerd op het feit dat ze wegkijkt bij illegale acties van nationale grenswachten. Frontexmedewerkers verzuimden waargenomen malversaties te rapporteren. Regelmatig rapporteerden journalisten ook rechtstreekse betrokkenheid van Frontex-agenten.

Pushbacks haalden regelmatig het nieuws. Van het verslepen of terugduwen van bootjes van Griekse naar Turkse wateren. Of asielzoekers van wie bagage, papieren en schoenen wordt ontnomen, waarna ze terug worden gestuurd naar de Turkse kant van de grens. Ook bij de grenzen van de Balkanlanden gaat het regelmatig mis.

Op dezelfde dag dat Leijtens zich aan de pers voorstelde, kwam Lighthouse Reports (organisatie voor onderzoeksjournalistiek) met een rapport waarin ook Italië wordt beschuldigd van illegale pushbacks. Hierbij werden mensen opgesloten in metalen kisten en donkere kamers in de romp van passagiersschepen en teruggestuurd naar Griekenland.

Twee dagen eerder bracht Legal Centre Lesvos AMKE met een forensische  reconstructie van een pushback die in oktober 2020 heeft plaats gevonden. Elf Syrische slachtoffers van deze actie hebben een rechtszaak aangespannen bij het EHRM (Europese Hof voor de Rechten van de Mens). De reconstructie moet als extra bewijsmateriaal dienen.

Lezen: De wereld vóór God, door Kees Alders

Mededeling

De wereld vóór God – Filosofie van de oudheid, geschreven door Kees Alders, op Sargasso beter bekend als Klokwerk, biedt een levendig en compleet overzicht van de filosofie van de oudheid, de filosofen van vóór het christendom. Geschikt voor de reeds gevorderde filosoof, maar ook zeker voor de ‘absolute beginner’.

In deze levendige en buitengewoon toegankelijke introductie in de filosofie ligt de nadruk op Griekse en Romeinse denkers. Bekende filosofen als Plato en Cicero passeren de revue, maar ook meer onbekende namen als Aristippos en Carneades komen uitgebreid aan bod.

Waan van de dag

Big Brother Awards 2022

, door

Bits of Freedom reikt op 13 februari de Big Brother Awards uit aan de grootse privacyschender van 2022. Er zijn vier genomineerden: minister van Binnenlandse Zaken Hanke Bruins Slot (“voor het faciliteren van de grenzeloze datahonger van de geheime diensten en het afbreken van het toezicht op die diensten”), burgemeester Femke Halsema (“de structurele en indringende inmenging van de gemeente Amsterdam in de levens van kinderen en jongvolwassenen in de Top400“), Eurocommissaris Ylva Johansson (“voor het wetsvoorstel waarmee ze vertrouwelijkheid op het internet opheft“) en minister van Justitie Dilan Yeşilgöz-Zegerius (“voor haar poging de illegale surveillancepraktijken van de NCTV te legaliseren“).

Foto: Tom Jutte (cc)

Het staatshoofd en de geschiedschrijving

, door

COLUMN - Koning Willem-Alexander laat onderzoek doen naar de rol van zijn familie, de familie Van Oranje-Nassau, in het koloniale verleden. Dat zijn familie geprofiteerd heeft van de koloniale handel is al wel duidelijk. De voorvaderen van koning Willem-Alexander behoorden tot de absolute elite van het land en hadden vooraanstaande posities in zowel de Verenigde Oost-Indische Compagnie (VOC) als de West-Indische Compagnie (WIC). In die hoedanigheid waren zij ook verantwoordelijk voor de slavenhandel. Net als de voormalige bestuurders van steden als Utrecht en Amsterdam waar eerder onderzoek de betrokkenheid bij het slavernijverleden van de stedelijke elites in beeld heeft gebracht. Na de excuses van premier Rutte vorige maand namens de staat der Nederlanden kon het koningshuis niet achterblijven.

Het onderzoek onder leiding van oud-hoogleraar Gert Oostindie (Universiteit Leiden), die eerder een boek over het koloniale verleden van het koningshuis publiceerde, roept een aantal vragen op. Ten eerste over de opdrachtgever. Waarom stuurt een privéfamilie een onderzoek dat ons staatshoofd betreft? Het Koninklijk Huis is niet zomaar een familie of een privé-onderneming. Hoe onafhankelijk is dit onderzoek als het in opdracht van het onderwerp van onderzoek zelf gebeurt? Een tweede, nog onopgeloste kwestie, betreft garanties voor de wetenschappelijke kwaliteit van het onderzoek. Het Koninklijk Huisarchief dat een belangrijke bron zal zijn voor de onderzoekers is nog steeds niet openbaar toegankelijk. Volgens Oostindie mogen ze alles publiceren wat ze vinden. Maar er moeten nog wel nadere afspraken gemaakt worden voor toetsing van de onderzoeksresultaten door andere onderzoekers.

Foto: K@mphuis (cc)

Ongehoord

, door

ANALYSE - Met enige verbazing las ik het bericht dat D66’er Tjeerd de Groot een journalist en cameraman van Ongehoord Nederland tegenover een aantal Tweede Kamer bezoekers voor “fascisten” uitmaakte. Wat niet verbaasde, was dat hij kort daarna zijn woorden introk. In dit land houden we van benoemen, behalve als het over extreemrechts gaat, want zodra je daar spijkers met koppen slaat, lopen ze zielig de uitzending uit, of doen zelfs aangifte, zoals bovengenoemde journalist Jonathan Krispijn vlak na het voorval deed. De slachtofferrol, die kennen ze op rechts wel.

Ja mensen, het echte slachtoffer is hier Krispijn en op Twitter liet hij weten dat de kwalificatie door De Groot hem echt pijn deed, want zijn “Joodse voorouders zijn slachtoffer geworden van echt fascisme”. Samen met zakelijk directeur van Ongehoord, Reinette Klever, deed hij aangifte. Het mooie van een aangifte is dat daar één en ander onder de loep genomen wordt, en ik dacht, laten we De Groot even helpen.

Het begin van Ongehoord Nederland

Ergens in 2019 kwamen 4 initiatiefnemers met het idee een omroep op te richten. Onder hen waren Joost Niemöller en Arnold Karskens. Beiden hebben journalistieke ervaring maar komen al jaren niet meer aan de bak in het reguliere circuit. De 2 anderen zijn ex VVD’er Ybeltje Berckmoes-Duindam en de PVV liefhebbende acteur en schrijver Haye van der Heijden.

Lezen: Het wereldrijk van het Tweestromenland, door Daan Nijssen

Mededeling

In Het wereldrijk van het Tweestromenland beschrijft Daan Nijssen, die op Sargasso de reeks ‘Verloren Oudheid‘ verzorgde, de geschiedenis van Mesopotamië. Rond 670 v.Chr. hadden de Assyriërs een groot deel van wat we nu het Midden-Oosten noemen verenigd in een wereldrijk, met Mesopotamië als kernland. In 612 v.Chr. brachten de Babyloniërs en de Meden deze grootmacht ten val en kwam onder illustere koningen als Nebukadnessar en Nabonidus het Babylonische Rijk tot bloei.

Quote du Jour

Quote du jour | een proportionele kopstoot

, door

QUOTE - Deze is alweer een weekje oud, maar toch even de moeite om onder de aandacht te brengen, ook in het licht van andere artikelen die hier verschenen over dit onderwerp. Dit is best problematisch:

De politie kwam bij een garagebedrijf […], volgens eigen zeggen om een man op straat preventief te fouilleren. Daarbij zou de 41-jarige Rotterdammer zich hebben verzet door zich agressief te gedragen. Hij zou zich hebben losgerukt en een politieman hebben vastgepakt. Die zou daardoor genoodzaakt zijn geweest een kopstoot uit te delen. […] De verdachte kwam op 9 september van dit jaar naar de rechter in Rotterdam en liet camerabeelden zien van zijn bedrijf. De officier van justitie vroeg zich af waarom hij die beelden niet eerder had overhandigd. Wat blijkt? De beelden waren destijds door de technische recherche opgehaald, voor onderzoek naar de kopstoot, maar niet aan dit dossier toegevoegd. In het dossier zat alleen het proces-verbaal van de agent en zijn collega.

Foto: Jordy Kronenburg (cc)

Regering vertraagt bescherming klokkenluiders

, door

COLUMN - NS wil klokkenluider Luc de Rond ontslaan, berichtte de NRC in oktober. Hij maakte vijf jaar geleden melding van problemen op de onderhoudsafdeling van het spoorbedrijf, waarna de inspectie een kritisch rapport opstelde over de vervoerder. Volgens De Rond hebben veel recente storingen in het treinverkeaer te maken met slecht onderhoud. De reactie van de NS was: ontslag van de melder. Oud-inspecteur Wim Beukenkamp die de klachten van De Rond heeft onderzocht bevestigde afgelopen week zijn verhaal. Volgens hem is het toezicht de afgelopen jaren uitgekleed en faalt het management.  ‘De problemen op het spoor gaan maar ten dele over techniek of veiligheid en vooral over het management van NS en deels ook ProRail, de beheerder van het spoorwegnet’, zegt hij.

Dat er structurele problemen zijn met treinmateriaal is al verontrustend genoeg. Maar nog verontrustender vind ik dat het management het niet wil horen en vervolgens een ontslagprocedure in werking zet voor degene die de fouten heeft ontdekt. Het is het zoveelste voorbeeld van een bedrijf dat gevoelige informatie van binnenuit niet op waarde weet te schatten. We willen naar buiten toe geen risico lopen op schade aan onze reputatie en daarom ontslaan we de boodschapper maar. Dan zijn we er voorlopig van af. Niet dus.

Foto: nishantcm (cc)

Spyware in de Europese politiek

, door

Op de mobiele telefoon van 33 Grieken, onder wie prominente politici, zakenlieden en journalisten, zijn sporen van de geavanceerde spyware Predator aangetroffen. Het gaat vooral om tegenstanders van de huidige Griekse regering. Die hult zich in stilzwijgen evenals de belangrijkste Griekse media die banden hebben met de regerende Nieuwe Democratie (ND) van premier Mitsotakis. Het spionageschandaal begon in 2020 met de ontdekking van de journalist Thanasis Koukakis dat zijn telefoon was gehackt. Ook de journalist Stavros Malichudis, die kritische artikelen schreef over het Griekse push back beleid, ontdekte begin dit jaar dat hij via zijn mobiele telefoon werd gevolgd. Afgelopen zomer werd het een hoog oplopende politieke kwestie toen ook bij de Griekse Europarlementariër en leider van de sociaal-democratische oppositiepartij Pasok Nikos Androulakis sporen van spyware waren gevonden door medewerkers van het Europese parlement. Androulakis is vice-voorzitter van de commissie voor defensie en veiligheid. Mitsotakis, die zelf de verantwoordelijkheid voor de inlichtingendienst op zich had genomen werd gedwongen het hoofd van de inlichtingdienst en zijn persoonlijk adviseur te ontslaan. Maar het spywareschandaal blijkt zich niet te beperken tot de Griekse politiek. Deze week kwam een speciale onderzoekscommissie van het Europees Parlement met een rapport waaruit blijkt dat de inzet van spionagesoftware door overheden in Europa wijdverbreid is. Deze ‘een forse bedreiging voor de democratie’ heeft nog niet geleid tot actie bij de Europese overheden, noch bij de betrokken lidstaten.

Steun ons!

Mededeling

De redactie van Sargasso bestaat uit een club vrijwilligers. Naast zelf artikelen schrijven struinen we het internet af om interessante artikelen en nieuwswaardige inhoud met lezers te delen. We onderhouden zelf de site en houden als moderator een oogje op de discussies. Je kunt op Sargasso terecht voor artikelen over privacy, klimaat, biodiversiteit, duurzaamheid, politiek, buitenland, religie, economie, wetenschap en het leven van alle dag.

Om Sargasso in stand te houden hebben we wel wat geld nodig. Zodat we de site in de lucht kunnen houden, we af en toe kunnen vergaderen (en borrelen) en om nieuwe dingen te kunnen proberen.

Foto: Sjoerd Luidinga (cc)

Ongewenst vlagvertoon

, door

OPINIE - De omgekeerde Nederlandse vlag die boeren en sympathisanten ophangen als protest tegen het stikstofbeleid wordt sinds vorige week niet overal meer gedoogd. Althans niet in de openbare ruimte, aan lantaarnpalen langs de weg en op viaducten. Verschillende gemeenten hebben de boeren opgeroepen de vlaggen weg te halen. De provincie Zuid-Holland meent dat er sprake is van bedreiging van de verkeersveiligheid. De actievoerders zijn het er niet mee eens. ‘De vlaggen hangen als landelijk vreedzaam protest in de openbare ruimte en die is van iedereen. Hier wordt de vrijheid van meningsuiting geschonden’, zeggen zij. ‘Ga net zo om met de ‘Nederland in Nood’-vlaggen als je omgaat met regenboogvlaggen.’ Een argument dat je kon verwachten bij dergelijke maatregelen.

De burgemeester van Oldenbroek heeft het geweten. Haar besluit om de vlaggen van lantaarnpalen en ander straatmeubilair te halen leidde tot bedreigingen in de trant van ‘dat ik mijzelf met een vlag aan een lantaarnpaal moest opknopen. Dat gaat best heel ver’, schrijft ze. Dat kun je wel zeggen, ja.

Dat een beperkte groep boeren (?) veel te ver gaat in hun protest is vorige week wel duidelijk geworden. Het blokkeren van snelwegen met mest, hooibalen, autobanden en andere rotzooi kan moeilijk meer als ‘vrijheid van meningsuiting’ worden goedgepraat. De bedreigingen aan het adres van degenen die de boel moesten opruimen zijn een uiting van bewuste ontregeling van de samenleving die in mijn ogen grenst aan terrorisme.

Foto: actv (cc)

De politie is veel te veel met drugs bezig

, door

We geven miljarden euro’s per jaar uit aan drugsbestrijding en ieder jaar komt er meer geld bij. Is dat gerechtvaardigd? Een gastbijdrage van Nick Ottens.

Andy Kraag, de chef van de Landelijke Recherche, onthulde bij Op1 dat drie op vier van zijn rechercheurs aan drugszaken werken. Volgens Kraag liggen de verhoudingen bij regionale recherches niet anders. Drugsmisdrijven zijn maar 1,6 procent van de geregistreerde misdrijven in Nederland. Hoe is het dan mogelijk dat driekwart van de recherchecapaciteit daarop wordt ingezet?

Niet iedere misdaad telt even zwaar. De vernieling van een bushokje komt in de cijfers terug als één misdaad, net als de smokkel van 500 kg cocaïne. Het ware aantal drugsmisdrijven ligt ongetwijfeld hoger: niet iedere straathandelaar wordt gepakt, niet iedere kilo cocaïne wordt onderschept. De schattingen over drugsproductie en -smokkel lopen zo uiteen dat het volgens wetenschappers onmogelijk is met zekerheid te zeggen hoeveel wel en niet wordt tegengehouden. Waar ze het wel over eens zijn: douane en politie sporen maar een fractie op.

808 zedenzaken op de plank

Vergelijk drugszaken daarom met zedenzaken. Ook dat zijn misdrijven met een grote impact. Ook daarvan vindt de bevolking het belangrijk dat ze worden opgelost. Ook die lijken een klein deel van het totaal: 1,1 procent van de geregistreerde misdaden. Maar ook daarvoor geldt dat het ware aantal hoger ligt. Het Centrum voor Seksueel Geweld schat dat jaarlijks 100.000 Nederlanders slachtoffer zijn van aanranding of verkrachting. Daarvan doet minder dan 10 procent aangifte. Volgens de Inspectie Justitie en Veiligheid voelen zelfs slachtoffers die wel naar de politie stappen zich soms ontmoedigd om formeel aangifte te doen.

Doneer!

Mededeling

Sargasso is een laagdrempelig platform waarop mensen kunnen publiceren, reageren en discussiëren, vanuit de overtuiging dat bloggers en lezers elkaar aanvullen en versterken. Sargasso heeft een progressieve signatuur, maar is niet dogmatisch. We zijn onbeschaamd intellectueel en kosmopolitisch, maar tegelijkertijd hopeloos genuanceerd. Dat betekent dat we de wereld vanuit een bepaald perspectief bezien, maar openstaan voor andere zienswijzen.

In de rijke historie van Sargasso – een van de oudste blogs van Nederland – vind je onder meer de introductie van het liveblog in Nederland, het munten van de term reaguurder, het op de kaart zetten van datajournalistiek, de strijd voor meer transparantie in het openbaar bestuur (getuige de vele Wob-procedures die Sargasso gevoerd heeft) en de jaarlijkse uitreiking van de Gouden Hockeystick voor de klimaatontkenner van het jaar.

Vorige Volgende