Profileren van arme buurten is een bedreiging voor de mensenrechten

Op 29 oktober 2019 is de rechtszaak van het Nederlands Juridische Comité voor de Mensenrechten (NJCM) en andere burgerrechtenorganisaties tegen de Nederlandse Staat inzake risicoprofileringssysteem SyRI. De VN-Rapporteur op het gebied van extreme armoede en mensenrechten uit in een brief aan de rechtbank zijn zorgen over SyRI.

SyRI staat voor Systeem Risico Indicatie en is een digitaal risicoprofileringssysteem om uitkeringsfraude op te sporen. Voor SyRI worden een groot aantal persoonlijke gegevens die de overheid heeft van haar burgers gekoppeld en met behulp van een (geheim) algoritme doorzocht op afwijkende patronen. Een ambtenaar beslist vervolgens of er grond is voor verder onderzoek naar bijstandsfraude en andere misstanden (zie hier meer uitleg).

Een collectief van verschillende burgerrechtenorganisaties en de FNV heeft onder de naam ‘Bij Voorbaat Verdacht’ bezwaren geuit tegen SyRI en de Staat voor de rechter gedaagd. Er zijn in de afgelopen jaren verschillende pilots met SYRI geweest, maar afgelopen juli werd een project in twee Rotterdamse wijken afgelast door het college van B&W omdat de inzet van SyRI mogelijk in strijd is met privacywetgeving. Op Vers Beton betoogde dat ik dat de inzet van een geheim algoritme in arme wijken zoals in Rotterdam-Zuid (foto: Tarwewijk) ook om andere redenen getuigt van onethisch bestuur.

Digital welfare state

De VN-Special Rapporteur on extreme poverty and human rights schreef een brief aan de Nederlandse rechtbank waarin hij de fundamentele bezwaren onderschrijft (lees hier de volledige brief). Hoewel sociale zekerheid een fundamenteel mensenrecht is, signaleert de Rapporteur dat “the poor are still all too easily regulated”. Politieke ontwikkelingen hebben in de afgelopen decennia steeds meer het recht op sociale zekerheid ondermijnd. Refererend aan het werk van onder andere socioloog T.H. Marshall en criminoloog David Garland, schrijft de Rapporteur dat de verzorgingsstaat onder vuur is komen te liggen: de publieke sector is duur, bureaucratisch en inefficiënt, uitkeringsontvangers zijn bedriegers en bedelaars. Het recht op sociale zekerheid werd steeds minder als een ‘echt’ mensenrecht gezien.

De Rapporteur beschouwt SyRI in de context van het ontstaan van digital welfare states, een ontwikkeling die ook elders gepaard gaat met inbreuken op mensenrechten. De overheid spant zich steeds meer in om uitkeringsfraude op te sporen. Uitkeringsontvangers worden gezien als tweederangsburgers die erop uit zijn om misbruik te maken van de staat en de gemeenschap, schrijft de Rapporteur. Het gebruik van digitale tools om uitkeringsfraude tegen te gaan is dan ook geen neutrale ontwikkeling maar onderdeel van een politieke trend van toenemend wantrouwen jegens groepen die afhankelijk zijn van uitkeringen.

Hele buurten verdacht

Voor de overheid weegt het publieke belang van opsporing en controle van criminaliteit zwaarder dan de gevolgen voor hen die de consequenties van deze controle dragen. De overheid verzet zich tegen transparantie over SyRI omdat het fraudeurs informatie zou geven die het mogelijk maakt om het systeem verder te misbruiken. Dit argument gaat echter in tegen rechtsstatelijke principes, stelt de Rapporteur: wetten moeten openbaar zijn, zodat burgers weten wat er van hen verwacht wordt en een kritische beoordeling van wetten mogelijk is. Hoewel het algoritme van SyRI geen wet is, moet het vanwege de potentieel verstrekkende gevolgen toch gehouden worden aan dezelfde principes.

Verder is het oordeel van de Rapporteur dat de essentie van het recht op privacy in het geding is: hele buurten worden verdacht gemaakt. De digitale risicoprofilering door SyRI is equivalent aan een inspecteur die op ieders deur klopt en persoonlijke documenten bekijkt. Dat het digitaal gebeurt wil niet zeggen dat de psychologische impact minder is, sterker nog, dat het onzichtbaar is kan de impact zelfs groter maken. De Rapporteur zet in dit verband ook vraagtekens bij de proportionaliteit van de inbreuk op privacy en het argument van de overheid dat sprake is van een ‘pressing social need’. SyRI is niet overtuigend effectiever in het opsporen van fraude.

De VN-Rapporteur sluit de brief af met de conclusie dat systemen zoals SyRI, als onderdeel van de digital welfare state, een significante potentiële bedreiging vormen voor mensenrechten, in het bijzonder voor de armste mensen in de samenleving. Deze systemen moeten dan ook kritisch worden onderzocht, niet enkel door rechters maar ook door overheden, de wetgever en de hele samenleving.