Een glazen bol vol criminelen

DATA - In 2017 moet Nederland het eerste land worden waar ‘predictive policing‘ nationaal wordt toegepast. Door data en algoritmen wordt misdaad voorkomen. Onomstreden is het niet. Waar liggen de valkuilen?

“The ‘Minority Report’ is a modern fact, not fiction.” Het hoofd van de politie in New York William Bratton refereerde met deze uitspraak naar de sciencefiction film The Minority Report (2002). In de film is het aantal ernstige misdrijven teruggebracht tot nul. De Pre Crime-politie voorspelt moorden en stopt moordenaars voordat ze de daad uitvoeren. Deze voorspellingen worden gedaan door drie gemuteerde mensen die misdaden visualiseren voor ze gepleegd worden. De film waarschuwt voor een overheid die in de hoofden van de burgers kruipt en geen boodschap heeft aan recht op privacy. Maar het stelt ook de vraag: is ons gedrag te voorspellen?

Misdaad aanpakken voordat het heeft plaatsgevonden gebeurt niet alleen in films. Anno 2017 maken politiekorpsen overal ter wereld gebruik van algoritmes om preventief in te grijpen. Volgens Bratton is dit nieuwe instrument van de politie de toekomst. Ook in Nederland wordt predictive policing enthousiast ontvangen.

Voormalig afdelingshoofd Business Intelligence van de Nederlandse politie Rutger Rienks in De Groene Amsterdammer: “Als je als overheids- of politieorganisatie criminaliteit op deze manier kunt uitbannen, dan lijkt mij dat een droom waar je je hard voor moet maken.”  Een ‘buienradar voor boeven’ kan helpen misdaad in de kiem te smoren, maar waar liggen de valkuilen? Wat zijn de gevolgen van het voorspellen van menselijk gedrag aan de hand van data? En hoe objectief zijn data?

Hoe het werkt

Een vorm van predictive policing is het berekenen van zogenaamde ‘dreigingsscores’ door het softwareprogramma Beware van het Amerikaanse veiligheidsbedrijf Intrado. Een dataprofiel wordt aangemaakt door adresgegevens, posts op sociale media en eventueel strafblad te combineren. Met een algoritme wordt een dreigingsscore gegenereerd en daarmee de kans dat iemand een misdaad begaat berekend. Zo heeft een Afghanistanveteraan van 45 met een strafblad, die lijdt aan PTSS en zijn oorlogservaringen deelt op Facebook een dreigingsscore op van 67 van de 100 punten. Hij zal dus extra in de gaten worden gehouden.

De Nederlandse politie wil het Criminaliteits Anticipatie Systeem (CAS) nog in 2017 in heel Nederland invoeren. Nederland is dan het eerste land waar predictive policing nationaal wordt ingevoerd. CAS maakt gebruik van veel data om bijvoorbeeld inbraken te voorspellen door onder andere aangiftes en gegevens van het Centraal Bureau van de Statistiek (CBS) om te zetten in data. Waar en wanneer er een misdaad plaats gaat vinden, wordt berekend aan de hand van een algoritme. Een ander voorbeeld is de samenwerking tussen de nationale politie en de Universiteit Twente om high impact crimes aan te pakken. Het bleek dat met een rekenmodel patronen te ontdekken zijn bij dit type misdaad. Preventief wordt er een politiehelikopter gestuurd naar aanleiding van de gemaakte voorspellingen. ‘Informatie gestuurde luchtsteun’ wordt dit ook wel genoemd. In de praktijk resulteert dit in een afname van het aantal inbraken.

Het is natuurlijk een prettige gedachte dat de politie extra gaat surveilleren wanneer er inbraken in je wijk zijn voorspeld. Maar niet iedereen is laaiend enthousiast. Zo ontving de Nationale Politie in 2015 de Big Brother Award van de burgerrechtenorganisatie Bits of Freedom voor het verzamelen van data om misdrijven te voorspellen. Volgens hen zou afwijkend gedrag maatgevend worden, in plaats van strafbaar gedrag.

Barsten in de glazen bol

Criminoloog en filosoof Marc Schuilenburg is ook kritisch op het nieuwe instrument van de politie. In het artikel dat hij schreef voor het juridisch vakblad Ars Aequi waarschuwt hij onder andere voor etnisch profileren en stigmatisering van bepaalde bevolkingsgroepen door predictive policing. Data zijn nooit neutraal of objectief. Sterker nog het werkt etnisch profileren in de hand. Schuilenburg: “Wordt het systeem gevoed met vooroordelen ten aanzien van bevolkingsgroepen of etnische afkomst, dan zal dat zijn effect hebben op de resultaten.” Uit onderzoek van het journalistenplatform ProPublica bleek dat de Amerikaanse justitie burgers met een donkere huidskleur vaker ten onrechte categoriseert als toekomstige criminelen. Daarnaast hebben zwarte mensen 77% meer kans om het label ‘hoger risico’ te krijgen dan witte mensen. Dit betekent niet dat witte mensen geen misdaden begaan. Schuilenburg: “Het betekent wel dat de politie hier minder aandacht voor heeft en vrijmaakt.”

Bovendien heeft predictive policing een zelfversterkend effect. De meeste data wordt gegenereerd uit historische gegevens. Het aantal geregistreerde woninginbraken in Utrecht bijvoorbeeld. Hierbij wordt het verleden geanalyseerd en niet de toekomst. In een wijk waar veel wordt ingebroken wordt extra gepatrouilleerd. Maar het epicentrum van inbraken kan zich verplaatsen. Is het systeem flexibel genoeg om mee te bewegen? Hoe voorkom je tunnelvisie? Daarnaast doet de waarom-vraag er niet meer toe. Waarom wordt er ingebroken? Het aantal inbraken kan dus worden verminderd, maar dat doet niks aan de onderliggende problemen.

Het is geen uitgemaakte zaak. De toegevoegde waarde van predictive policing zie ik, maar ik ben ook  huiverig. Het kan criminaliteit verminderen, maar dit weegt niet op tegen de negatieve aspecten. De politiekorpsen die deze software gebruiken lijken weinig oog te hebben voor de mogelijke vooroordelen waarmee data worden behandeld. Mensen kunnen met hun data-profiel vast komen te zitten in vooroordelen, hun verleden en omstandigheden: een soort data-determinisme. Wanneer je menselijk gedrag reduceert tot data, wordt het onmogelijk te ontsnappen aan je verleden en je omstandigheden. Leven als in de film, dat willen we allemaal. Maar in het geval van The Minority Report houd ik toch liever fictie en het echte leven gescheiden.

Over deze blog, eerder verschenen op Studium Generale Utrecht:
Het viel zelfverklaard technofoob Amber Striekwold op dat Big Data en algoritmes in toenemende mate een rol spelen in ons dagelijks leven. Een enge ontwikkeling? Of denken we dat alleen maar door onwetendheid?