Hoeveel ruimte krijgt Big Brother?

ELDERS - Is het gebruik van gezichtsherkenningssoftware in camera’s op straat toelaatbaar in een democratische rechtsstaat?

In een poging om de golf van protesten te breken heeft de regering van Hongkong begin deze maand een verbod uitgevaardigd op het dragen van maskers. De demonstranten proberen zich met maskers onherkenbaar te maken voor politiecamera’s en trekken zich van het verbod niets aan. China is al ver gevorderd met het gebruik van gezichtsherkenning in de openbare ruimte om burgers te bespieden. Chinezen kunnen binnenkort alleen nog via gezichtsherkenning een internetabonnement of een nieuw mobiel nummer aanvragen. Legale beperkingen ter wille van de bescherming van privacy hebben in dit land minder gewicht dan in de VS en Europa.

In California is onlangs een wet aangenomen die de overheid verbiedt om gezichtsherkenningssoftware te gebruiken op videocamera’s van de politie, een primeur voor de VS. Volgens de scherp geformuleerde wet staat biometrische surveillance gelijk aan ‘dat alle personen constant hun id-kaart met foto laten zien, zonder dat ze daar toestemming voor gegeven hebben.’ Dat zou in strijd zijn met de grondrechten van Amerikaanse burgers. Commerciële organisaties zijn uitgezonderd van de wet. Presidentskandidaat Bernie Sanders heeft zich uitgesproken voor een compleet, landelijk verbod op het gebruik van biometrische herkenning door overheidsinstanties. Hij vindt de technieken een bron van misbruik.

Amazon dringt aan

De Californische wet geldt voor drie jaar. Wat er daarna gebeurt is onduidelijk. Intussen dringt Amazon er bij nationale overheden op aan haast te maken met wetgeving die de inzet van gezichtsherkenningssoftware mogelijk maakt. Amazon wil overheden stimuleren door alvast conceptwetsvoorstellen te schrijven. Jeff Bezos, de baas van Amazon vindt wetgeving nodig om misbruik van de technologie te voorkomen. De tool die het bedrijf zelf heeft ontwikkeld, AWS Rekognition,  is omstreden. Eerder dit jaar eisten zestig AI-onderzoekers een verbod op de verkoop van deze software.

Denemarken

In Europa staat gezichtsherkenning als instrument voor de politie inmiddels ook op de agenda. In Denemarken noemt een hoge politiefunctionaris uit Kopenhagen het gebruik van gezichtsherkenningssoftware gekoppeld aan straatcamera’s een enorm voordeel voor de politie. De Deense overheid wil de wet verruimen om op grote schaal surveillances te kunnen uitvoeren. Daarvoor worden 300 nieuwe camera’s gekocht met gezichtsherkenningssoftware. ‘We moeten nu alles beeld voor beeld doorzoeken,’ zegt de politieman. ‘Als software ons daarbij kan helpen, zou dat geweldig zijn.’

Ook in Roemenië heeft de politie plannen die voor privacy-organisaties aanleiding waren om een open brief aan de regering te sturen met de waarschuwing dat zoals het er nu naar uitziet rechten en vrijheden van burgers worden overtreden. De organisaties dringen aan op het terugdraaien van de aankoop van een systeem en eerst te zorgen voor goede wetgeving na consultatie van de burgers.

Reserves van de Europese toezichthouder

Wojciech Wiewiórowski, momenteel hoofd van de EDPS, de Europese toezichthouder voor de bescherming van de privacy, ziet nogal wat problemen bij het gebruik van gezichtsherkennende software. Zo verbiedt de Algemene verordening gegevensbescherming (AVG) het verwerken van biometrische gegevens, tenzij er aan één van de tien uitzonderingen wordt voldaan. Maar het blijkt dat deze verordening lang niet overal wordt toegepast.  Daarnaast moet de noodzakelijkheid om de technologie in te zetten worden aangetoond. De technologie roept nu nog allerlei vragen op. “We weten gewoon niet hoe de data worden gebruikt door degenen die ze verzamelen, wie er toegang toe heeft, naar wie ze wordt gestuurd, hoelang ze data bewaren, hoe er een profiel van wordt gemaakt en wie uiteindelijk voor de geautomatiseerde beslissingen verantwoordelijk is. ”

Wiewiórowski twijfelt ook over de deugdelijkheid van deze software. “In werkelijkheid zijn er nooit genoeg data om vooroordelen en het risico van false positives of false negatives te elimineren.” Voordat we verder gaan met deze technologie moet er volgens hem eerst maar eens een principiële discussie worden gevoerd over het doel dat we er mee willen bereiken en de problemen die we er mee willen oplossen. Hij verwacht dat over niet al te lange tijd ook nog “andere vormen van objectificatie van het menselijk wezen worden ontwikkeld, zoals zijn manier van lopen, emoties en hersengolven.”

De nieuwe voorzitter van de Europese Commissie, Ursula von der Leyen, die naar verwachting op 1 december in functie treedt heeft gezegd dat zij binnen haar eerste 100 dagen met wetgeving komt voor een uniforme Europese aanpak van het gebruik van kunstmatige intelligentie.

  1. 1

    Beloftevolle software is de nieuwe messias. Daar verwacht ‘men’ telkens weer de wereld van, terwijl we keer op keer leren dat het toch weer vol fouten zit. Bij de belastingdienst is voortdurend te zien hoe beleidsmakers denken dat je wel even een blik nieuwe software opentrekt.
    Bij de Roertunnels, die uit krenterigheid te laag* zijn gebouwd, dacht men ook de te hoge vrachtwagens met slimme software te kunnen weren. Helaas begreep menige chauffeur van vlees en bloed dat niet en de tunnelsoftware is (nu jaren later) nog steeds niet zo slim dat het de lucht uit de banden kan programmeren.
    Pas wanneer software er is en ook vlekkeloos werkt, is het een mogelijk argument. Daarvoor is het een digitale variant op het PAS.
    Dat alles nog los van de vraag of je zoiets inderdaad zou willen.

    *een halve meter onder de Europese norm.

  2. 3

    Commerciële organisaties zijn uitgezonderd van de wet.

    Daar zit wel een enorme adder onder het gras in Californa. De overheid legt zichzelf beperkingen op, maar de Camebridge Analytica’s mogen hun gang gaan. Dat is vragen om schimmige constructies, waarin overheden informatie dingen die ze zelf niet mogen doen uitbesteden aan bedrijven. Want vroeg of laat duikt er overal wel een keer een zelfverklaarde crimefighter op, die vooral vindt dat je de regels van de wet moet verkennen.

    Ik vraag me af of je niet van de regen in de drup belandt als overheden alleen zichzelf restricties opleggen.

  3. 4

    Worrying shit. De glijdende schaal van dit soort toestanden is ook in NL al sinds jaar en dag aan de orde. Waar data beschikbaar is, wordt er door jan-en-alleman gebruik van gemaakt, ook als dat niet geoorloofd is. De overheid is in dezen gewoon niet te vertrouwen. Ik hou mijn hart vast.