The New York Times publiceerde afgelopen weekend een lang artikel over Clearview AI. De oprichter, de Australiër Hoan Ton-That, zocht al langer naar een klapper maar was niet verder gekomen dan een app waarmee je selfies van een Trump-kapsel kon voorzien. Ton-That maakte ook een site waar je al je vrienden videolinks kon sturen; moest je wel even al je contacten uit je chatprogramma’s met de site delen.
Toen volgende een lumineus idee. Ton-That verdiepte zich in kunstmatige intelligentie en algoritmes, leerde hoe je sites kon leegtrekken (scrapen), en verzamelde wat startkapitaal. Hij bouwde een programma dat overal foto’s jatte en die opsloeg in een database, waarbij elke foto werd voorzien van de naam van de geportretteerde, plus de locatie, plaats en tijd van de opname. Ton-That verzamelde een fikse stapel, en liet er gezichtsherkenning op los.
Lang wist-ie niet wat ermee kon aanvangen. Toen wist hij Peter Thiel voor zijn project te interesseren. Thiel is de extreemrechtse mede-oprichter van Paypal, een van de eerste investeerders in Facebook, en de oprichter van Palantir, die veel opsporingssoftware maakt voor de CIA, en voor banken plus andere financiële dienstverleners.
Na wat vallen en opstaan wist Ton-That een paar politiediensten in de Verenigde Staten te interesseren, meestal via iemand die hij eerst zelf had gescout. Inmiddels beschikte hij over een database met 3 miljard gezichten. Hij vroeg zo’n detective om een paar foto’s van mensen die ze zochten, wist hem te imponeren met de resultaten, de diender pleitte bij de baas, en hoppa, weer een klant. Inmiddels doet Clearview zaken met lokale politiediensten, de FBI en Homeland Security.
Het klinkt als een succesverhaal, maar er zijn een paar probleempjes. De software van Clearview is nooit getest door een onafhankelijke instantie die de werking ervan onderzoekt, en bijvoorbeeld controleert hoeveel vals-positieven het programma genereert. Ook heeft de politie in de VS amper regels over het inzetten van gezichtsherkenning, zeker niet via derden; in steeds meer Amerikaanse steden en staten raakt gezichtsherkenning juist zeer omstreden. Maar Clearview opereert onder de radar, onder meer omdat er geen sprake is van openbare aanbesteding.
Erger: Clearview blijkt te kunnen meekijken met de zoekopdrachten, en die in specifieke gevallen zelf te manipuleren, zoals de journalist van de NY Times ontdekte. Vanwege het ontbreken van elke vorm van audit is tevens volslagen onduidelijk hoe secuur al die toch tamelijk kwetsbare data zijn opgeslagen.
Voorts mogen de politiediensten foto’s van verdachten niet naar derden sturen om die te verwerken, en mag Clearview die al helemaal niet aan zijn database toevoegen (wat het wel doet). Het ergste: Clearview heeft zijn aanvankelijke database van 3 miljard portretten simpelweg gejat. De politiediensten die Clearview gebruiken, maken zich derhalve schuldig aan heling.
Deze column van Karin Spaink verscheen eerder in Het Parool.