Nederland lag tot en met het eind (en terecht) dwars, maar nu is de kogel dan toch door de kerk. De nieuwe EU-wet tegen online kindermisbruik introduceert een systeem waarin appmakers “vrijwillig” hun platforms kunnen laten scannen. Niet meer verplicht, zoals eerder, waardoor bijna iedereen overstag ging. Dat klinkt alsof Europa het netjes aan bedrijven laat om te bepalen of ze hun gebruikers aan algoritmische inspectie onderwerpen. Maar die vrijwilligheid is vooral een diplomatiek doekje voor het bloeden. De werkelijke consequenties liggen, behalve in Europa ook ver daarbuiten.
Want zodra een grote appmaker één regio bedient met “vrijwillig” ingebouwde scanmechanismen, ontstaat er een wereldwijd precedent. En als één partij in Europa overstag gaat, dan wordt de druk op de anderen vanzelf groter: want ‘wat hebben zij te verbergen?’. En ‘denk aan onze kinderen!’. Als bijvoorbeeld Meta de scanner inbouwt voor Europa, dan kunnen Rusland en China precies hetzelfde eisen, maar dan zonder het gêne van een publieke rechtvaardiging, en het bestaat al! Europa heeft immers gezegd dat de technologie moreel en juridisch acceptabel is. En wat acceptabel is voor Brussel, wordt bruikbaar voor regimes die minder scrupules hebben. Vrijwillig scannen in Europa leidt tot verplicht scannen elders.
Dit is het patroon waarin een liberale rechtsstaat, goedbedoeld of niet, technologie legitimeert die vervolgens in autoritaire – en misshcien in de eigen – handen verandert in een machtsmiddel. Function creep is daarbij geen risico maar een zekerheid: zodra de scanner bestaat, groeit het toepassingsgebied vanzelf. Eerst alleen beelden. Dan ook teksten. Daarna metadata. Vervolgens “verdachte patronen”, want dat klinkt als moderne veiligheid. En uiteindelijk kan elke overheid het label “bescherming” plakken op wat feitelijk gedragsanalyse is.
