Een schoon internet

ANALYSE - Grote internetbedrijven schuwen een open debat over de grenzen van de uitingsvrijheid.

Dagelijks zijn zo’n honderdduizend mensen beroepshalve bezig om aanstootgevende filmpjes, foto’s en tekst te verwijderen van het internet. Ze werken voor Facebook, Twitter en andere social media waar mensen alles kwijt kunnen wat er maar in hen opkomt, en dat is dus ook veel rottigheid. Veel van dat werk wordt uitbesteed aan lage lonen landen, zoals de Filippijnen. Zoals dat vaker gebeurt in de ICT-wereld. Maar dan gaat het vaak om routineklussen en je kunt je afvragen of het beoordelen van porno en geweld als routinewerk beschouwd kan worden. Op den duur eist het zijn tol van de content moderators, schrijft Adrian Chen in Wired. Veel mensen haken na verloop van tijd af. Ze worden nog lang achtervolgd door de afgrijselijke beelden waarmee zij geconfronteerd zijn. Over wat zij te zien krijgen, wat hun afwegingen zijn, wat ze verwijderen en wat ze door laten hoort de buitenwereld niets. Ze krijgen hun opdrachten en mogen er, zelfs met hun collega’s, niet over praten. Voor een discussie over de grenzen van de uitingsvrijheid is geen tijd. De content moderators moeten voor hun schamel loon duizenden beelden per dag verwerken en in seconden beslissen of iets door mag of niet. Gezien de overvloed aan rottigheid op het internet lijkt er geen alternatief te zijn voor deze particuliere bewaking van de fatsoensgrenzen.

Een andere, minder belastende vorm van “content moderatie” zien we bij gespreksgroepen en discussiefora. Een belangrijke opgave voor de moderatoren in deze omgevingen is het verwijderen van “trollen“, deelnemers die geen ander doel hebben dan een discussie te verzieken. Voorkomen moet worden dat mensen weglopen van discussies door het agressieve optreden van een bepaalde deelnemer. Maar hoe onderscheid je de trol van de eeuwige querulant, die ook behoorlijk lastig kan zijn in een debat? Soms wordt iemand die nogal fel uit de hoek komt als trol weggezet door anderen die zich beledigd voelen. Hoe zwaar wegen de woorden die iemand gebruikt? Moderatoren moeten vaak beslissen over taalgebruik en gevoeligheden zonder concrete richtlijnen. Met een overmaat aan korte lontjes en lange tenen opereren zij in een mijnenveld.

Het opschonen van het internet door het verwijderen van trollen en aanstootgevend materiaal gebeurt vanuit algemene fatsoensnormen en particuliere opvattingen van de moderatoren of hun opdrachtgevers, soms gebaseerd op reacties uit het publiek. Het blijft een weinig transparant proces waarvan de internetgebruikers de uitkomsten zonder veel eigen inbreng moeten afwachten. Wat ten ten onrechte in de prullenbak belandt zullen we nooit te weten komen (bijna nooit). Met wat er wordt doorgelaten kunnen de particuliere moderatoren trends zetten voor fatsoensnormen op het internet. En dat alles gebeurt buiten de openbaarheid. Fatsoensnormen zijn daarmee niet langer een zaak voor het publieke domein.

Auteursrechten en privacybescherming

Over het verwijderen van content die in strijd is met de bescherming van auteursrechten of de privacy horen we wel iets meer. Daar gaat het meestal om hardere belangen en veel geld. Er zijn wetten en procedures en er worden rechtszaken over gevoerd die af en toe in de publiciteit komen. Maar aan verreweg de meeste verwijderingsbeslissingen komt geen rechter te pas. Een melding bij de provider met een verzoek tot verwijdering volstaat volgens de Amerikaanse de Digital Millenium Copyright Act (DMCA) , een voorbeeld op dit gebied voor de hele wereld. Deze regeling kost Internet Service Providers veel werk. Dus ook hier wordt er niet lang over gesoebat als er een aanmaning komt om een muziekbestand, een foto of een filmpje te verwijderen. Om kostbare procedures te vermijden voldoen de providers doorgaans snel aan dergelijke verzoeken. En ook hier wordt de openbaarheid doorgaans niet gezocht. Een openbare database voor het vastleggen van verwijderacties is Chilling Effects. Na klachten over het verwijderen van links van de Scientology Church werkt Google mee aan deze database.

Toezicht op de uitvoering van DMCA-regelingen is van groot belang. Misbruik van deze regelgeving om ongewenste uitingen te verwijderen is namelijk erg eenvoudig en daar wordt dan ook nogal eens gebruik van gemaakt, zoals de digitale burgerrechtenorganisatie EFF onlangs liet zien. Ook is het goed mogelijk dat bedrijven na een aanmaning volgens de notice and takedown-procedure gevoelig materiaal laten verdwijnen om rechtszaken over schending van de privacy te voorkomen. Zeker nu de Europese rechter het “recht om vergeten te worden” dichterbij heeft gebracht.

Tenslotte zijn er de opschoonacties op initiatief van politie en justitie waarover de media ook af en toe berichten. Zoals over de bestrijding van kinderporno en terrorisme, onderwerpen waar veel debat over is, die echter ook gevoelig zijn voor tijdgebonden stemmingen in de publieke opinie. Wat vandaag nog wordt toegestaan kan morgen uiterst gevoelig liggen. Deze stemmingen beïnvloeden uiteraard ook de particuliere moderatoren. En het optreden van de politie in specifieke gevallen, waarbij de wet niet altijd nauwkeurig wordt gevolgd.

De uitvoering van wetten die de grenzen van de communicatievrijheid bepalen komt sinds de komst van het internet meer en meer in handen van particuliere bedrijven en individuen. Hun beslissingen zijn steeds vaker onttrokken aan de openbaarheid van het publieke domein. Maar ze hebben wel grote invloed op de normen die in de virtuele ruimte van het internet gelden.

Aansprakelijkheid vermijden

Een schoon internet is even illusoir als een wereld waaruit het kwaad is verwijderd. Het opschonen heeft echter onmiskenbaar een publiek belang vanwege de uitingsvrijheid en andere burgerrechten die in het geding zijn. Dat opschonen verdient daarom een uitgebreider openbaar debat. Helaas wordt veel van dit werk inmiddels dus achter gesloten deuren verricht in opdracht van particuliere ondernemingen die uitsluitend gebaat zijn bij het voorkomen van aansprakelijkheid voor juridisch aanvechtbare content. Dat kan behoorlijk in de papieren lopen als het om auteursrecht of privacybescherming gaat. Maar ook om gedoe met autoriteiten te voorkomen passen bedrijven zich graag aan. Zo kregen moderatoren een paar jaar geleden van Google’s juristen de opdracht om alle preken van de Amerikaanse radicale moslim Anwar al-Awlaki te verwijderen nadat een Britse vrouw die een politicus had neergestoken naar hem had verwezen.

Google presenteert zichzelf nu wel graag als bestrijder van overheidscensuur. De aanvankelijk meegaande houding in de relaties met China is veranderd. Het bedrijf zet nu versleuteling van berichten in om de censuur te vermijden. Maar burgers blijven afhankelijk van de beslissingen van bedrijfsdirecteuren die niet openbaar zijn en niet ter discussie staan. Ook in het geval van de operatie waartoe Google gedwongen werd door het arrest van het Europese Hof dat bepaalde dat links naar achterhaalde berichten die schadelijk zijn voor een persoon verwijderd moeten worden. Google volgt het arrest, maar bepaalt zelf wat er naar buiten wordt gebracht over de gevolgde werkwijze.

Techno-libertairisme

Het probleem is het afnemende gewicht van algemene, publieke belangen. Google en andere grote ICT-bedrijven werken vanuit een libertaire ideologie die geen boodschap heeft aan algemene belangen of een publieke ruimte. In deze ideologie is de overheid tot een absoluut minimum gereduceerd. De maatschappij wordt bij voorkeur volledig geregeld door bedrijven en individuen, die uitsluitend handelen vanuit particulieren belangen, ook in de virtuele wereld van het internet. Democratie is aan de techno-libertairen niet besteed. Veel te stroperig en veel te veel ‘verkeerde’ uitkomsten. “Politiek gaat over transacties en is ondoorzichtig, met hiërarchieën en handdrukken. Technologie is empirisch en veelal transparant, gedreven door data.” Data, gegevens, moeten de wereld sturen. “In de wereld van Google bestaan geen conflicten over fundamentele waarden – alleen praktische kwesties die een oplossing nodig hebben. De democratie is volgens die gedachte geen arena waar ideeën botsen, maar een instrument dat meer of minder geschikt is om de wereld op te stuwen naar eeuwig toenemende welvaart en vooruitgang”, schrijft Thijs Kleinpaste naar aanleiding van het plan van enkele tech-ondernemers uit California om van Silicon Valley een eigen staat te maken. In deze ideologie zal het opschonen van het internet dus vooral een technologische opgave zijn. Een open discussie over de grenzen van de uitingsvrijheid zullen de internet-ondernemers liever vermijden. Is de oude droom van uitbreiding van de democratie door de inzet van nieuwe media hiermee definitief een illusie geworden?

Overgenomen van Free Flow of Information.

  1. 1

    Ik zie het probleem niet zo. Particuliere moraal dat is toch prachtig? En het creëert werkgelegenheid.
    Jammer dat die bedrijven der geen cent voor over hebben maar dat zou opgelost zijn als de Chinezen/Pakistanen/Fillipijnen eens wat strengere eisen aan arbeid zouden stellen, wat misschien zou gebeuren als we ze niet aan de Wereldbank-lijn hielden. Maar da’s een andere discussie.

    Twitter kan prima zeggen: “ja heel mooi maar post t maar op youporn of stormfront”. En omdat twitter niet t zelfde zou zijn zonder hun eigen censuur, moeten ze er wel mee door. Anders leest niemand t meer.
    Sargasso kan ook zeggen, ja hoor eens wij betalen voor deze server, dat gezeur van *** zijn we nu wel zat.
    Zuerst das Fressen und den die Moral? Nee nee, het is ünser Moral und sonst kein Fressen.

  2. 2

    @0: “discussie over de grenzen van de uitingsvrijheid zullen de internet-ondernemers liever vermijden. Is de droom van uitbreiding van democratie met nieuwe media een illusie?”
    – Democratie? Het gaat hier over openbaarheid van afwijkende opvattingen. Media censuur is niet bij internet begonnen!

    @: “afnemende gewicht van algemene, publieke belangen”
    Overheidsbelang, die ook zorgt voor een bepaalde censuur? Het gaat niet om het “algemene” maar om ruimte voor afwijkingen

  3. 3

    Twitter betaalt dus waarom moet twitter uitleggen wie het censureert? Als het je niet bevalt kun je altijd zelf een Twitter beginnen. Maar ja, dan luistert er niemand.

  4. 4

    @3: Dit is dus de ziekte van deze tijd: wie betaalt bepaalt, het geld regeert de wereld. Wie het niet zint moet maar iets voor zichzelf beginnen.
    @2:

    Overheidsbelang, die ook zorgt voor een bepaalde censuur? Het gaat niet om het “algemene” maar om ruimte voor afwijkingen

    Het overheidsbelang is niet hetzelfde als het publieke belang. De overheid dient er voor te zorgen dat het algemene, publieke belang, zoals het vrije verkeer van informatie, niet gehinderd wordt door particuliere belangen van bedrijven die alleen aan hun eigen inkomsten denken.

  5. 5

    @3 je kon erop wachten… “dan begin je toch lekker je eigen blog?” Daarmee ontken je de ongelooflijk grote macht van bijvoorbeeld Google of Facebook op onze informatievrijheid. Als het alleen gaat over blogjes over modelbouwtreintjes, zal het mij ook worst wezen, maar het gaat over al onze opinievorming over de wereld.

  6. 6

    Je kunt er ook op eeen andere manier tegenaan kijken.

    Doordat bedrijven op de vrije markt opereren kunnen ze morgen overbodig worden doordat er een nieuw bedrijf opstaat welke een nieuwe, betere versie van vergelijkbare diensten aanbiedt.

    Theorie of niet, het is een wezenlijk risico. De macht van de consument die zijn eigen. gebundelde macht nog ten volle moet ontdekken en leren uitbuiten, komt nu al tot uiting in blogs en online economie. Niets democratischer dan stemmen met waar je je euro’s aan uitbesteedt.

    De macht van het censuur bij de overheid neerleggen houdt daarentegen in dat er geen enkele, zelfs geen theoretische kans of mogelijkheid is voor de burger (of consument van overheidsdiensten) om bevoegdheden eens gegeven weer terug te nemen. Ook heeft de consument of burger dan niet langer de optie om bepaalde diensten wel, en anderen juist niet te gebruiken.

    Overheidscensuur is daarom minder wenselijk dan censuur gepleegd door individuele bedrijven. De individuele burger of consument heeft immers de middelen en mogelijkheden hier iets tegen te doen, waar dat in het geval van overheidscensuur potentieel tot veel grotere nadelige gevolgen voor het individu zou leiden.

  7. 7

    Private ondernemingen hebben winstoogmerken die in conflict kunnen komen met andere doelstellingen als zij inhoud gaan modereren. Bij het vermijden van aanstootgevend materiaal op Internet is een publiek belang gemoeid. Maar ‘’aanstootgevend’’ is cultureel en politiek bepaald en in de context van een democratie kan een publiek moderator die naar tevredenheid van de meerderheid functioneert denkbaar zijn. Maar in de meeste landen is dit nu niet het geval. De huidige cyberspace is nu gedomineerd door Amerikaanse ondernemingen en, indirect, door de Amerikaanse staat (deze brengt nu Amerikaanse internetondernemingen voor de rechter omdat deze weigeren content die op cloudservices die in het buitenland gelokaliseerd zijn voor de Amerikaanse autoriteiten te openbaren).
    Zou een VN instelling denkbaar zijn die richtlijnen uitwerkt voor het modereren van Internet content?

  8. 8

    @6: Er is een belangrijk verschil tussen een consument en een burger. Consumenten zijn niet gelijk, hebben alle verschillende belangen en voorkeuren, zijn dus eenvoudig tegen elkaar uit te spelen en hebben als collectief weinig macht. In een democratie zijn burgers alle gelijk, ze verenigen zich op basis van ideologie of programma in partijen en door onderhandelingen en coalitievorming kunnen hun vertegenwoordigers opkomen voor een algemeen belang, uitgedrukt in wetten.
    Ik geloof niet in consumentendemocratie. De sterkste (rijkste) consumenten zullen het nog niet winnen van de machtigste bedrijven. Stemmen met de portemonnee is geen democratie. Je hebt een democratie van vrije en gelijke burgers nodig om wetten te maken die in ieders belang zijn. Dat kan ook een verbod op bepaalde uitingen zijn (bedreiging, oproepen tot geweld), maar dat het is dan aan de rechter om dat verbod in concrete zaken te toetsen. Overheidscensuur is al sinds lange tijd niet meer aan de orde in democratische landen.
    @7: Ik ben bang dat in de VN staatsbelangen nog te veel domineren. Ik verwacht meer van maatschappelijke organisaties die opkomen voor burgerrechten. Wie de vrijheid wil bevorderen op het internet steunt EFF bijvoorbeeld. Of in Nederland Bits of Freedom.

  9. 9

    Ik ontken die invloed van google allemaal heus niet.
    Ik ben wel met @4 eens dat er een probleem van deze tijd aan ten grondslag ligt maar dat probleem zit m niet bij twitter maar bij de horde die beter zou moeten weten en toch facebook prefereert boven een max havelaar facebook.

    Zo theoretisch is het niet dat alle klanten ineens weg zijn.
    Twitter heeft afbeeldingen mogelijk gemaakt omdat mensen massaal naar Tumblr aan het overstappen waren. Wie gebruikt er de zoekmachine van Yahoo? Of Duck Duck go?
    Waarom heeft Nederland massaal hyves verlaten? Kinderen! Die mogen dus ook niet op dat facebook. Blijkbaar heeft dat meer prioriteit dan de veronderstelde fillipo-censuur. Dáár zit je probleem.

  10. 10

    @8: “burgers alle gelijk, door coalitievorming kunnen hun vertegenwoordigers opkomen voor een algemeen belang”
    – meestal komen ze op voor hun meerderheidsbelang, het is misleidend om dat gelijk te stellen met “algemeen belang”

  11. 11

    @10:

    meestal komen ze op voor hun meerderheidsbelang

    Daar kan ik je geen ongelijk in geven. Toch kunnen we politici blijven aanspreken op de behartiging van algemene belangen en ook op het rekening houden met minderheidsbelangen. Als ze alleen oog hebben voor particuliere belangen laten we ze vallen, toch? In tegenstelling tot politici leggen ondernemingen het loodje als ze hun particuliere belang verwaarlozen.