Kunnen we algoritmes maken die niet uitsluiten?

van Rosa van den Dool. Met het toeslagenschandaal werd nogmaals duidelijk dat data en datatechnologieën niet neutraal zijn en kunnen discrimineren, net als mensen. Hoe kunnen we dit soort data-onrechtvaardigheid de das omdoen? De Nederlandse overheid verzamelt grote hoeveelheden privacygevoelige data van en over burgers. Wat er vervolgens met deze gegevens gebeurt is niet altijd zichtbaar, maar kan wel grote impact hebben op ons leven. Wanneer ik inlog op de website van de Belastingdienst om belastingaangifte te doen, schrik ik van de hoeveelheid informatie die over mij in het systeem staat: de overheid weet beter wat ik dit jaar heb verdiend dan ikzelf. Algoritmen helpen overheidsinstanties omgaan met de oneindige stroom aan binnenkomende data. Deze computerprogramma’s bepalen vervolgens op basis van jouw gegevens of jij bijvoorbeeld in aanmerking komt voor een steekproef, waarmee ze checken of je wel genoeg belasting betaalt of wel recht hebt op huurtoeslag. Heel efficiënt, maar hieraan kleeft ook een keerzijde: algoritmes die gebruikt worden om informatie te sorteren en verwerken zijn niet neutraal en kunnen discrimineren. Of jij dus wordt uitgekozen voor een steekproef, kan zomaar worden bepaald op basis van je naam of de buurt waarin je woont. Discriminerende technologie Cultuur- en mediawetenschapper dr. Gerwin van Schie (UU) onderzoekt hoe het gebruik van data en algoritmen kan leiden tot discriminatie en onrechtvaardigheid in Nederland. “Als je wordt geboren in Nederland, melden je ouders je aan bij de gemeente en komen je gegevens terecht in de databases van de overheid. Je leeftijd wordt geregistreerd, maar bijvoorbeeld ook je geboorteland én het geboorteland van je ouders.” Waarom is dit problematisch? Een voorbeeld dat dit illustreert is de Leefbarometer: een online tool van het ministerie voor Binnenlandse Zaken die voorspelde in hoeverre een buurt ‘leefbaar’ was. Persoonsgegevens over geboorteland werden gebruikt als meetinstrument voor kwaliteit en veranderden zo in een voorspeller voor de leefbaarheidsscore. Wanneer er in een wijk dus veel mensen woonden met ouders die in het buitenland geboren zijn, werd die wijk als minder ‘leefbaar’ bestempeld. Pas sinds begin 2022 is het CBS overgegaan op een nieuwe indeling, waarin minder bepalend is waar iemands ouders vandaan komen, en meer bepalend waar iemand zélf geboren is. Dit betekent dus dat overheidsinstanties nog steeds data over je achtergrond kunnen gebruiken om een onderscheid te maken tussen groepen mensen, buurten of steden. Datadialoog Data-discriminatie komt niet voort uit racistische overheidsmedewerkers die meer ongelijkheid willen creëren of bepaalde bevolkingsgroepen het leven zuur willen maken. Het is het gevolg van een manier van denken die sterk is verweven met de Nederlandse cultuur. Volgens Van Schie speelt cultuur een grote rol in het bepalen waar we data over verzamelen en waar niet. “Als je wil weten wat de etnische samenstelling van de gevangenispopulatie in Nederland is, kun je naar het CBS en vind je het zo. Maar als je iets wil weten over de diversiteit in hoogleraren in Nederland, zijn daar geen gegevens over.” Systemen als de Leefbarometer zijn dus niet neutraal of objectief, omdat mensen met een bepaalde culturele blik zélf de categorieën in zo’n systeem bedenken. Het afnemen van een culturele bril gaat niet vanzelf, maar vergt aandacht. Hoe lossen we dit op? Hoogleraar Inlichtingen en Recht prof. mr. Jan-Jaap Oerlemans (UU) pleit voor meer dialoog en openheid over de manier waarop overheidsinstanties met gegevens omgaan. Hij ziet dat steeds meer overheidsinstanties gegevens over burgers verzamelen. Maar hoe ver mogen ze hierin gaan? “Deze vraag wordt vaak niet genoeg publiekelijk besproken. Dat moeten we wél doen,” zegt Oerlemans. Hij legt uit dat er te weinig toezicht is en dat adequate wetgeving eigenlijk nog ontbreekt. Hierdoor kunnen overheidsinstanties te ver gaan bij het verzamelen van inlichtingen en is het soms bijvoorbeeld niet duidelijk wat er met niet-gebruikte gegevens gebeurt. Ook ethicus mr. dr. Bart Wernaart benadrukt het belang van het voeren van het gesprek over de datahonger van overheidsinstanties. Hij legt uit dat datatechnologie een prominentere plek op de publieke agenda nodig heeft. Er bestaat namelijk een zogenaamd democratisch deficit als het hierom gaat: “Technologie speelt nauwelijks een rol in de verkiezingen en de politiek, terwijl het een grote rol speelt in ons leven.” Om dit probleem aan te pakken en te kunnen bepalen wat overheidsinstanties wel en niet mogen doen met persoonsgegevens, moet er volgens Wernaart eerst iets gebeuren met de gevoelens in de samenleving. “Je kunt niet wachten tot de wetgeving er iets mee doet: dan ben je te laat.” Dit artikel vercheen eerder bij Studium Generale Utrecht.

Door: Foto: Afbeelding Ari He via Unsplash.

Closing Time | Oceanic

, door

Zo’n 90 procent van de geluiden die je hoort op het album Choral Feeling van Oceanic zijn stemmen, hoewel vaak niet meer als zodanig herkenbaar, wat ertoe leidt dat je tijdens het luisteren bij elk instrument of beat of melodie probeert te ontdekken of het een stem is of niet. Oceanic is gefascineerd door stemmen en zang: “Als je op een synth een C indrukt is het altijd een C. Daarvoor koop je zo’n ding natuurlijk ook. Maar een stem heeft altijd een vibrato, hij zwerft om een toon heen. Als je dat omlaag pitcht tot een bas krijg je een onzuivere toon. Het wordt nooit strak. Het is allemaal menselijk.”

Doe het veilig met NordVPN

Mededeling

Sargasso heeft privacy hoog in het vaandel staan. Nu we allemaal meer dingen online doen is een goede VPN-service belangrijk om je privacy te beschermen. Volgens techsite CNET is NordVPN de meest betrouwbare en veilige VPN-service. De app is makkelijk in gebruik en je kunt tot zes verbindingen tegelijk tot stand brengen. NordVPN kwam bij een speedtest als pijlsnel uit de bus en is dus ook geschikt als je wil gamen, Netflixen of downloaden.

Foto: people looking at Picasso Guernica, gemaakt met DALL·E 2.

Kunst op Zondag | Artificieel intelligent plagiaat

, door

ChatGPT pleegt plagiaat. De artificieel intelligente tekstrobot is leuk in het nieuws geweest (ook bij Sargasso). Van complimenten over hoe vlot er een redelijk aardige tekst uit komt, tot waarschuwingen over misbruik (bijvoorbeeld studenten die hun proefwerk door ChatGPT laten maken).

Maar tot nu toe is niemand nog op het idee gekomen ChatGPT (of de ontwerpers en eigenaars daarvan) voor de rechter te slepen wegens plagiaat. Bij AI-tools voor beeldende kunst, waar je ook met een paar woorden je eigen meesterwerkje kan maken, is dat sinds kort wel aan de orde.

De Amerikaanse kunstenaars Sarah Andersen, Kelly McKernan en Karla Ortiz hebben een rechtszaak aangespannen tegen de makers van de kunstgeneratoren Stable Diffusion, de Discord-interface van Midjourney en het internetplatform DeviantArt, dat de AI-kunstgenerator DreamUp maakt.

De kwestie: de kunstgeneratoren schenden de auteursrechten van de kunstenaars.  De software maakt immers gebruik van  auteursrechtelijk beschermde werken van miljoenen kunstenaars.

Hoe een rechter volgens de Amerikaanse wetgeving daar over zal oordelen is gissen. Maar een voorzichtige proef op de som laat zien dat ze wel degelijk enige kans hebben. En dat kan de makers van de AI-kunstgeneratoren een flinke duit aan schadevergoeding gaan kosten.

Deze ‘Nighthawks’, gemaakt met Stable Diffusion…

Foto: Inland tanker Vlissingen. Foto BoH, CC BY-SA 3.0, via Wikimedia Commons.

Varend ontgassen en internationaal vs nationaal recht

, door

Eerder deze week publiceerde Sargasso over het rapport van ‘Floating Degassing in the Netherlands: Rights and Obligations under International Law‘. De eerdere publicatie was vooral op basis van berichtgeving bij Omroep Flevoland en NRC. Inmiddels hebben we het rapport zelf doorgelezen, een presentatie over het rapport door de onderzoekers bijgewoond en de reactie van de minister gelezen. Tijd dus voor wat meer inhoudelijke duiding. Te beginnen bij het rapport van de Erasmus Universiteit. Kleine spoiler: de onderzoekers van de Erasmus Universiteit hebben nog niet gereageerd op de brief van Minister Harbers.

Ontstaansgeschiedenis van rapport

Het rapport is het gevolg van een vraag van Omroep Flevoland aan de Erasmus Universiteit. Een vraag die deels voort is gekomen uit overleg van ondergetekende met Omroep Flevoland over het ontbreken van de onderbouwing van het internationale verbod op een nationaal verbod op varend ontgassen. NRC heeft zich later aangesloten bij Omroep Flevoland. Sargasso is daarbij helaas buiten de boot gevallen, als vrijwilligersclub hebben we nou eenmaal niet het geld en de capaciteit om volop mee te draaien in een dergelijk onderzoekstraject. Niks mis mee, Omroep Flevoland en NRC hebben belangrijke informatie boven tafel gekregen.

Die informatie verder gaat dan enkel het rapport. Bijvoorbeeld dat binnenvaarttankers nog steeds ontgassen in Natura2000 gebied (De Biesbosch) in provincies met een provinciaal ontgasverbod. Dat schippers en hun bemanning last hebben van gezondheidsklachten tijdens het varend ontgassen en dat de Inspectie Leefomgeving & Transport de rol van de Arbeidsinspectie vervuld bij binnenvaarttankers. Een taak die volgens de Inspectie niet bovenaan hun prioriteitenlijst staat en waar je je van kunt afvragen of het bij hun kerntaken hoort. Vraag aan de politiek: hebben schippers en hun bemanning niet gewoon recht op een veilige, gezonde werkomgeving en een fatsoenlijke inspectie met verstand van arbeidsomstandigheden die daar op toe ziet? Het gaat om zeer zorgwekkende stoffen, stoffen waar in elke sector strikte voorwaarden voor blootstelling tijdens werk gelden. Voor benzeen is de maximale blootstelling 0,2 ppm of 8 mg/m3 gedurende 8 uur. Ik betwijfel of die concentratie gehaald wordt op binnenvaarttankers tijdens het varend ontgassen van benzeen…

Lezen: De BVD in de politiek, door Jos van Dijk

Mededeling

Tot het eind van de Koude Oorlog heeft de BVD de CPN in de gaten gehouden. Maar de dienst deed veel meer dan spioneren. Op basis van nieuw archiefmateriaal van de AIVD laat dit boek zien hoe de geheime dienst in de jaren vijftig en zestig het communisme in Nederland probeerde te ondermijnen. De BVD zette tot tweemaal toe personeel en financiële middelen in voor een concurrerende communistische partij. BVD-agenten hielpen actief mee met geld inzamelen voor de verkiezingscampagne. De regering liet deze operaties oogluikend toe. Het parlement wist van niets.

Closing Time | Macy Gray – Creep

, door

Een heel lekkere cover. Macy Gray vetolkt ‘Creep’ van Radiohead.

Typisch voorbeeld van een heerlijk nummer, met eigenlijk een verschrikkelijke tekst. Gebeurt me wel vaker: de muziek is het eerste wat me opvalt, dat lekkere sensuele  ritme, achter die heerlijk strakke bas en drums, dat mooi vette orgel, die fantastische, toch wat bluesy rauwe stem van Macy Gray.

De tekst luister ik amper naar en dan blijkt achter dat fraai geluid een toch wat akelig liefdesliedje schuil te gaan.

Foto: Bron: Livius.org

Plato (15): De ideeënleer, of vormenleer

, door

Dit is de vijftiende aflevering van een reeks over de Atheense filosoof Plato, die veel mensen vooral kennen om zijn zogenoemde ideeënleer, om de Platonische liefde, en om zijn ideale filosofenstaat. Dat is echter wat misleidend. Plato’s filosofie is breder en gaat dieper.] 

Wat betreft de onsterfelijkheid van de ziel meende Plato een rationeel bewijs te hebben gevonden. Zijn argumentatie gaat ongeveer als volgt:

Wat maakt dat wij een mens als een mens zien, een paard als een paard, en een tafel als een tafel? Iedere individuele verschijning verschilt toch wel iets van het beeld dat we van die dingen bij ons dragen? En toch herkennen we al die voorwerpen meteen als dat wat ze zijn.

De ideeën

Kennelijk, zegt Plato, herkennen wij in de verschillende waarnemingen iets van een abstract begrip. We hebben klaarblijkelijk een blauwdruk in ons hoofd van hoe een mens, een paard en een tafel eruit moeten zien. En dat geldt niet alleen voor het idee van een mens, van een paard en van een tafel, maar ook voor abstracte ideeën als ‘het goede’ en ‘het schone’.

Maar hoe zijn we aan die ideeën gekomen? Volgens Plato is alle kennis bij onze geboorte al in de geest aanwezig. Iets nieuws leren is volgens hem niets meer dan iets herkennen.

Foto: Heather Sunderland (cc)

Finland tussen ‘realpolitik’ en duurzaamheid

, door

‘Desnoods gaan we alleen’. Zo reageerde de Finse minister van Buitenlandse Zaken Pekka Haavisto op de bezwaren van de Turkse president Erdogan tegen aspirant NAVO-lid Zweden. ‘Vanwege de veiligheid van beide landen heeft het natuurlijk de voorkeur om gezamenlijk op te trekken’, zegt Haavisto, ‘maar we moeten ook bereid zijn om dat standpunt te herzien. Is er iets gebeurd dat de toetreding van Zweden op de lange termijn zal vertragen? Het is nu nog te vroeg om daar definitieve uitspraken over te doen.’ Zweden zal de komende tijd alles doen om samen te kunnen blijven optrekken. Van Erdogan mag verwacht worden dat hij minstens tot de Turkse presidentesverkiezingen zijn best zal blijven doen om het maximale te halen uit zijn veto voor de toetreding van nieuwe NAVO-lidstaten. Voor Erdogan is het allemaal onderdeel van zijn verkiezingscampagne. Hij manifesteert zich als de sterke man met wie niet te spotten valt, niet alleen tegenover zijn binnenlandse kiezers, maar vooral ook voor de grote migrantenpopulaties in het buitenland. Die zijn net als in het verleden van groot belang om zijn positie te versterken, zeker nu er binnenslands veel kritiek is op zijn regering.

Het is niet erg waarschijnlijk dat Finland komende zomer, als er over het NAVO-lidmaatschap moet worden besloten, zijn buurland zal laten vallen. Beide landen hebben van begin af aan gezegd gezamenlijk te willen optreden. Maar in Finland, dat een 1300 kilometerlange grens met Rusland heeft, is de angst voor een Russische inval net iets groter. Tekenend is dat Finland deze week akkoord is gegaan met een van Erdogans voorwaarden: de opheffing van het wapenexportverbod naar Turkije. Finland zal de export naar Turkije hervatten van staal dat wordt gebruikt bij de productie van bepantsering voor militair materieel, zo maakte het Finse ministerie van Defensie bekend. Het ministerie plaatste tegelijkertijd bij het Zweedse bedrijf Saab een order voor een nieuw luchtafweersysteem. Finland gaat ook meedoen aan de levering van Leopardtanks aan Oekraïne.

Lezen: Venus in het gras, door Christian Jongeneel

Mededeling

Op een vroege zomerochtend loopt de negentienjarige Simone naakt weg van haar vaders boerderij. Ze overtuigt een passerende automobiliste ervan om haar mee te nemen naar een afgelegen vakantiehuis in het zuiden van Frankrijk. Daar ontwikkelt zich een fragiele verstandhouding tussen de twee vrouwen.

Wat een fijne roman is Venus in het gras! Nog nooit kon ik zoveel scènes tijdens het lezen bijna ruiken: de Franse tuin vol kruiden, de schapen in de stal, het versgemaaide gras. – Ionica Smeets, voorzitter Libris Literatuurprijs 2020.

Closing Time | Miraculous Activist

, door

Morgen gaat Extinction Rebellion demonstreren tegen de enorme fosssiele subsidies van onze overheid door de A12 tussen het Ministerie van Economische Zaken en de Tweede Kamer te blokkeren. Afgelopen week kreeg de demonstratie er een doel bij: opkomen voor demonstratievrijheid, toen het OM besloot acht zeven XR-activisten te arresteren, zuiver omdat ze opriepen tot een protest.

De rationale van de overheid – het blokkeren van een snelweg is strafbaar, dus dit is opruiing en daarmee verboden – kan misschien redelijk klinken, maar is het niet. Amnesty International en het Europees Hof voor de Rechten van de mens zijn het daar alvast mee oneens.

Foto: Schermafbeelding documentaire Notes Under a Cherry Tree (2022) van Suspilne Novyny, Oekraïne

Docu van de week | Notes under the cherry tree

, door

Stevo Akkerman. journalist en vaste columnist van dagblad Trouw, riep de Nederlandse televisie op (betaalmuur) de documentaire ‘Notes under the cherry tree’ uit te zenden. Dat gaat over de moord op de Oekraïense dichter en kinderboekenschrijver Volodymyr Vakoelenko.

Volodymyr Vakoelenko werd door de Russen doodgeschoten tijdens de bezetting van Izium, een stad in de provincie Kharkiv Oblast. Nadat de stad werd bevrijd door Oekraïense troepen werden massagraven ontdekt.

Na de bevrijding van Izium gingen journalisten van ‘Suspilne Novyny’ (de Oekraïense nieuwszender) op zoek naar Volodymyr Vakoelenko. Mede aan de hand van notities uit het dagboek van Vakuleko, dat hij had begraven onder een kersenboom, resulteerde dit in een documentaire “over de vernedering en uitroeiing van Oekraïense burgers door toedoen van het Russische regime, getoond aan de hand van het tragische verhaal van een kinderschrijver”, zegt Kateryna Lyhoglyad, de regisseur van de film.

‘Notes under the cherry tree’ ging 29 december 2022 in première op het Youtubekanaal van Suspilne Novyny.

Meer te lezen bij het IMI (Institute of Mass Information), een non-profit, niet-gouvernementele organisatie die sinds 1995 in de publieke sector werkt en projecten uitvoert die ‘gericht zijn op het vergroten van de positieve invloed van de media op de vestiging van het maatschappelijk middenveld in Oekraïne’.

Closing Time | Ikonika

, door

Ikonika (aka Sara Abdel-Hamid) was zo’n tien jaar terug een van de eerste en weinige vrouwen in de dubstep-scene. Niet helemaal mijn genre maar dit nummer van haar EP I make lists uit 2012 is – *schraapt keel* – wel fijn.

Lezen: Bedrieglijk echt, door Jona Lendering

Mededeling

Bedrieglijk echt gaat over papyrologie en dan vooral over de wedloop tussen wetenschappers en vervalsers. De aanleiding tot het schrijven van het boekje is het Evangelie van de Vrouw van Jezus, dat opdook in het najaar van 2012 en waarvan al na drie weken vaststond dat het een vervalsing was. Ik heb toen aangegeven dat het vreemd was dat de onderzoekster, toen eenmaal duidelijk was dat deze tekst met geen mogelijkheid antiek kon zijn, beweerde dat het lab uitsluitsel kon geven.

Vorige Volgende