The purpose of a system…

COLUMN - AI maakt onze blik op de wereld kleiner, lazen we hier  gisteren. AI put uit bij elkaar geveegde, bestaande kennis. Kennis die achter ons ligt en dus per definitie nooit iets nieuws op zal leveren. Melanie Mitchell, een autoriteit op het gebied van intelligentie, AI en complexiteit, ziet nog iets anders: de nieuwste chatbots zijn getraind op het ‘pleasen’ van gebruikers. Dat maakt mensen „kwetsbaar voor manipulatie”, zegt ze in een interview met de NRC.

Mitchell deed onderzoek naar de prestaties van ChatGPT. Ze herhaalde met een paar kleine wijzigingen eerder onderzoek waarbij ChatGPT op een intelligentietest beter scoorde dan bachelor psychologiestudenten en kwam tot andere resultaten. Dat had volgens haar te maken met het feit dat AI analogieën niet begrijpt. ‘Opvallend genoeg deden de oudere chatbots het in ons onderzoek iets beter dan de nieuwere.’ Mitchell vermoedt dat dat komt ‘omdat nieuwere versies nóg meer getraind zijn op het pleasen van mensen. Omdat die het zo graag goed willen doen, althans, daarop getraind zijn, zouden juist eerder fouten kunnen ontstaan.’

Mitchell maakt zich grote zorgen over deze ontwikkeling. ‘AI’s zijn getraind om gebruikers voortdurend te bevestigen en positief aan te moedigen, terwijl wij mensen juist geëvolueerd zijn om daar gevoelig voor te zijn. Er zijn zelfs voorbeelden van gebruikers van de technologie die in een psychose belandden doordat een AI klakkeloos meeging in waanbeelden. Maar ook kunnen bedrijven met behulp van hun AI’s mensen ertoe verleiden om bepaalde producten te kopen of te stemmen op een bepaalde partij.’

COLUMN - Nouraldin Alsweirki, een Palestijnse softwareontwikkelaar uit Gaza werkte als kennismigrant najaar 2023 voor het Nederlands bedrijf Speakap. Hij werd ontslagen vanwege de steun die hij op LinkedIn uitsprak voor het Palestijnse recht op verzet tegen de Israëlische bezetting. Volgens het bedrijf zorgde zijn standpunten voor een ‘onveilige werkomgeving’. Op 1 juni 2024 stelde het College voor de Rechten van de Mens hem in het gelijk, en in november 2024 oordeelde de rechtbank van Amsterdam dat Speakap zich schuldig heeft gemaakt aan discriminatie op basis van politieke overtuiging. Het bedrijf moet Alsweirki 45 duizend euro schadevergoeding betalen voor onrechtmatig ontslag en de emotionele schade die hij hierdoor heeft geleden.

Kort nadat de oorlog in Gaza begon werd het huizenblok van zijn familie in Gaza door Israëlische bombardementen weggevaagd. ‘Het lichaam van mijn opa vonden ze pas na dagen zoeken terug onder het puin. Ook mijn oma en oom waren vermoord,’ vertelde hij aan De Volkskrant. Zelf woont Alsweirki op dat moment in Turkije. Terwijl hij zich opmaakt voor zijn verhuizing naar Nederland, uit hij in tal van berichten op LinkedIn zijn woede over het Israëlische optreden. ‘To hell with Israel, to hell with the occupation, free Palestine’, schrijft hij onder meer. ‘I stand against the occupying aggressor, long live the resistance.’

COLUMN - Caelesta Braun maakt zich zorgen over de geringe ontvankelijkheid van de huidige coalitiepartijen voor kritiek, adviezen en oproepen uit de samenleving.

Ik moest laatst denken aan het gedicht ‘lekker stout’, een van die treffende gedichten van Annie M.G. Schmidt. Het gedicht begint met: “ik wil niet meer, ik wil niet meer…”. Vervolgens word je meegenomen in een tirade van onwil, om daarna over alle stoute dingen te lezen die de ik-persoon wel wil, bijvoorbeeld: “ik wil heel hard stampen in een plas en dan m’n tong uitsteken.” Om dan uiteindelijk bij de afsluitende zin aan te komen: “en als ze kwaad zijn, zeg ik: Bil!”

Wie het gedicht als ouder leest, herkent de opstandige (peuter)puber. Je ziet ze voor je. Vaak ook nog stampvoetend en met de handen tegen de oren: “Ik luister niet, lekker puh, je kan me toch niks maken.” Dat is ook de boodschap van het gedicht: gewoon lekker overal tegenaan schoppen en je nergens iets van aantrekken. De wijze ouder bakent stevig af en wacht geduldig, wetende dat dit gedrag tijdelijk is en hoort bij de ontwikkeling van peuters naar kinderen en van pubers naar volwassenheid.

Bij mij roept dit gedicht niet alleen associaties op met (peuter)pubergedrag, maar het doet mij juist ook denken aan de huidige coalitiepartijen. De onwil om te luisteren naar de wereld om hen heen en er betekenisvol naar te handelen nemen zorgelijke vormen aan. Medeoverheden, uitvoeringsorganisaties, adviesraden, wetenschappers, journalisten, rechters, maatschappelijke organisaties; ze kunnen allemaal roepen tot ze een ons wegen. Geen gehoor. “Ik luister lekker toch niet.”

COLUMN - Klimaatactiegroep Extinction Rebellion (XR) spant een kort geding aan tegen de politie. De actiegroep eist dat de politie niet langer demonstranten thuis opzoekt. Het gebeurt vaker dat agenten bij deelnemers aan demonstraties aanbellen. Een recent geval van een vrouw in Amersfoort, die het gesprek met de agenten opnam, toont een absurde conversatie tussen een vertegenwoordiger van het staatsgezag en een burger die gebruik maakt van haar demonstratierecht. Je zou het een vorm van grensoverschrijdend gedrag kunnen noemen. De agenten hebben geen enkele reden om de vrouw op te zoeken. Ze zeggen een ‘open gesprek’ te willen over de motivatie van de vrouw om aan een demonstratie tegen de oorlog in Gaza mee te doen. Wat hen totaal niet aangaat. Ze vragen ook naar haar verhuisplannen. Waar ze helemaal niets mee te maken hebben.

De politie heeft intussen excuses aangeboden voor dit specifieke huisbezoek. Maar XR eist meer. En terecht. Wat de politie doet is pure intimidatie. Terwijl het in deze rechtsstaat haar taak is demonstranten te faciliteren en te beschermen. Ook Amnesty International maakt zich al langer zorgen over de privacy van demonstranten. De huisbezoeken leiden tot het criminaliseren van demonstranten, meent AI. In een rapport uit 2023 deden mensen melding van huisbezoeken van agenten. Die zouden zijn uitgevoerd nadat hun identiteitskaart was gecontroleerd bij een demonstratie. NOS Stories sprak in 2022 met mensen die zoiets hadden meegemaakt.

COLUMN - De rechtbank in Den Haag heeft onlangs het besluit van ministers Van Weel (VVD) en Faber (PVV) om drie islamitische predikers te weren, teruggedraaid. De predikers waren uitgenodigd om te komen spreken op de Ramadan Expo in Utrecht. De rechtbank vond geen bewijs voor de vrees van de ministers dat de openbare orde in gevaar zou komen vanwege haatzaaierij en het goedpraten van geweld. Tot ergernis van de beide bewindslieden, die nog steeds van mening zijn dat de retoriek van deze sprekers bijdraagt ‘aan haat en vijandigheid’.

Het is niet de eerste keer dat de regering een poging doet om door haar ongewenste sprekers bij voorbaat het woord te ontnemen. Vorig jaar belette VVD leider Yeşilgöz, toen nog demissionair minister van Justitie, een Australische prediker eenzelfde bijeenkomst van orthodoxe islamieten toe te spreken. Hij besloot zelf van de komst naar Utrecht af te zien. Van Weel, de opvolger van Yeşilgöz, ontzegde vorig jaar oktober Mohammed Khatib van de omstreden pro-Palestijnse organisatie Samidoun de toegang tot ons land voor een lezing op de Radbouduniversiteit. Khatib kwam ook niet en gaf zijn lezing per video.

Nu heeft een van de organisatoren van de lezingen de rechtbank ingeschakeld. De rechter is tot de conclusie gekomen dat de ministers met hun verwijzing naar een rapport van de NCTV onvoldoende grond hebben om de beoogde sprekers vooraf de toegang tot het land te ontzeggen. ‘De enkele stelling dat verzoeker uitlatingen heeft gedaan die kunnen bijdragen aan een klimaat van haat, vijandigheid en geweldsverheerlijking is daartoe in ieder geval onvoldoende specifiek van aard, zeker gelet op de door NCTV geschetste context waarin de uitlatingen van verzoeker veelal zijn gedaan.’ Wat de rechter duidelijk maakt is dat voor een verbod om te spreken meer nodig is dan een vermoeden dat iemand iets gaat zeggen dat velen verwerpelijk achten en dat tot grote maatschappelijke verontwaardiging kan leiden.