Waarheid voor chatbots

Wat is onwaar? De komst van chatbots heeft weer een nieuwe draai gegeven aan die vraag. Het is inmiddels vermoedelijk algemeen bekend dat chatbots niet altijd de waarheid zeggen. Maar wat is dat dan voor onwaarheid? Het is bijvoorbeeld geen leugen, aangezien een leugen altijd een intentie tot misleiden vereist, iets wat (vermoedelijk) afwezig is bij chatbots. We noemen het daarom vaak hallucinatie, al is ook dat een niet helemaal geschikte term, bijvoorbeeld omdat hij veronderstelt dat er voor de chatbot een verschil is tussen wakend en dromend denken, maar voor die chatbots is het (vermoedelijk) allemaal hetzelfde. Voor zover we chatbots begrijpen, hebben ze helemaal geen notie van waarheid – of iets waar is of onwaar, speelt geen rol in hun overwegingen om iets te zeggen, andere criteria (hoevaak komen woorden in elkaars omgeving voor) zijn daarin veel belangrijker. Vandaar dat bots moeite hebben met het woord niet: de zin hij komt niet heeft ongeveer dezelfde plausibiliteit als hij komt. Waterdruppels Alleen willen menselijke gebruikers wel iets anders. ChatGPT is inmiddels bijna anderhalf jaar beschikbaar, en nog steeds vind je op sociale media mensen die geamuseerd of verontwaardigd voorbeelden geven van onzinnige chatbotantwoorden op zinnige vragen. Een begrip van waarheid inbouwen in die chatbots staat daarom waarschijnlijk hoog op het lijstje van ontwikkelaars. Daarvoor is dan weer een goed criterium nodig om hallucinaties te classificeren. In het tijdschrift Computational linguistics komt Kees van Deemter met een oplossing: de klassieke logica. Dat is een vak dat al duizenden jaren nadenkt over wat een bewering wel of niet waar maakt, en Van Deemter zegt dat die hier ook al iets over kan zeggen. Een belangrijk begrip in de logica is ‘volgen uit’. Uit de bewering dat Marie zingt volgt dat Marie geluid maakt, maar het omgekeerde is niet waar: uit de bewering dat Marie geluid maakt volgt niet noodzakelijkerwijs dat ze ook zingt. Soms volgen twee beweringen wel uit elkaar dan zijn ze equivalent: uit de bewering dat het regent volgt dat er waterdruppels uit de hemel vallen, en het omgekeerde is ook waar. Omissies Dit begrip ‘volgen uit’ zou je ook kunnen gebruiken voor hallucinaties, zegt Van Deemter. Stel dat je weet dat de volgende drie zaken feiten zijn over Panuozzo: Panuozzo is Italiaans en Panuozzo is een restaurant en de prijzen bij Panuozzo zijn laag Verschillende chatbots wordt nu gevraagd iets te zeggen over Panuozzo. Dan kunnen zich onder andere de volgende beweringen voordoen: Panuozzo is een betaalbaar Italiaans restaurant. [waar] Panuozzo is een betaalbaar restaurant [weglating] Panuozzo is een betaalbaar veganistisch Italiaans restaurant [toevoeging] In het laatste geval zouden we zeggen dat de chatbot hallucineert: hij voegt iets toe aan de mededeling dat niet correspondeert met de bekende waarheid. Maar wat nu over de volgende mededeling: Panuozzo is een betaalbaar Frans restaurant. Je zou kunnen zeggen dat hier zowel een feit wordt weggelaten (dat het een Italiaans restaurant is) als wordt toegevoegd (dat het een Frans restaurant) zou zijn. Dit soort betrekkelijk eenvoudige bewerkingen maken het mogelijk om de afwijkingen van de waarheid, en dus de mate waarin een systeem hallucineert, te kwantificeren (‘een duur Frans restaurant’ zijn twee afwijkingen en ‘een duur veganistisch Italiaans restaurant’ is er één). In ieder geval in principe, want in werkelijkheid is de verzameling dingen die mogelijk wel of niet waar zijn over Panuozzo natuurlijk veel groter dan drie (het is gevestigd in Utrecht, het heeft zelfs twee vestigingen, er staan allerlei dingen op de menukaart die je kunt opsommen, enzovoort), dus met name het aantal omissies is in een willekeurige mededeling al snel heel groot. Output Zoals omgekeerd er natuurlijk feiten zijn die soms volgen uit elkaar. Als we weten dat Panuozzo een Italiaans restaurant is, weten we ook dat het een Mediterraan restaurant is. Dat te beweren is dus geen hallucinatie maar met de mededeling ‘Panuozzo is een betaalbaar Mediterraans Italiaans restaurant’ is wel weer iets anders mis: redundantie. We zijn er nog lang niet uit, maar het is interessant dat ook een van de oudste disciplines ter wereld – die van de logica – nog wat te zeggen heeft bij de beoordeling van de output van chatbots.

Door: Foto: ter illustratie Restaurant O'Panuozzo Utrecht, via Marc van Oostendorp op Neerlandistiek.

Closing Time | Please

Gedurende de jaren negentig werden Noord-Ierland en diverse Britse steden opgeschrikt door terreur- en moordcampagnes van de IRA en de Irish National Liberation Army (INLA).

De protestantse Ieren (nazaten van Britse kolonisten) hadden op hun beurt hun eigen paramilitaire groepen, zoals de Ulster Defense Association (UDA) en het Ulster Volunteer Army (UVA) die eveneens moordaanslagen pleegden. Interne onenigheid en weerstand tegen verzoeningspogingen met de Britse overheid leidden afsplitsingen als de Loyalist Volunteer Force (LVF) en een paar jaar later de ‘Real IRA’.

Lezen: Venus in het gras, door Christian Jongeneel

Op een vroege zomerochtend loopt de negentienjarige Simone naakt weg van haar vaders boerderij. Ze overtuigt een passerende automobiliste ervan om haar mee te nemen naar een afgelegen vakantiehuis in het zuiden van Frankrijk. Daar ontwikkelt zich een fragiele verstandhouding tussen de twee vrouwen.

Wat een fijne roman is Venus in het gras! Nog nooit kon ik zoveel scènes tijdens het lezen bijna ruiken: de Franse tuin vol kruiden, de schapen in de stal, het versgemaaide gras. – Ionica Smeets, voorzitter Libris Literatuurprijs 2020.

Gebrek aan concentratie

RECENSIE - Ik ging ietwat verstrooid van huis en bedacht, op weg naar de tram, dat ik mijn boek was vergeten. Mijn concentratie was weer eens minder dan gewenst. Het gebrek aan lectuur was des te urgenter omdat de tram net voor mijn neus wegreed. Ik loste het op door in de nabijgelegen kiosk een boek te kopen dat mijn belangstelling al wat langer had: Johann Hari, Stolen Focus. Why You Can’t Pay Attention (2022). Dat bleek een gelukkige aanschaf. Sterker nog, ik was er zó in verdiept, dat ik niet in de gaten had dat ik ook de volgende tram miste.

Het informatieoverschot

Hari claimt – en onderbouwt – dat mensen in de westerse samenleving steeds meer moeite hebben met concentratie. Dat is in elk geval iets dat ik voor mij herken en ik heb daarom bijvoorbeeld geen e-mail op mijn draagbare telefoon. Het prettige van Hari’s boek is dat hij niet de cultuurpessimist uithangt, beweert dat vroeger alles beter was of over álles loopt te jeremiëren. Hij accepteert de technologie als een kracht voor het goede, maar ziet wel dat ze maatschappelijk anders moet worden ingebed. Hieronder is mijn uittreksel van Hari’s boek, dat overigens geen zelfhulpboek is. Aan het einde schrijft hij ontwapenend dat zijn eigen pogingen te komen tot betere concentratie slechts beperkt resultaat hebben gehad.

Foto: Diederik van Dijk, CC BY-SA 4.0, via Wikimedia Commons.

SGP is constitutioneel kompas kwijtgeraakt

COLUMN - van Prof. Dr. Bert van den Braak.

Woensdag 28 februari was er een unicum in de Tweede Kamer. Dat deed zich voor bij de behandeling van het wetsvoorstel om een elfde gemeente toe te voegen aan de lijst van gemeenten waar het coffeeshop-experiment mag plaatsvinden. SGP’er Diederik van Dijk diende een motie in om de Kamer te laten uitspreken dat het D66-initiatiefvoorstel over het invoeren van de gesloten coffeeshopketen dient te worden ingetrokken. Dat wetsvoorstel ligt bij de Eerste Kamer.

Van Dijk stelt: het door de Tweede Kamer op 21 februari 2017 aangenomen initiatiefvoorstel is op grond van artikel 82, 1e lid een initiatiefwetsvoorstel van de Tweede Kamer geworden en zij gaat erover.

Het initiatiefvoorstel werd in 2015 ingediend door Vera Bergkamp en door haar in 2017 met succes verdedigd in de Tweede Kamer. Daarmee werd het inderdaad formeel een initiatiefvoorstel van de Tweede Kamer. Die droeg Bergkamp op het wetsvoorstel in de Eerste Kamer te verdedigen. Zij gaf die verdediging in juni 2021 (na haar verkiezing tot Kamervoorzitter) over aan haar fractiegenoten Joost Sneller en Sjoerd Sjoerdsma.

Formeel is het de Tweede Kamer die kan besluiten tot intrekking. Dat is sinds 1945 zeven maal gebeurd. Zo werd in 1956 een eerstelezingsvoorstel over regeling van een parlementsloze periode (ingediend door P.J. Oud) ingetrokken. Hetzelfde gold in mei 2023 met een initiatiefvoorstel van VVD en CDA over het laten vervallen van het verplichte voorzitterschap van raadscommissies door raadsleden, Statenleden en eilandsraadsleden.

Lezen: De BVD in de politiek, door Jos van Dijk

Tot het eind van de Koude Oorlog heeft de BVD de CPN in de gaten gehouden. Maar de dienst deed veel meer dan spioneren. Op basis van nieuw archiefmateriaal van de AIVD laat dit boek zien hoe de geheime dienst in de jaren vijftig en zestig het communisme in Nederland probeerde te ondermijnen. De BVD zette tot tweemaal toe personeel en financiële middelen in voor een concurrerende communistische partij. BVD-agenten hielpen actief mee met geld inzamelen voor de verkiezingscampagne. De regering liet deze operaties oogluikend toe. Het parlement wist van niets.

Closing Time | Why Am I Treated So Bad

Gewoon drie rasmuzikanten die al jammend plezier met elkaar maken. Norah Jones zal iedereen nog wel kennen van haar debuutalbum, waarmee ze doorbrak als pop en jazz-zangeres.

Questlove is bekend als drummer (onder meer voor The Roots), platenproducent en programmamaker. En Christian McBride op bas heeft een lange carrière achter de rug als jazzmuzikant en bandleider.

Marcus Aurelius (4): Naar een andere tijd

In sommige filosofische verhandelingen worden de late stoïcijnen beschouwd als de voorlopers en wegbereiders van het christendom. Overeenkomsten zijn er zeker. De stoïcijnen hadden een vorm van religieus bewustzijn ontwikkeld waarin ze het hadden over een God die ze soms zelfs met ‘vader’ aanspraken. Hun geschriften werden door de eerste christelijke filosofen en kerkvaders ook vaak hoog gewaardeerd om hun beschrijvingen van de deugd.

Het stoïcijnse godsbeeld was echter fundamenteel anders dan dat van het christendom. Hoe religieus de stoa ook aandoet, het blijft een rationele filosofie. Ondanks het geloof in determinisme is er in de stoa geen sprake van blind geloof of overgave, zoals in meer mystieke stromingen zoals het christendom.

Marcus Aurelius zag het christendom dan ook als een valse religie, die de mensen voorhield dat zij op een gemakkelijke manier verlichting konden bereiken, door gewoon een paar geboden te volgen en voor de rest in Jezus te geloven, in plaats van door zichzelf te disciplineren door lange studie, zoals stoïcijnen dat doen.

Spinoza

In dat kader is het misschien eens leuk een enorme stap vooruit te doen, en te verwijzen naar Benedictus de Spinoza, de zeventiende-eeuwse Nederlandse filosoof met Joods-Portugese voorouders. Spinoza had een godsbeeld en een filosofie die opvallende overeenkomsten vertonen met die van de stoïcijnen: een pantheïstische visie, met een rationeel kenbare God die samenviel met de natuur. Spinoza moest niets hebben van het joods-christelijke godsbeeld.

Closing Time | God

Ik las dat naast Jordan Peterson en Ayaan Hirsi Ali, nu ook Russel Brand, Joe Rogan en zelfs Elon Musk het christendom aan het herontdekken zijn.

God beware ons…

Closing Time | The Super-It

Het voorjaar zit in de lucht. Vandaar een vrolijk deuntje van de Anglo-Franse avantpopformatie Stereolab. Volgens sommigen een van de invloedrijkste en origineelste bands uit de jaren negentig.

Rojava: een vergeten experiment

Het democratisch-socialistische experiment in de Koerdische regio Rojava lijdt onder onophoudelijke Turkse bombardementen.

‘Sinds oktober 2023 heeft het Turkse leger dagelijks de dorpen, steden en civiele infrastructuur van Rojava in het Noordoosten van Syrië gebombardeerd – ondersteund door wapenleveranties uit de Verenigde Staten en andere westerse landen. Ongeveer 80 procent van de elektriciteits- en waterstations is verwoest, waardoor miljoenen mensen zonder verwarming, energie en voldoende watervoorziening zitten. En terwijl de Turkse president Recep Tayyip Erdoğan de Israëlische genocide tegen de Palestijnen veroordeelt, maakt hij hypocriet misbruik van de aandacht van de wereld voor Gaza om de zijne te verbergen.’

Doneer!

Sargasso is een laagdrempelig platform waarop mensen kunnen publiceren, reageren en discussiëren, vanuit de overtuiging dat bloggers en lezers elkaar aanvullen en versterken. Sargasso heeft een progressieve signatuur, maar is niet dogmatisch. We zijn onbeschaamd intellectueel en kosmopolitisch, maar tegelijkertijd hopeloos genuanceerd. Dat betekent dat we de wereld vanuit een bepaald perspectief bezien, maar openstaan voor andere zienswijzen.

In de rijke historie van Sargasso – een van de oudste blogs van Nederland – vind je onder meer de introductie van het liveblog in Nederland, het munten van de term reaguurder, het op de kaart zetten van datajournalistiek, de strijd voor meer transparantie in het openbaar bestuur (getuige de vele Wob-procedures die Sargasso gevoerd heeft) en de jaarlijkse uitreiking van de Gouden Hockeystick voor de klimaatontkenner van het jaar.

Vorige Volgende