Waarheid voor chatbots

Wat is onwaar? De komst van chatbots heeft weer een nieuwe draai gegeven aan die vraag. Het is inmiddels vermoedelijk algemeen bekend dat chatbots niet altijd de waarheid zeggen. Maar wat is dat dan voor onwaarheid? Het is bijvoorbeeld geen leugen, aangezien een leugen altijd een intentie tot misleiden vereist, iets wat (vermoedelijk) afwezig is bij chatbots. We noemen het daarom vaak hallucinatie, al is ook dat een niet helemaal geschikte term, bijvoorbeeld omdat hij veronderstelt dat er voor de chatbot een verschil is tussen wakend en dromend denken, maar voor die chatbots is het (vermoedelijk) allemaal hetzelfde. Voor zover we chatbots begrijpen, hebben ze helemaal geen notie van waarheid – of iets waar is of onwaar, speelt geen rol in hun overwegingen om iets te zeggen, andere criteria (hoevaak komen woorden in elkaars omgeving voor) zijn daarin veel belangrijker. Vandaar dat bots moeite hebben met het woord niet: de zin hij komt niet heeft ongeveer dezelfde plausibiliteit als hij komt. Waterdruppels Alleen willen menselijke gebruikers wel iets anders. ChatGPT is inmiddels bijna anderhalf jaar beschikbaar, en nog steeds vind je op sociale media mensen die geamuseerd of verontwaardigd voorbeelden geven van onzinnige chatbotantwoorden op zinnige vragen. Een begrip van waarheid inbouwen in die chatbots staat daarom waarschijnlijk hoog op het lijstje van ontwikkelaars. Daarvoor is dan weer een goed criterium nodig om hallucinaties te classificeren. In het tijdschrift Computational linguistics komt Kees van Deemter met een oplossing: de klassieke logica. Dat is een vak dat al duizenden jaren nadenkt over wat een bewering wel of niet waar maakt, en Van Deemter zegt dat die hier ook al iets over kan zeggen. Een belangrijk begrip in de logica is ‘volgen uit’. Uit de bewering dat Marie zingt volgt dat Marie geluid maakt, maar het omgekeerde is niet waar: uit de bewering dat Marie geluid maakt volgt niet noodzakelijkerwijs dat ze ook zingt. Soms volgen twee beweringen wel uit elkaar dan zijn ze equivalent: uit de bewering dat het regent volgt dat er waterdruppels uit de hemel vallen, en het omgekeerde is ook waar. Omissies Dit begrip ‘volgen uit’ zou je ook kunnen gebruiken voor hallucinaties, zegt Van Deemter. Stel dat je weet dat de volgende drie zaken feiten zijn over Panuozzo: Panuozzo is Italiaans en Panuozzo is een restaurant en de prijzen bij Panuozzo zijn laag Verschillende chatbots wordt nu gevraagd iets te zeggen over Panuozzo. Dan kunnen zich onder andere de volgende beweringen voordoen: Panuozzo is een betaalbaar Italiaans restaurant. [waar] Panuozzo is een betaalbaar restaurant [weglating] Panuozzo is een betaalbaar veganistisch Italiaans restaurant [toevoeging] In het laatste geval zouden we zeggen dat de chatbot hallucineert: hij voegt iets toe aan de mededeling dat niet correspondeert met de bekende waarheid. Maar wat nu over de volgende mededeling: Panuozzo is een betaalbaar Frans restaurant. Je zou kunnen zeggen dat hier zowel een feit wordt weggelaten (dat het een Italiaans restaurant is) als wordt toegevoegd (dat het een Frans restaurant) zou zijn. Dit soort betrekkelijk eenvoudige bewerkingen maken het mogelijk om de afwijkingen van de waarheid, en dus de mate waarin een systeem hallucineert, te kwantificeren (‘een duur Frans restaurant’ zijn twee afwijkingen en ‘een duur veganistisch Italiaans restaurant’ is er één). In ieder geval in principe, want in werkelijkheid is de verzameling dingen die mogelijk wel of niet waar zijn over Panuozzo natuurlijk veel groter dan drie (het is gevestigd in Utrecht, het heeft zelfs twee vestigingen, er staan allerlei dingen op de menukaart die je kunt opsommen, enzovoort), dus met name het aantal omissies is in een willekeurige mededeling al snel heel groot. Output Zoals omgekeerd er natuurlijk feiten zijn die soms volgen uit elkaar. Als we weten dat Panuozzo een Italiaans restaurant is, weten we ook dat het een Mediterraan restaurant is. Dat te beweren is dus geen hallucinatie maar met de mededeling ‘Panuozzo is een betaalbaar Mediterraans Italiaans restaurant’ is wel weer iets anders mis: redundantie. We zijn er nog lang niet uit, maar het is interessant dat ook een van de oudste disciplines ter wereld – die van de logica – nog wat te zeggen heeft bij de beoordeling van de output van chatbots.

Door: Foto: ter illustratie Restaurant O'Panuozzo Utrecht, via Marc van Oostendorp op Neerlandistiek.
Foto: Mike Roberts (cc)

Waarheid

, door

RECENSIE - ‘Fucking briljant’ staat er op de omslag. Was getekend Sara Knight. Dat is blijkbaar haar mening over dit boek. En dat zou dus een aanbeveling moeten zijn. Sara Knight (ik moest het opzoeken) heeft een aantal zelfhulpboeken op haar naam staan waarin heel vaak de woordjes ‘fuck’ en ‘shit’ voorkomen. Het is haar handelsmerk. Volgens haar kun je gelukkig worden door je fucking shit nergens iets van aan te trekken. Ze verkoopt, kortom, bullshit. En dat geldt ook voor deze aanprijzing. Waarheid, van Tom Phillips, is allesbehalve briljant. Het boek is saai, voorspelbaar, flauw en beside the point. Ik zal dat toelichten.

Phillips studeerde en was sindsdien ‘werkzaam als’ journalist, factchecker en cabaretier. Bij aanvang belooft hij de lezer heel wat. Waarheid, schrijft hij, ‘neemt je mee op een busreisje langs de ongelooflijkste leugens, de krankzinnige onzin en de meest hardnekkige onwaarheden uit de geschiedenis. Veel van wat je hier kunt lezen is werkelijk niet te geloven […] Aan het eind van dit boek zul je begrijpen waarom er nooit een tijdperk van waarheid is geweest en zul je een nieuw soort waardering krijgen voor het schitterende spectrum van nonsens dat wij als soort hebben weten te produceren.’

Lezen: Bedrieglijk echt, door Jona Lendering

Mededeling

Bedrieglijk echt gaat over papyrologie en dan vooral over de wedloop tussen wetenschappers en vervalsers. De aanleiding tot het schrijven van het boekje is het Evangelie van de Vrouw van Jezus, dat opdook in het najaar van 2012 en waarvan al na drie weken vaststond dat het een vervalsing was. Ik heb toen aangegeven dat het vreemd was dat de onderzoekster, toen eenmaal duidelijk was dat deze tekst met geen mogelijkheid antiek kon zijn, beweerde dat het lab uitsluitsel kon geven.

Foto: Sargasso achtergrond wereldbol

Closing Time | Lie to me

, door

Ergens dezer dagen verzuchtte iemand in de reacties: “Het enige wat we kunnen leren is dat we meer naar Tom Waits moeten luisteren.” Dat doen we nu dan ook….

Foto: mkhmarketing (cc)

Een vraagje over de werkelijkheid

, door

OPINIE - Een pleidooi voor een geregelde gedachtewisseling op basis van argumenten.

Een lieve Facebookvriendin van me was nogal ontdaan over mijn kwartetspel-blog. Ze vroeg me in een PB:

Zou het voor jou mogelijk zijn om te overwegen dat er niet één realiteit is?

Daar had ze meteen de kernvraag te pakken. Mijn korte antwoord: er zijn talloos veel realiteiten, want ieder wezen met zelfbewustzijn creëert zijn eigen realiteit, maar er is maar één objectieve realiteit. Met objectieve werkelijkheid bedoel ik datgene om ons heen dat niet verandert ook als we er niet in geloven, de dingen die zijn zoals ze zijn onafhankelijk van hoe wij er over denken.

Juist omdat er een objectieve werkelijkheid is kunnen we er geen van allen onderuit om te proberen onderscheid te maken tussen wat objectief waar is en wat niet. Aan die taak kunnen we ons niet onttrekken met het motto “Iedereen heeft recht op zijn eigen waarheid”, want als al die “eigen waarheden” evenveel waard zouden zijn dan is er in feite geen waarheid meer. Dan zijn alle alternatieve waarheden van Trump even waar als hun tegendeel.

Uit het gesprek dat ontstond werd duidelijk dat mijn Facebookvriendin mijn post onnodig polariserend vond, dat ze liever had gezien dat ik meer respect had getoond naar mensen die er anders over denken dan ik, en dat ze het onprettig vond dat ik schreef alsof ik de waarheid in pacht had. Waar kwam mijn stelligheid vandaan? Zou het niet kunnen zijn dat ik het mis had? Zou ik niet minstens bereid moeten zijn om die mogelijkheid te overwegen? Zou ik niet beter met die mensen uit de kwartetten in gesprek kunnen gaan dan te proberen ze te kijk te zetten?

Foto: jeanbaptisteparis (cc)

De verantwoordelijkheid van intellectuelen en de professionalisering van de wetenschap

, door

COLUMN - “Het is de verantwoordelijkheid van intellectuelen om de waarheid te spreken en leugens aan het licht te brengen.” Dat is een van de bekendste zinnen uit het essay The responsibility of intellectuals waarmee Noam Chomsky in 1967 behalve beroemd in taalkundige kringen ook écht wereldberoemd werd.

Het essay is gratis te lezen op de website die aan Chomsky gewijd is; onlangs verscheen een boek dat ook al gratis (‘open access’) te lezen is bij de uitgever, UCL Press (hulde!)

Chomsky’s essay was in eerste instantie een aanval op de vele Amerikaanse intellectuelen die zich op de een of andere manier lieten gebruiken om de oorlog in Vietnam goed te praten of zelfs om die oorlog te helpen voeren. Maar de meeste van die lui zijn inmiddels dood of hoogbejaard en het zou geheel tegen de geest van het essay zijn om het nu nog over hen te hebben. Want de boodschap zou ons nu nog moeten aanspreken, zoals de essays in het boek (en Chomsky’s uitgebreide antwoorden op die essays) laten zien.

Potentieel schadelijk

Een belangrijk aspect van Chomsky’s betoog is hoe hij het op zich problematische woord intellectueel definieert: in termen van privilege. Hij doet dat bovendien op een heel andere manier dan nu soms gebeurt (waar het een kwestie is van huidskleur en gender), maar in termen van ‘politieke vrijheid, toegang tot informatie en vrijheid van expressie’ en daarnaast vooral in economische termen:

Steun ons!

Mededeling

De redactie van Sargasso bestaat uit een club vrijwilligers. Naast zelf artikelen schrijven struinen we het internet af om interessante artikelen en nieuwswaardige inhoud met lezers te delen. We onderhouden zelf de site en houden als moderator een oogje op de discussies. Je kunt op Sargasso terecht voor artikelen over privacy, klimaat, biodiversiteit, duurzaamheid, politiek, buitenland, religie, economie, wetenschap en het leven van alle dag.

Om Sargasso in stand te houden hebben we wel wat geld nodig. Zodat we de site in de lucht kunnen houden, we af en toe kunnen vergaderen (en borrelen) en om nieuwe dingen te kunnen proberen.

Foto: Sargasso achtergrond wereldbol

Een kleine geschiedenis van de waarheid – Julian Baggini

, door

RECENSIE - door Addie Schulte, redacteur van Boekenstrijd.
© Klement UItgeverij boekomslag Een kleine geschiedenis van de waarheid – Julian Baggini
Sommige mensen kunnen ingewikkelde problemen op een eenvoudige manier uitleggen. Als ze dat doen zonder te simplistisch te worden, is dat een prestatie van formaat. Filosoof Julian Baggini lukt dat in dit dunne boekje over ‘de waarheid.’ Hij legt op luchtige toon zijn visie uit en geeft zelfs tips over hoe met de waarheid om te gaan.

Baggini maakt de grote, onontkoombare waarheid kleiner door die op te delen in tien vormen. Er is niet een waarheid, er zijn ‘eeuwige waarheden’, ‘gezaghebbende waarheden’, ‘empirische waarheden’ en zo verder. Alleen al die aanpak zorgt uiteraard voor een relativering. Er is niet een absolute waarheid die op al die manieren waar is. We pakken de werkelijkheid en onze belevingswereld in met allerlei waarheden, die op verschillende niveaus iets zeggen.
We moeten van iedere waarheid zijn plaats weten, dan komt het wel goed, is de boodschap van Baggini.

Sneeuw is wit

Dit is geen inleiding in de filosofische inzichten in de waarheid, hoewel er verschillende filosofen voorbij komen. Zo citeert hij een van de bekende uitspraken over waarheid van Alfred Tarski: ‘sneeuw is wit’ is waar als en alleen als sneeuw wit is. De claim van de waarheid is een claim over een uitspraak. Maar hij gaat niet in op de moderne academisch-filosofische inzichten over waarheid. Wel is duidelijk uit Baggini’s benadering dat hij het idee van een algehele waarheid verwerpt.

Foto: Sargasso achtergrond wereldbol

‘Illusies voor gevorderden. Of waarom waarheid altijd beter is’ van Maarten Boudry

, door

RECENSIE - © Uitgeverij Polis Cover Illusies voor gevorderden van Maarten Boudrydoor Hans van Eyghen (PhD, Vrije Universiteit Amsterdam)

Waarheid is altijd beter. Deze boude claim vormt de kern van wat Maarten Boudry in zijn boek Illusies voor gevorderden. Of waarom waarheid altijd beter is (Uitgeverij Polis) betoogt. Wie het boek leest, merkt dat Boudry deze claim niet echt beargumenteert. Hij argumenteert hoogstens dat waarheid meestal beter is en laat enkele illusies met beperkte impact toe. Boudry gebruikt de term ‘illusie’ min of meer als synoniem voor ‘onwaarheid’. In een wereld waar waarheid (meestal) beter is, is geen plaats voor illusies. Boudry geeft drie argumenten: de catch 22 van illusies, de meeste illusies hebben geen nut, en illusies die nut lijken te hebben, hebben dat in feite niet. In wat volgt bespreek ik deze drie argumenten. Ik eindig met enkele algemene opmerkingen over het boek.

De catch 22 van illusies

Boudry’s belangrijkste argument tegen onwaarheid noemt hij de catch 22 van illusies.[1] Boudry merkt op dat het onmogelijk is onwaarheden voor waar aan te nemen. Zelfs als er nuttige illusies zouden zijn  (wat Boudry ontkent in zijn tweede argument), is het onmogelijk deze voor waar aan te nemen wanneer men weet dat ze illusies zijn en nuttige illusies kunnen hun nut niet uitoefenen als ze niet voor waar worden aangenomen. Als we Boudry’s argument reconstrueren lijkt hij te stellen dat een nuttige illusie de mens voor twee keuzes stelt, of zij verwerpt de illusie of zij neemt hem aan. In het eerste geval heeft ze vanzelfsprekend geen baat van de illusie. In het tweede geval ook niet omdat ze weet dat de illusie niet waar is (het is nu eenmaal een illusie).

Lezen: Mohammed, door Marcel Hulspas

Mededeling

Wie was Mohammed? Wat dreef hem? In deze vlot geschreven biografie beschrijft Marcel Hulspas de carrière van de de Profeet Mohammed. Hoe hij uitgroeide van een eenvoudige lokale ‘waarschuwer’ die de Mekkanen opriep om terug te keren tot het ware geloof, tot een man die zichzelf beschouwde als de nieuwste door God gezonden profeet, vergelijkbaar met Mozes, Jesaja en Jezus.

Mohammed moest Mekka verlaten maar slaagde erin een machtige stammencoalitie bijeen te brengen die, geïnspireerd door het geloof in de ene God (en zijn Profeet) westelijk Arabië veroverde. En na zijn dood stroomden de Arabische legers oost- en noordwaarts, en schiepen een nieuw wereldrijk.

Lezen: De BVD in de politiek, door Jos van Dijk

Mededeling

Tot het eind van de Koude Oorlog heeft de BVD de CPN in de gaten gehouden. Maar de dienst deed veel meer dan spioneren. Op basis van nieuw archiefmateriaal van de AIVD laat dit boek zien hoe de geheime dienst in de jaren vijftig en zestig het communisme in Nederland probeerde te ondermijnen. De BVD zette tot tweemaal toe personeel en financiële middelen in voor een concurrerende communistische partij. BVD-agenten hielpen actief mee met geld inzamelen voor de verkiezingscampagne. De regering liet deze operaties oogluikend toe. Het parlement wist van niets.

Foto: Sargasso achtergrond wereldbol

Hoe de vrijheid van meningsuiting van de een die van een ander kan verhinderen

, door

OPINIE - Wanneer wegen de pros van vrijheid van meningsuiting op tegen de cons, en aan welke cons moeten we denken? In een eerdere blogpost boog ik me over de vraag of verweer en weerlegging altijd een goede manier is om om te gaan met onware en kwetsende uitspraken. Ik beloofde toen een vervolgblog waarin ik in zou gaan op de relatie tussen vrijheid van meningsuiting en het toebrengen van schade aan anderen. In deze blog wil ik specifiek verkennen of de uitoefening van iemands recht op vrijheid van meningsuiting soms datzelfde recht van een ander om zeep kan helpen. Als dat zo is, kan het opvolgen van Mill’s principe in bepaalde gevallen zelfondermijnend zijn.

Vrijheid van meningsuiting en Mill’s schadebeginsel

In de eerdere blogpost vatte ik schematisch ‘Mill’s principe’ over vrijheid van meningsuiting als volgt samen:

  • Foute meningen mogen niet worden gecensureerd.
  • Foute meningen vragen om verweer en weerlegging.
  • Verweer en weerlegging brengen epistemische voordelen.

    • Mill was een optimist – ik denk niet dat hij de Baudets, Trumps en internettrolls van deze wereld had kunnen voorzien. Je kunt je dan ook afvragen hoe Mill over het gewicht van zijn eigen principe zou hebben gedacht als hij nu had geleefd. Absoluut is het principe in elk geval niet. Mill is hier expliciet over: het toebrengen van schade aan anderen is de grens. Het Milliaanse principe van het recht op vrijheid van meningsuiting dient dus te worden afgewogen tegen een ander Milliaans principe, namelijk, het schadebeginsel (zie ook deze blog). Kortweg, als iemands uitspraken anderen schade toebrengen, dan vervalt daarmee zijn recht op vrije meningsuiting.

    Foto: Sargasso achtergrond wereldbol

    Is verweer en weerlegging de juiste reactie op onware en kwetsende uitspraken?

    , door

    ANALYSE - Door Fleur Jongepier (postdoc, University of Cambridge)

    Wat is de juiste reactie op onwaarheden, kwetsende uitspraken en bullshit? Er is een manier om deze vraag te beantwoorden die ik steeds vaker tegenkom: ‘verweer en weerlegging’. In zijn TEDx Talk zegt Quassim Cassam bijvoorbeeld dat het antwoord op complottheorieën moet zijn “rebut, rebut, rebut”. En afgelopen maandag schreef Patrick Loobuyck dat moreel of wetenschappelijk foutieve meningen “niet verboden, maar bestreden [moeten] worden”.

    De wortels van de deze benadering zijn te vinden in wat J.S. Mill’s schrijft over de vrijheid van meningsuiting in On Liberty. Daarin voert Mill het zogenaamde kennisargument voor vrijheid van meningsuiting op. Mill’s idee is dat er een vrij toegankelijke ‘marktplaats van ideeën’ bestaat waar kennis kan ontstaan en gedijen. Opvallend aan zijn betoog is dat onware overtuigingen ook toegelaten moeten worden tot de marktplaats. Een reden daarvoor is bescheidenheid: in de geschiedenis is het vaak gebeurd dat men dacht dat x waar was (‘er is niks mis met slavernij’) en y onwaar (‘de aarde draait om de zon’) terwijl dit niet zo bleek te zijn (Mill: “To deny this is to assume our own infallibility”). Door onware meningen niet te censureren, erkennen we dat we er faliekant naast kunnen zitten, hoe zeker we ook van onze zaak zijn.

    Doneer!

    Mededeling

    Sargasso is een laagdrempelig platform waarop mensen kunnen publiceren, reageren en discussiëren, vanuit de overtuiging dat bloggers en lezers elkaar aanvullen en versterken. Sargasso heeft een progressieve signatuur, maar is niet dogmatisch. We zijn onbeschaamd intellectueel en kosmopolitisch, maar tegelijkertijd hopeloos genuanceerd. Dat betekent dat we de wereld vanuit een bepaald perspectief bezien, maar openstaan voor andere zienswijzen.

    In de rijke historie van Sargasso – een van de oudste blogs van Nederland – vind je onder meer de introductie van het liveblog in Nederland, het munten van de term reaguurder, het op de kaart zetten van datajournalistiek, de strijd voor meer transparantie in het openbaar bestuur (getuige de vele Wob-procedures die Sargasso gevoerd heeft) en de jaarlijkse uitreiking van de Gouden Hockeystick voor de klimaatontkenner van het jaar.

    Doe het veilig met NordVPN

    Mededeling

    Sargasso heeft privacy hoog in het vaandel staan. Nu we allemaal meer dingen online doen is een goede VPN-service belangrijk om je privacy te beschermen. Volgens techsite CNET is NordVPN de meest betrouwbare en veilige VPN-service. De app is makkelijk in gebruik en je kunt tot zes verbindingen tegelijk tot stand brengen. NordVPN kwam bij een speedtest als pijlsnel uit de bus en is dus ook geschikt als je wil gamen, Netflixen of downloaden.

    Foto: © Sargasso logo Kort copyright ok. Gecheckt 09-02-2022

    Kort | Alleen de negatieve waarheid

    , door

    Een manifest van journalisten voor een meer evenwichtige beeldvorming en een heftige reactie, het is weer bal in medialand.
    Maar die heftige reactie is begrijpelijk. Als je broodwinning bestaat uit het met veel verontwaardiging schrijven over alle incidenten waar iets verkeerd gaat, dan is het een bedreiging als blijkt dat de feiten over het grote plaatje een heel ander beeld schetsen.
    Maar om dan te roepen dat positieve berichtgeving leugens zijn (met een lekker foute historische verwijzing) en dat alleen negatieve berichtgeving goed is, dat is best triest.

    Maar goed, stel je voor dat al die rottige politici toch iets voor elkaar hebben gekregen, dat al die hardwerkende ambtenaren toch maar mooi een positieve trend hebben bewerkstelligd, wat moet je dan met je verontwaardiging? Een verontwaardiging die waarschijnlijk voortkomt uit frustratie over het feit dat je zelf niets constructiefs hebt bijgedragen aan het verbeteren van de wereld.

    Volgende