Waarheid voor chatbots

Wat is onwaar? De komst van chatbots heeft weer een nieuwe draai gegeven aan die vraag. Het is inmiddels vermoedelijk algemeen bekend dat chatbots niet altijd de waarheid zeggen. Maar wat is dat dan voor onwaarheid? Het is bijvoorbeeld geen leugen, aangezien een leugen altijd een intentie tot misleiden vereist, iets wat (vermoedelijk) afwezig is bij chatbots. We noemen het daarom vaak hallucinatie, al is ook dat een niet helemaal geschikte term, bijvoorbeeld omdat hij veronderstelt dat er voor de chatbot een verschil is tussen wakend en dromend denken, maar voor die chatbots is het (vermoedelijk) allemaal hetzelfde. Voor zover we chatbots begrijpen, hebben ze helemaal geen notie van waarheid – of iets waar is of onwaar, speelt geen rol in hun overwegingen om iets te zeggen, andere criteria (hoevaak komen woorden in elkaars omgeving voor) zijn daarin veel belangrijker. Vandaar dat bots moeite hebben met het woord niet: de zin hij komt niet heeft ongeveer dezelfde plausibiliteit als hij komt. Waterdruppels Alleen willen menselijke gebruikers wel iets anders. ChatGPT is inmiddels bijna anderhalf jaar beschikbaar, en nog steeds vind je op sociale media mensen die geamuseerd of verontwaardigd voorbeelden geven van onzinnige chatbotantwoorden op zinnige vragen. Een begrip van waarheid inbouwen in die chatbots staat daarom waarschijnlijk hoog op het lijstje van ontwikkelaars. Daarvoor is dan weer een goed criterium nodig om hallucinaties te classificeren. In het tijdschrift Computational linguistics komt Kees van Deemter met een oplossing: de klassieke logica. Dat is een vak dat al duizenden jaren nadenkt over wat een bewering wel of niet waar maakt, en Van Deemter zegt dat die hier ook al iets over kan zeggen. Een belangrijk begrip in de logica is ‘volgen uit’. Uit de bewering dat Marie zingt volgt dat Marie geluid maakt, maar het omgekeerde is niet waar: uit de bewering dat Marie geluid maakt volgt niet noodzakelijkerwijs dat ze ook zingt. Soms volgen twee beweringen wel uit elkaar dan zijn ze equivalent: uit de bewering dat het regent volgt dat er waterdruppels uit de hemel vallen, en het omgekeerde is ook waar. Omissies Dit begrip ‘volgen uit’ zou je ook kunnen gebruiken voor hallucinaties, zegt Van Deemter. Stel dat je weet dat de volgende drie zaken feiten zijn over Panuozzo: Panuozzo is Italiaans en Panuozzo is een restaurant en de prijzen bij Panuozzo zijn laag Verschillende chatbots wordt nu gevraagd iets te zeggen over Panuozzo. Dan kunnen zich onder andere de volgende beweringen voordoen: Panuozzo is een betaalbaar Italiaans restaurant. [waar] Panuozzo is een betaalbaar restaurant [weglating] Panuozzo is een betaalbaar veganistisch Italiaans restaurant [toevoeging] In het laatste geval zouden we zeggen dat de chatbot hallucineert: hij voegt iets toe aan de mededeling dat niet correspondeert met de bekende waarheid. Maar wat nu over de volgende mededeling: Panuozzo is een betaalbaar Frans restaurant. Je zou kunnen zeggen dat hier zowel een feit wordt weggelaten (dat het een Italiaans restaurant is) als wordt toegevoegd (dat het een Frans restaurant) zou zijn. Dit soort betrekkelijk eenvoudige bewerkingen maken het mogelijk om de afwijkingen van de waarheid, en dus de mate waarin een systeem hallucineert, te kwantificeren (‘een duur Frans restaurant’ zijn twee afwijkingen en ‘een duur veganistisch Italiaans restaurant’ is er één). In ieder geval in principe, want in werkelijkheid is de verzameling dingen die mogelijk wel of niet waar zijn over Panuozzo natuurlijk veel groter dan drie (het is gevestigd in Utrecht, het heeft zelfs twee vestigingen, er staan allerlei dingen op de menukaart die je kunt opsommen, enzovoort), dus met name het aantal omissies is in een willekeurige mededeling al snel heel groot. Output Zoals omgekeerd er natuurlijk feiten zijn die soms volgen uit elkaar. Als we weten dat Panuozzo een Italiaans restaurant is, weten we ook dat het een Mediterraan restaurant is. Dat te beweren is dus geen hallucinatie maar met de mededeling ‘Panuozzo is een betaalbaar Mediterraans Italiaans restaurant’ is wel weer iets anders mis: redundantie. We zijn er nog lang niet uit, maar het is interessant dat ook een van de oudste disciplines ter wereld – die van de logica – nog wat te zeggen heeft bij de beoordeling van de output van chatbots.

Door: Foto: ter illustratie Restaurant O'Panuozzo Utrecht, via Marc van Oostendorp op Neerlandistiek.
Foto: Bron: Livius.org

De vroege Stoa (5): Logica

Tijdens het Hellenisme kregen de Academie van Plato en de Peripatetische school van Aristoteles gezelschap van nieuwe filosofische stromingen, zoals het Cynisme, de Cyreense School en het Epicurisme. De bekendste was de Stoa. 

Als het gaat om logica en wetenschap verschilde de Stoa fundamenteel van insteek met eerdere filosofische scholen. Eerder waren de platoonse Academie en vooral het Lyceum van Aristoteles dé autoriteiten op het gebied van wetenschapsfilosofie en logica. Wat die beide scholen bindt, is dat zij geïnspireerd door hun voorganger Parmenides naar de essentie der dingen zochten, naar een onveranderlijke waarheid achter de veranderlijke verschijnselen.

Aristotelische logica

Plato vertrouwde daarbij vooral op de ratio, terwijl Aristoteles meer vertrouwde op de waarneming. Maar alle twee waren typische dualisten: volgens hen schuilt er een onveranderlijke geestelijke wereld achter de wereld van de materiële verschijnselen.

Het klassieke voorbeeld van de aristotelische logica was:

Uitspraak A: Alle mensen zijn sterfelijk. (een algemeen oordeel)
Uitspraak B: Sokrates is een mens. (een specifiek oordeel)
Conclusie: Sokrates is sterfelijk. (de conclusie)

Deze logica is gericht op het classificeren van zaken: ze richt zich op de relatie tussen het algemene en het bijzondere. Daarmee beschrijft zij het wezen der dingen. Het gaat er in deze vorm van logica om de dingen die er zijn te beschrijven door middel van hun kenmerken, door de onveranderlijke principes achter de verschijnselen te vatten.

Steun ons!

De redactie van Sargasso bestaat uit een club vrijwilligers. Naast zelf artikelen schrijven struinen we het internet af om interessante artikelen en nieuwswaardige inhoud met lezers te delen. We onderhouden zelf de site en houden als moderator een oogje op de discussies. Je kunt op Sargasso terecht voor artikelen over privacy, klimaat, biodiversiteit, duurzaamheid, politiek, buitenland, religie, economie, wetenschap en het leven van alle dag.

Om Sargasso in stand te houden hebben we wel wat geld nodig. Zodat we de site in de lucht kunnen houden, we af en toe kunnen vergaderen (en borrelen) en om nieuwe dingen te kunnen proberen.

Foto: Bron: Livius.org

De vroege Stoa (3): De weg naar geluk

Tijdens het Hellenisme kregen de Academie van Plato en de Peripatetische school van Aristoteles gezelschap van nieuwe filosofische stromingen, zoals het Cynisme, de Cyreense School en het Epicurisme. De bekendste was de Stoa. 

Zenon van Kition was behalve stoïcijn ook asceet. Net als de cynici leefde hij eenvoudig. Hij was echter minder provocatief dan de cynici en had een meer conformistisch karakter. Ook hield hij er niet van de aandacht te trekken, of zich te omgeven met veel mensen. In die zin lijkt hij op Epikouros.

Alles ligt van tevoren vast

Op theoretische gronden verschilt hij echter sterk van de epicuristen. De verwerping van het (epicurese) geloof in toeval is fundamenteel voor het stoïcijnse deterministische geloof. Dat alles van tevoren vastligt, staat aan de basis van de stoïcijnse opvatting dat de mens fundamenteel verbonden is met de wereld waarin hij leeft.

Alles wat gebeurt, heeft invloed op ons leven, en ons leven heeft invloed op alles wat gebeurt. Haal één radertje uit het systeem, en het is niet meer hetzelfde. Wij zijn als mensen deel van het geheel, onlosmakelijk verbonden met de hele kosmos, die naar redelijke wetten luistert.

Het is volgens Zenon dan ook allerminst toevallig dat wij mensen begiftigd zijn met de capaciteit die logische rede van de kosmos te begrijpen. We maken er immers deel van uit. Zodoende hebben wij mensen het natuurlijke vermogen om de natuurwetten te doorgronden en ons daarnaar te richten. De menselijke logica als natuurgegeven.

Foto: bron: Livius.org

Aristoteles (4): Onlogisch redeneren

Aristoteles staat bekend als wetenschapper, als arts en vooral als filosoof. Zijn invloed op de wijsbegeerte is enorm geweest. In deze reeks bekijken we hem in enig detail. 

Naast de formules voor de ‘juiste’ manier van denken, waarover we het vanmorgen hadden, stelde Aristoteles ook formules op voor herkenbare denkfouten: de zogenaamde drogredeneringen.

Drogredeneringen

Wanneer we stelling B van de voorgaande redenering vervangen door een negatief oordeel, werkt het niet meer. Kijk maar:

  • Alle mensen zijn sterfelijk.
  • Socrates is geen mens.
  • Wie denkt dat we hieruit kunnen concluderen dat Socrates onsterfelijk is heeft het mis. Dat is een drogredenering. Alle koeien eten gras. Mijn zwarte kat eet gras. Mijn kat is een koe? Nee, dat gaat niet op.

    Drogredeneringen maken wij onbewust erg vaak. Omdat onze logica niet klopt, of omdat onze aannames niet kloppen. Verder kunnen we fouten in onze redeneringen maken door verkeerd woordgebruik.

    Aristotelische logica

    Aristoteles was niet de eerste die het bestaan van drogredenen erkende. Al voor hem had Plato uit frustratie met de streken van de sofisten al een aantal redeneerfouten aangestipt. Maar Aristoteles bracht dit soort fouten systematisch in kaart. Al deze fouten trachtte hij te tackelen door ze te vervatten in formules.

    Lezen: Het wereldrijk van het Tweestromenland, door Daan Nijssen

    In Het wereldrijk van het Tweestromenland beschrijft Daan Nijssen, die op Sargasso de reeks ‘Verloren Oudheid‘ verzorgde, de geschiedenis van Mesopotamië. Rond 670 v.Chr. hadden de Assyriërs een groot deel van wat we nu het Midden-Oosten noemen verenigd in een wereldrijk, met Mesopotamië als kernland. In 612 v.Chr. brachten de Babyloniërs en de Meden deze grootmacht ten val en kwam onder illustere koningen als Nebukadnessar en Nabonidus het Babylonische Rijk tot bloei.

    Lezen: Bedrieglijk echt, door Jona Lendering

    Bedrieglijk echt gaat over papyrologie en dan vooral over de wedloop tussen wetenschappers en vervalsers. De aanleiding tot het schrijven van het boekje is het Evangelie van de Vrouw van Jezus, dat opdook in het najaar van 2012 en waarvan al na drie weken vaststond dat het een vervalsing was. Ik heb toen aangegeven dat het vreemd was dat de onderzoekster, toen eenmaal duidelijk was dat deze tekst met geen mogelijkheid antiek kon zijn, beweerde dat het lab uitsluitsel kon geven.

    Foto: Bron: Livius.org

    Aristoteles (3): Oordelen

    Aristoteles staat bekend als wetenschapper, als arts en vooral als filosoof. Zijn invloed op de wijsbegeerte is enorm geweest. In deze reeks bekijken we hem in enig detail.

    We hebben gisteren gezien dat Aristoteles meende dat mensen denken in categorieën als substantie, kwantiteit, kwaliteit, plaats en tijd. Hij hield het echter niet bij ordening. Hij was ook benieuwd naar de manier waarop we de begrippen, klassen en categorieën hanteren.

    Aristoteles stelde daarbij dat alles wat wij ‘denken’ noemen eigenlijk neerkomt op het met elkaar verbinden van begrippen. We kunnen bijvoorbeeld het begrip kat verbinden met het begrip zwart. Zo’n verbinding noemt Aristoteles een oordeel.


    Een oordeel kan verschillende vormen hebben. Het kan positief of negatief zijn, bevestigend of ontkennend: de kat is zwart (positief) of de kat is niet zwart (negatief). Daarnaast kan een oordeel meer of minder algemeen zijn: alle katten (algemeen) zijn zwart, sommige katten (minder algemeen) zijn zwart, of deze kat (specifiek) is zwart.

    Tot slot kan een oordeel noodzakelijk zijn, of alleen maar een mogelijkheid aangeven: deze kat is zwart (noodzakelijk), of deze kat kan zwart zijn (mogelijk).

    En nu wordt het leuk. We kunnen met deze elementen algemene formules opstellen, en dan kijken of die formules geldig zijn of niet. De bekendste van die formules is de volgende.

    Foto: Sargasso achtergrond wereldbol

    Een kleine geschiedenis van de waarheid – Julian Baggini

    RECENSIE - door Addie Schulte, redacteur van Boekenstrijd.
    © Klement UItgeverij boekomslag Een kleine geschiedenis van de waarheid – Julian Baggini
    Sommige mensen kunnen ingewikkelde problemen op een eenvoudige manier uitleggen. Als ze dat doen zonder te simplistisch te worden, is dat een prestatie van formaat. Filosoof Julian Baggini lukt dat in dit dunne boekje over ‘de waarheid.’ Hij legt op luchtige toon zijn visie uit en geeft zelfs tips over hoe met de waarheid om te gaan.

    Baggini maakt de grote, onontkoombare waarheid kleiner door die op te delen in tien vormen. Er is niet een waarheid, er zijn ‘eeuwige waarheden’, ‘gezaghebbende waarheden’, ‘empirische waarheden’ en zo verder. Alleen al die aanpak zorgt uiteraard voor een relativering. Er is niet een absolute waarheid die op al die manieren waar is. We pakken de werkelijkheid en onze belevingswereld in met allerlei waarheden, die op verschillende niveaus iets zeggen.
    We moeten van iedere waarheid zijn plaats weten, dan komt het wel goed, is de boodschap van Baggini.

    Sneeuw is wit

    Dit is geen inleiding in de filosofische inzichten in de waarheid, hoewel er verschillende filosofen voorbij komen. Zo citeert hij een van de bekende uitspraken over waarheid van Alfred Tarski: ‘sneeuw is wit’ is waar als en alleen als sneeuw wit is. De claim van de waarheid is een claim over een uitspraak. Maar hij gaat niet in op de moderne academisch-filosofische inzichten over waarheid. Wel is duidelijk uit Baggini’s benadering dat hij het idee van een algehele waarheid verwerpt.

    Lezen: De wereld vóór God, door Kees Alders

    De wereld vóór God – Filosofie van de oudheid, geschreven door Kees Alders, op Sargasso beter bekend als Klokwerk, biedt een levendig en compleet overzicht van de filosofie van de oudheid, de filosofen van vóór het christendom. Geschikt voor de reeds gevorderde filosoof, maar ook zeker voor de ‘absolute beginner’.

    In deze levendige en buitengewoon toegankelijke introductie in de filosofie ligt de nadruk op Griekse en Romeinse denkers. Bekende filosofen als Plato en Cicero passeren de revue, maar ook meer onbekende namen als Aristippos en Carneades komen uitgebreid aan bod.

    Lezen: Venus in het gras, door Christian Jongeneel

    Op een vroege zomerochtend loopt de negentienjarige Simone naakt weg van haar vaders boerderij. Ze overtuigt een passerende automobiliste ervan om haar mee te nemen naar een afgelegen vakantiehuis in het zuiden van Frankrijk. Daar ontwikkelt zich een fragiele verstandhouding tussen de twee vrouwen.

    Wat een fijne roman is Venus in het gras! Nog nooit kon ik zoveel scènes tijdens het lezen bijna ruiken: de Franse tuin vol kruiden, de schapen in de stal, het versgemaaide gras. – Ionica Smeets, voorzitter Libris Literatuurprijs 2020.

    Foto: United Nations Photo (cc)

    Klimaatsceptici zijn geen echte sceptici

    COLUMN - Klimaatsceptici missen de scherpte, de diepgang en de zelfkritische blik van de echte scepticus.

    Opwarming van de aarde? Door de mens? En dat zou op te lossen zijn door om te schakelen op duurzame energie?

    Onzin, zeggen de zogenaamde ‘klimaatsceptici’, een grote groep mensen die zich verzet tegen minstens één van deze drie stellingen. Het gebruik van het woord ‘klimaatscepticus’ voor mensen die bovenstaande argumenten aanhangen stuit mij echter tegen de borst. Met scepticisme hebben ze niet zoveel te maken.

    Waar komt het woord scepsis vandaan

    Het woord scepsis komt van een filosofische stroming uit de oudheid. In mijn boek “de wereld vóór God”, heb ik onlangs alle filosofieën van voor de middeleeuwen op een rij gezet, van de Grieken tot de Romeinen, van de Indische filosofie tot aan China. Niet alleen wilde ik deze denkers op toegankelijke manier bespreken en zo voor meer mensen ontsluiten, ook wilde ik kijken in hoeverre hun inzichten van toepassing zijn op onze tijd.

    Van al die filosofische stromingen – en dat zijn er nogal wat – is de filosofische school van sceptici één van de stromingen die mij uiteindelijk het meest aantrekt. Deze sceptische school ontstond ongeveer 300 jaar voor onze jaartelling, en heeft 600 jaar lang een belangrijke rol gespeeld in de filosofie. Helaas werd hun manier van denken in de dogmatische middeleeuwen weer minder populair, en sindsdien hebben de sceptici een negatieve naam gekregen.

    Foto: copyright ok. Gecheckt 06-11-2022

    Stoïcijnse logica (oftewel: speelt God met dobbelstenen?)

    Een serie over de belangrijkste filosofische stromingen van het vroege Hellenisme – de tijd na Alexander de Grote en voor de opkomst van de Romeinen – waarin verschillende rijken bestuurd door Griekse elites het hele Midden-Oosten, Griekenland en Zuid-Italië beheersden. We bekijken daarbij hoe de filosofen zich tot elkaar verhielden. In deze aflevering: de vroege Stoïcijnen na Zeno.

    De vorige aflevering zagen we hoe Zeno de Stoïcijn niet alleen een puur materialistisch wereldbeeld had, zoals ook de Epicuristen, maar daarnaast ook een puur deterministisch wereldbeeld aanhing. Zeno concludeerde uit zijn determinisme dat de wereld één geheel vormt, dat luistert naar wetten, die volgens hem fundamenteel logisch moeten zijn.

    Zeno’s leerling Cleanthes zette de school, die ‘de Stoa’ genoemd werd, voort. Hij voegde er niet veel nieuwe dingen aan toe. Zijn leerling Chrysippos echter schreef meer dan honderd boeken, en is uiteindelijk de geschiedenis ingegaan als degene die het Stoïcisme verder vorm gaf. Hij is daarmee samen met Zeno de belangrijkste filosoof van de vroege Stoa. Hoe gaven zijn volgelingen die Stoïcijnse filosofie praktisch handen en voeten?

    De negatieve emoties ontmaskerd

    De Stoïcijnen wordt soms emotieloosheid verweten, maar er is geen Stoïcijn die dingen als blijdschap en zelfs genot fundamenteel zou veroordelen. De strijd van de Stoïcijnen betreft vooral die tegen de negatieve emoties. Maar wat is een negatieve emotie? Volgens Chrysippos berusten negatieve emoties op fouten in onze redeneringen. Iemand ziet dat iets gebeurt, en is daar niet tevreden mee. Hij zegt dus eigenlijk dat het anders had moeten zijn.

    Doneer!

    Sargasso is een laagdrempelig platform waarop mensen kunnen publiceren, reageren en discussiëren, vanuit de overtuiging dat bloggers en lezers elkaar aanvullen en versterken. Sargasso heeft een progressieve signatuur, maar is niet dogmatisch. We zijn onbeschaamd intellectueel en kosmopolitisch, maar tegelijkertijd hopeloos genuanceerd. Dat betekent dat we de wereld vanuit een bepaald perspectief bezien, maar openstaan voor andere zienswijzen.

    In de rijke historie van Sargasso – een van de oudste blogs van Nederland – vind je onder meer de introductie van het liveblog in Nederland, het munten van de term reaguurder, het op de kaart zetten van datajournalistiek, de strijd voor meer transparantie in het openbaar bestuur (getuige de vele Wob-procedures die Sargasso gevoerd heeft) en de jaarlijkse uitreiking van de Gouden Hockeystick voor de klimaatontkenner van het jaar.

    Doe het veilig met NordVPN

    Sargasso heeft privacy hoog in het vaandel staan. Nu we allemaal meer dingen online doen is een goede VPN-service belangrijk om je privacy te beschermen. Volgens techsite CNET is NordVPN de meest betrouwbare en veilige VPN-service. De app is makkelijk in gebruik en je kunt tot zes verbindingen tegelijk tot stand brengen. NordVPN kwam bij een speedtest als pijlsnel uit de bus en is dus ook geschikt als je wil gamen, Netflixen of downloaden.

    Foto: Anders Sandberg (cc)

    Logica

    COLUMN - Wie een academische instelling bestuurt, doet het altijd wel in iemands ogen verkeerd. Je zou dus mild moeten zijn in je kritiek, maar soms neemt de verbijstering het toch van je over. Neem bijvoorbeeld dit interview met Hans Clevers, de president van de KNAW. Hij krijgt een simpele vraag voorgelegd die hij, toen hij zich voorbereidde op het gesprek, moet hebben zien aankomen: of de affaire-Stapel niet duidt op “een afkalvend moreel besef bij wetenschappers”. Zijn antwoord:

    De vermeende afkalvende integriteit van Nederlandse wetenschappers is iets wat vooral Nederlandse wetenschappers zelf bezig houdt. Voor het publiek geldt de wetenschap nog altijd als betrouwbaar.

    Dat laatste klopt: mensen hebben ontzag voor de wetenschap. Maar dat was de vraag niet. De vraag betrof de individuele onderzoekers. Anders gezegd, terwijl er vertrouwen is in de wetenschappelijke methode, is er twijfel of de wetenschappers zich wel voldoende inspannen om die methode goed toe te passen. Het is zeker niet waar dat de Nederlandse wetenschappers de enigen zijn die zich zorgen maken.

    Maar het gaat nog verder:

    In Nederland hebben we de procedures op het gebied van integriteit keurig geregeld.

    Dit is maar de helft van het antwoord. Het gaat er niet alleen om of het geregeld is, het gaat er tevens om of de procedures worden nageleefd. Het is ondenkbaar dat Clevers niet zou weten dat bijvoorbeeld de VSNU zich juist hierover zorgen maakt: er zijn prachtige procedures maar ze zijn onvoldoende bekend. Clevers’ redenatiefout staat bekend als het weglaten van een secundum quid.

    Lezen: Bedrieglijk echt, door Jona Lendering

    Bedrieglijk echt gaat over papyrologie en dan vooral over de wedloop tussen wetenschappers en vervalsers. De aanleiding tot het schrijven van het boekje is het Evangelie van de Vrouw van Jezus, dat opdook in het najaar van 2012 en waarvan al na drie weken vaststond dat het een vervalsing was. Ik heb toen aangegeven dat het vreemd was dat de onderzoekster, toen eenmaal duidelijk was dat deze tekst met geen mogelijkheid antiek kon zijn, beweerde dat het lab uitsluitsel kon geven.

    Volgende