Elke zondag AI-oma bellen

ESSAY - van Yuè Leentjens (Alumna Radboud Universiteit)

Rouw is een deel van het leven. Ik kan het weten, want ik ben sinds 2020 helaas vier familieleden kwijtgeraakt. Rouw is eenzaam, pijnlijk en verdrietig. Daarom is het niet gek dat mensen allerlei handvatten aanpakken die zouden kunnen helpen met de rouwverwerking.

Een van de nieuwste opties op dit gebied zijn deathbots. Deathbots kunnen een overledene ‘terugbrengen uit de dood’ door generatieve AI te gebruiken om de persoonlijkheid en gelijkenis van de overledene te kopiëren.

Een deathbot kan volgens sommigen tijdelijk helpen, maar er zijn ook voorstanders van permanent gebruik. Zij suggereren dat rouw niet iets is wat overwonnen moet worden. De band tussen een overledene en nabestaande blijft, maar wordt op een andere manier in stand gehouden. Als je voor oma’s dood elke zondag oma belde, dan kan je nu na oma’s dood elke zondag AI-oma bellen.

(Ja, er is een Black Mirror-aflevering over dit fenomeen.)

Deathbots kunnen helpen bij een onverwacht overlijden, of als de band met de overledene complex is. Gedurende een eenzame en moeilijke periode bieden ze nabestaanden troost en rust.

De duistere kant van deathbots

Natuurlijk komt er ook kritiek op het gebruik van deathbots. Gebruikers verliezen bijvoorbeeld hun autonomie doordat deathbots hun emoties dereguleren. AI-bots zijn heel sturend en zeggen vaak gewoon wat de gebruiker wil horen. Met een deathbot komt er nog een emotionele laag bovenop: dit is geen blanco AI. Dit is ‘oma’.

Daarbij komt de vrees dat deathbots de overledenen vervangen. Door diepe relaties aan te gaan met een deathbot voelt het alsof de overledene er nog steeds is, terwijl gebruikers de overledene eigenlijk inwisselen voor een digitale kopie.

Ten slotte bestaat de bezorgdheid dat gebruikers afhankelijk worden van deathbots. Relaties met AI-bots zijn gepersonaliseerd, terwijl relaties met mensen dat niet zijn. Hierdoor kan het gebeuren dat gebruikers liever met een AI-bot praten dan met een mens. Gebruikers van deathbots worden zo geïsoleerd of blijven juist vastzitten in hun rouw.

AI-bots zeggen wat de gebruiker wil horen

Deze zorgen zijn niet ongegrond. Relaties tussen mens en AI worden ervaren als diep, hecht en wederzijds. Er wordt ‘agency’ toegeschreven aan AI-bots, waaronder deathbots. Daardoor is het heel moeilijk om contact met AI-bots, ook deathbots, te stoppen.

Maar er is iets verwarrends aan de hand. Gebruikers van deathbots geven namelijk zelf aan dat ze weten dat de deathbot niet echt de overledene is. Sommige voorstanders stellen op basis daarvan dat de gevaren niet zo groot zijn en dat dit gewoon een verlengde is van hoe we technologie gebruiken bij rouwverwerking. Als we echter kijken naar wat we weten over het gebruik van deathbots, dan ligt de kwestie iets genuanceerder.

Een filosofische puzzel

Ook al menen gebruikers te weten dat een deathbot nep is, raken ze er toch aan gehecht en kunnen ze niet stoppen deze te gebruiken. Dit klinkt tegenstrijdig – en dat is het ook. Filosoof Tamar Gendler probeert zulke tegenstrijdigheid in onze houdingen te verklaren. Buiten een overtuiging, een belief, is er volgens haar ook nog een alief: een mentale toestand die lijkt op een overtuiging, die in tegenspraak kan zijn met iemands expliciete overtuigingen. Aliefs zijn associatief, automatisch en arationeel en komen vaak voort uit gewoonte.

Gendler geeft het voorbeeld van mensen die moeite hebben om over een glazen brug boven de Grand Canyon te lopen. Naast de overtuiging dat de brug veilig is, hebben zij ook een alief die zorgt voor aarzeling. Een alief bestaat uit een cluster van representatieve, affectieve en gedragsmatige inhoud dat gelijktijdig geactiveerd wordt. Wanneer mensen de Grand Canyon onder zich zien, houdt dat cluster zoiets in als: “Heel hoog! Bang! Niet lopen!”

Een deathbot neemt de karakteristieken van oma over: AI-oma klinkt zoals oma en ziet er mogelijk ook uit als oma. Daardoor ontstaat een alief met de strekking: “Oma! Het is fijn om met oma te praten. Ik ga oma niet deactiveren!” De overtuiging dat het niet echt oma is, bestaat nog steeds, maar de deathbotgebruiker handelt vanuit affectiviteit en niet vanuit die overtuiging. Aangezien deathbots overleden geliefden simuleren, is deze affectiviteit sterk.

Ik ga oma niet deactiveren!

De houding van gebruikers is dus begrijpelijk, maar zet de deur open voor alle genoemde risico’s. Er zijn aanbevelingen gedaan om de gevaren te beperken, door deathbots bijvoorbeeld te classificeren als medisch hulpmiddel, of door deathbots expres outputs te laten geven die de gebruiker eraan herinneren dat deze niet echt is. Op dit moment hebben we echter onvoldoende bewijs om te stellen dat dit deathbots veilig genoeg maakt om de voordelen de overhand te geven.

Zelfs als veilig deathbotgebruik mogelijk is, geloof ik persoonlijk niet dat deathbots dezelfde troost kunnen bieden als een persoon. Een relatie bestaat namelijk uit meer dan alleen gesprekken.

Mijn tante stierf onverwachts. Ik vind het ontzettend jammer dat ik nooit de kans heb gekregen om haar een schilderij te geven dat ik voor haar had geschilderd. Als ik had geweten dat ze zou sterven, had ik het op tijd gegeven. Maar ik wist het niet, dus is het er nooit van gekomen. En ik ben er niet van overtuigd dat AI-tante het schilderij aan haar muur kan hangen.


Dit artikel verscheen eerder bij filosofieblog Bij Nader Inzien.
Over de auteur: Yuè Leentjens heeft in 2026 haar Master Filosofie van de Gedragswetenschappen behaald aan de Radboud Universiteit, na daar eerder al de Master Communicatiewetenschap te hebben voltooid. Zij schreef haar masterscriptie over deathboths en hoe we het gebruik ervan het beste kunnen begrijpen. Ze beargumenteert daarin dat gebruikers deathbots niet behandelen als pure fictie. In plaats daarvan gaan zij diepe emotionele relaties met hen aan, die verschillende kansen en risico’s met zich meebrengen
.

Verder lezen

Buben, Adam. “Technology of the Dead: Objects of Loving Remembrance or Replaceable Resources?” Philosophical Papers 44, nr. 1 (2015): 15-37.

Gendler, Tamar Szabó. “Alief and Belief.” The Journal of Philosophy 105, nr. 10 (2008): 634-663.

Krueger, Joel, en Lucy Osler. “Communing with the Dead Online: Chatbots, Grief, and Continuing Bonds.” Journal of Consciousness Studies 29, nr. 9-10 (2022): 222-252.

Lindemann, Nora Freya. “The Ethics of ‘Deathbots.’” Science and Engineering Ethics 28, nr. 60 (2022): 1-16..

Stokes, Patrick. Digital Souls: A Philosophy of Online Death. Bloomsbury Publishing, 2021.

Xygkou, Anna, Panote Siriaraya, Alexandra Covaci et al. “The “Conversation” About Loss: Understanding How Chatbot Technology Was Used in Supporting People in Grief.” Paper werd gepresenteerd op the Proceedings of the 2023 CHI conference on human factors in computing systems, 2023, 1-15.

Geef een reactie

Je e-mailadres wordt niet gepubliceerd. Vereiste velden zijn gemarkeerd met *

*

Selecteer tekst in het artikel of een reactie om die te citeren. Een regel die begint met > wordt ook een citaat.

*
*