Troost door AI? De rouwbot laat je praten met je overleden dierbaren

Patricia en Ron de Boer uit Wieringerwerf zitten voor een videoscherm. Daar verschijnt een bewegende foto van hun dochter Dalisay, drie jaar na haar suïcide. “Goed om je te zien, te horen. Hoe ziet het eruit daarboven?”

Op hun koptelefoon horen ze Dalisay, vertolkt door een stemactrice. “Het is heel licht.”
“Heb je nu rust?”
“Ja. Hier is veel liefde.”
“Heb je spijt van wat je gedaan hebt?”
“Ik hou veel van jullie en het spijt me echt enorm. Jullie konden me niet helpen.”

Patricia is in tranen.

Dit is geen 19de-eeuwse seance waarin dode geesten werden opgeroepen, maar een hightechvariatie erop: Deepfake Therapy. De Leidschendamse therapeut Leoniek van der Maarel begeleidde de sessie met Patricia en Ron in 2020. “Tijdens de ontmoeting met de dode kunnen rouwenden een laatste gesprek voeren en hun schuldgevoel verwerken, geholpen door een medium dat contact maakt met de energie van de overledene.”

De sessie heeft helend gewerkt, vertelt Patricia de Boer nu, vier jaar later. “Het voelde alsof er een lijntje met boven werd gelegd.” Ze denkt er dankbaar aan terug. “Dat Dalisay spijt had, dat ze zei dat ze daar gelukkig was... Of het echt waar is of niet, maakt niet uit. Het werkte, en dat doet het nog steeds.”

Buiten de beschutting van de behandelkamer, op de vrije markt, duikt nu een nieuwe gadget op voor rouwverwerking. Daar komt geen mens meer aan te pas, geen bijbelse dodenbezweerster van Endor, geen Grieks orakel of medium, maar louter kunstmatige intelligentie. Die maakt een digitale kopie van een overleden mens, aan de hand van diens appjes, e-mails, video’s en spraakberichten.

Opstanding van de doden

Zo’n virtueel personage heet een avatar. Het Chinese bedrijf Super Brain creëert avatars. In de advertenties speelt het in op de diepe behoefte die bij rouw hoort om de dood ongedaan te maken. ‘Het is een enorm verlies, de dood van je kind. Maar wij bieden je de opstanding van je zoon of dochter.’

De tv-zender France24 laat Seakoo Wu aan het woord. Hij kocht een avatar van zijn zoon Xuanmo. Op zijn mobieltje toont Wu de avatar, een twintiger die tegen zijn rouwende ouders zegt: “Ik kan niet meer bij jullie zijn, maar mijn geest blijft bij jullie. Ik weet dat je veel verdriet hebt om mij, dat je je schuldig en machteloos voelt. Mijn geest zal je je leven lang vergezellen.”

Dat heeft Xuanmo nooit zelf gezegd. De tekst is door Super Brain gegenereerd, aan de hand van luttele minuten digitaal materiaal van Xuanmo toen hij nog leefde.

Xuanmo is een deathbot, een avatar waarmee je kunt communiceren. Omdat kopers hem vooral aanschaffen om met een gemis om te gaan, is de beste vertaling een ‘rouwbot’.

Zo biedt de app HereAfter AI (‘HierNa’) de mogelijkheid om later zélf avatar te worden en ‘onsterfelijk’ te zijn. Het taal- en beeldproducerende model interviewt je daarvoor uitgebreid over jouw leven en ervaringen en verzamelt beeldmateriaal, zodat je nabestaanden straks met jouw chatbot kunnen praten. Ook MindBank AI creëert zo’n digital twin, een virtuele kopie.

Spiritistische seance

Het medium dat Dalisay vertolkte, noemt zichzelf ‘een brug tussen het hier en het hiernamaals’. Ook bij de rouwbot is de spiritistische seance niet ver weg. Eentje heet ook zo: Seance AI. ‘Hier ontmoet AI het hiernamaals. Laat je geliefden opnieuw met je spreken.’

Bij Project December kun je chatten met iedereen. ‘Inclusief wie niet meer leeft’, aldus de site. Deze avatar benut opmerkelijk weinig specifieke data van de overledene, want de meeste mensen lijken op elkaar, aldus oprichter Jason Rohrer in The Financial Times. Het is ook goedkoper.

Super Brain-oprichter Zhang Zewei vertelt bij France24 dat zijn bedrijf in minder dan een jaar al tienduizenden avatars verkocht heeft. Het gat in de markt waar het bedrijf op inspeelt bestaat vooral uit ouders die hun kind hebben verloren. Een basisavatar is te koop voor zo’n tweeduizend euro.

Bij Project December kost chatten tien euro per uur. Dat doen met name klanten die getraumatiseerd zijn, bijvoorbeeld doordat ze niet goed afscheid hebben kunnen nemen van een geliefde. Ze hebben alles al geprobeerd, zegt Rohrer. “Boeken lezen, lotgenotengroepen bezoeken, alles om hun rouw te verwerken. Nu proberen ze dit.”

En dat helpt, aldus Rohrer. Ook de makers van MindBank AI en Super Brain, respectievelijk Emil Jimenez en Zhang Zewei, zijn het erover eens: hun product helpt rouwenden vooruit. Maar zijn deze rouwbots wel zo heilzaam?

De mens zoals we die kennen, is gemaakt van vlees en bloed. Ook deze rouwbots bewegen en communiceren, maar het blijven virtuele objecten. Kun je ze toch een voortzetting noemen van de overledene? Is de rouwbot gelijk aan je overleden moeder?

Dat is een lastige kwestie, zegt filosoof en jurist Cees Zweistra, verbonden aan de Erasmus Universiteit. Hij is gepromoveerd op wat nieuwe technologie doet met onze identiteit. “Zo’n chatbot is een ander wezen, maar het is óók de overledene, want daar associeer je de rouwbot mee. Net als een foto, maar dan doorontwikkeld en op een hoger niveau, met een grotere mate van bestaan en een eigen wereld. En door de interactie ontwikkel je er een intimiteit mee. Toch blijft het een reproductie van wie iemand was, met de nodige beperkingen. Stel: ik laat ooit een rouwbot van mijn vader maken – wat ik nooit zou doen, maar stel. Dan wordt dat een avatar die een bepaalde fase in zijn leven voorstelt. Dat maakt hem statisch, ook al antwoordt en beweegt hij. Hij zal niet meer van inzichten veranderen.”

Hologram van Robert Kardashian

Zoveel scrupules had Kanye West niet toen hij iets leuks moest verzinnen voor realityster Kim Kardashian, zijn toenmalige echtgenote die veertig werd. Wat geef je iemand die alles al heeft?

West liet het Europees-Canadese bedrijf Kaleida een hologram maken, een bewegende projectie van Kims overleden vader. Via Twitter, nu X, kon de hele wereld zien hoe Kaleida’s ‘holografische wederopstanding van Robert Kardashian’ diens dochter Kim toesprak, onscherp en een beetje houterig – het was 2020 – maar met warme woorden. Kim vond het schitterend en werd emotioneel. Ze noemde het hologram ‘een verrassing uit de hemel’, alsof haar vader even uit het hiernamaals langskwam.

Vroeger ging je naar de hemel, tegenwoordig naar de cloud, of, zoals vader Wu tegen zijn zoon zegt: ‘ooit zullen we verenigd zijn in het metaversum’. In de tussentijd zorgen bedrijven tegen betaling voor jouw opstanding als avatar en word je onsterfelijk. De metaforen zijn stuk voor stuk religieus.

Zweistra: “Het is de ideologie van de transhumanisten, filosofen die de beperkingen van natuur en lichaam willen doorbreken. Dit is onze kans op eeuwig leven, zeggen ze. Hun droom is dat we allemaal doorleven in de cloud. Dat vind ik een schrikbeeld, want dat we lichamelijk zijn, doodgaan en rouwen, heeft toch ook zijn betekenis en waarde? Aan de andere kant: zo gáát dat met technologie. Ik ben er, kortom, nog niet echt uit.”

Ook Leoniek van der Maarel verwacht dat we straks allemaal kunnen chatten met een volledig automatische rouwbot. “Ik vraag me af of ik die wel wil gebruiken in mijn werk. Het is me te écht, waardoor de illusie ontstaat dat het contact met de dode niet is verbroken.”

Wat opvalt is dat de rouwbots zo aardig zijn. Dalisay, Xuanmo, Robert Kardashian, ze steken allemaal hun geliefden een hart onder de riem. Maar een avatar van je moeder kan ook gaan vertellen dat-ie je eigenlijk nooit heeft gemogen. Dat kan best waar zijn. En wat als je lang geleden overleden opa taal uitslaat die we tegenwoordig racistisch vinden?

“Dan wordt het pijnlijk”, reageert Zweistra. “En wie garandeert je dat er niet iets duisters bovenkomt, waar ook vandaan? Dat je vader of moeder een affaire opbiecht?”

Griezelige dilemma’s

De ethische en juridische vragen stapelen zich op. Wie mag kunstmatige intelligentie voeden en met welke informatie? Kun je een rouwbot van je moeder laten maken terwijl je zus ertegen is? Componist Michel van de Aa voegde er in zijn opera Upload (2021) nog wat kwesties aan toe. Hij voerde daarin een aftakelende vader ten tonele die een einde aan zijn leven maakt om als digitale versie van zichzelf door te leven, inderdaad als upload. Zijn treurende dochter zoekt haar weg in het verlies van haar vader, en vraagt zich uiteindelijk af of ze de digitale versie van hem mag uitzetten.

De opera stelt de toeschouwer voor dilemma’s. Als de vader virtueel voortleeft, en misschien wel dynamisch verandert met de tijd mee, neigt het uitschakelen van hem dan niet naar moord? Wat doet dat met een rouwproces? En had zijn dochter eigenlijk wat te zeggen over haar vaders wens om op deze manier eeuwig te leven?

De hiernamaalsindustrie veroorzaakt griezelige dilemma’s. Toch ziet Zweistra niets in een verbod. “Op veel nieuwe technologie is de eerste reactie paniek: de doos van Pandora gaat open! Ik verwacht dat deze techniek zich verder ontwikkelt, en we eraan gaan wennen.”

Sterker nog, ze zal deel uit gaan maken van onze manier van rouwverwerking. Zweistra: “De techniek transformeert bestaande gebruiken en brengt nieuwe rouwrituelen voort. Zoiets als: je vader verschijnt jaarlijks op zijn sterfdag als hologram. Dat kan helpen bij rouwverwerking. Laten we zulke nieuwe mogelijkheden maar gaan verkennen met elkaar.”

Janienke Sturm is gepromoveerd op spraaktechnologie en doet aan de Hogeschool Fontys in Eindhoven onderzoek naar de ethische effecten van nieuwe technieken, zoals de rouwbot. “Ik zou wel willen weten wat voor invloed zo’n bot op de aanstaande overledene heeft die weet dat zijn online data straks gebruikt gaan worden. En wat doet dat met ons begrip van identiteit?”

Of het rouwenden ook echt helpt, daar lopen de meningen over uiteen. De avatarmakers – die eraan verdienen – zien geen problemen. Rouwspecialisten wel.

Psycholoog Nigel Mulligan, die aan de Universiteit van Dublin onderzoek doet naar de inzet van kunstmatige intelligentie in therapie, ziet zeker pluspunten, schrijft hij in webmagazine The Conversation. In een vastgelopen rouwproces kan een rouwbot iets losmaken. En wie rondloopt met prangende vragen voor een uit het leven gerukte overledene, kan ze alsnog stellen. Toch is Mulligan sceptisch, want “het laten herleven van doden als avatar zou wel eens meer kwaad dan goed kunnen doen. Denk aan verwarring, spanning, depressie, paranoia en zelfs psychose.”

Nooit meer afscheid

Ook de Duitse Nora Lindemann, onderzoeker aan de Universiteit van Osnabrück, ziet gevaren, schrijft ze in The Ethics of ‘Deathbots’ (2022). Rouwen betekent dat ‘je het verlies onder ogen ziet’, niet dat je je aan de onsterfelijke dode vastklampt. Ze denkt dat ‘verslaving’ op de loer ligt: “Gebruikers krijgen het gevoel dat ze zónder rouwbot hun verdriet niet aankunnen.”

Waarom zouden ze ook? De belofte van You, Only Virtual (‘Jij, maar dan virtueel’) is namelijk dat ‘we nooit meer afscheid hoeven te nemen van onze geliefden’. Zo heeft de weduwe altijd haar echtgenoot bij zich, pratend en wel.

Janienke Sturm vindt rouwbotverslaving geen denkbeeldig risico, zeker wanneer bedrijven willen verdienen aan zo’n bot. “Commerciële partijen zijn er bij gebaat dat die zo lang en zo veel mogelijk wordt gebruikt. Daar zullen ze de algoritmes op afstemmen. Dat lijkt me onwenselijk en niet goed voor het rouwproces.”

Zo’n vaart loopt het niet, vindt Van der Maarel. “Je ziet dat op den duur ook de fotolijstjes verdwijnen en dat video’s minder worden bekeken. Dat is wat ons lijf doet, we hebben allemaal de drang om weer gewoon in het leven te stappen.”

Wie er gelijk heeft? Over twee dingen zijn de rouwspecialisten het eens. Ten eerste dat er weinig zeker is, omdat empirisch onderzoek nog ontbreekt, daar is de techniek te pril voor. Ten tweede dat de rouwbot alleen onder medisch-therapeutisch toezicht zou mogen worden ingezet. Ervaringsdeskundige Patricia de Boer: “Je hebt avatars die je in je eentje kunt gebruiken. Dat raad ik niet aan. Je hebt daar echt goede begeleiding bij nodig. Dat is onmisbaar.”

Wel of geen toestemming?

Zowel psychologisch als ethisch is de nieuwe techniek discutabel. Volgens techniekethici Tomasz Hollanek en Katarzyna Nowaczyk-Basińska, werkzaam bij de Universiteit van Cambridge, bevindt de ‘digitale hiernamaalsindustrie’ zich in de hoogrisicozone: naast de schade die het rouwenden kan berokkenen, kan men denken aan manipulatie. Hollanek en Nowaczyk-Basińska dringen daarom aan op streng toezicht en strikte regels: houd rouwbots weg bij kinderen, en stel de eis dat zowel de donor van de rouwbotdata evenals de gebruiker van de rouwbot van tevoren goedkeuring geven. Concreet wil dat zeggen dat nabestaanden, bijvoorbeeld, niet zonder toestemming van hun moeder een avatar van haar mogen maken, en de moeder in kwestie mag niet ongevraagd postuum bij hen op visite gaan.

De Europese Unie heeft inmiddels oog voor de schaduwkant van kunstmatige intelligentie. Er wordt gewerkt aan een wet over kunstmatige intelligentie. Is het geen tijd om in Nederland alvast een avatarcodicil in te voeren? Daarin kan iemand aangeven: ‘Ik geef wel/geen toestemming om na mijn dood een rouwbot van me te maken’.

“Goed idee, zo'n avatarcodicil”, reageert Janienke Sturm. Ook Cees Zweistra ziet dat wel zitten. Het is duidelijk wat hij erop zou zetten: geen toestemming. “Een rouwbot, ik moet er niet aan denken.” Sturm ziet het iets anders. “Ik laat de keuze voor het maken van een bot met mijn data aan mijn nabestaanden over. Ik zou het ze wel ten zeerste afraden.”

Lees ook:

‘Eternal You’ schetst een heerlijke nieuwe wereld waarin je met je geliefde kan praten in een digitaal hiernamaals

Stel dat je nog een keer met een overledene zou kunnen praten. Iedereen die een geliefde heeft verloren, weet hoe groot dat verlangen kan zijn. In de documentaire Eternal You wordt de kwestie uitgediept.

Het restaurant van de toekomst: een avatar als maître en voedsel uit de 3D-printer

Chef-kok Mark op de Weegh (41) opende met twee compagnons in het najaar restaurant Bunkr in Eindhoven. Daar worden gasten welkom geheten door een avatar, die ze uitlegt waar ze hun jassen kunnen ophangen, waar de wc is, en die ze een tafel toewijst.