Praten met je overleden zoon via een rouwbot, moet je dat willen?
Met een rouwbot kunnen nabestaanden blijven praten met hun overleden familieleden of vrienden. Is dat wenselijk en wat betekent dat, als je na je dood doorleeft als virtuele avatar?
‘Het is een enorm verlies, de dood van je kind. Maar wij bieden je de opstanding van je zoon of dochter.’ Zo adverteert de Chinese firma Super Brain, die op basis van artificiële intelligentie virtuele ‘avatars’ van overledenen vervaardigt. Nabestaanden kunnen deze avatars gebruiken om met overleden dierbaren in gesprek te blijven.
In deze krant werd onlangs verslag gedaan van een ware ‘hiernamaalsindustrie’, waar Super Brain slechts een onderdeel van is. Wat betekent deze ontwikkeling, is het een eerste stap naar het transhumanistische ideaal van een eeuwig virtueel leven?
“De toepassing van zo’n rouwbot is relatief eenvoudig”, verklaart Bas Haring, filosoof en bijzonder hoogleraar publiek begrip van de wetenschap aan de Universiteit Leiden. “Je uploadt iemands geschiedenis van appjes, mails en video’s naar bijvoorbeeld ChatGPT en dan herkent de app bepaalde patronen. Particulieren kunnen dus ook makkelijk zelf rouwbots in elkaar knutselen. En daar ben ik groot voorstander van, dat mensen zelf lekker gaan experimenteren met nieuwe technische mogelijkheden.
“Sowieso kan zo’n rouwbot volgens mij geen kwaad, zolang je maar beseft dat het een gimmick is, een tooltje dat communiceert alsóf het een persoon is die ooit echt bestond. Anders dan met een statische foto van een overledene kan je met zo’n rouwbot fictieve conversaties voeren – zie het als een extra feature.”
“Ik betwijfel of er veel kwalitatief verschil is tussen een rouwbot en wat mensen normaal gesproken doen bij rouwverwerking”, reageert Paul van Tongeren, emeritus hoogleraar wijsgerige ethiek in Nijmegen en Leuven. “Ik ken iemand die dagelijks een kaarsje aansteekt bij een foto van haar overleden partner. Als ze dat een keer vergeet voelt ze zich schuldig tegenover de overledene en biedt ze soms hardop haar excuses aan. Of je nu zoiets doet, of een fictieve conservatie voert met een avatar, het principe blijft hetzelfde.”
Haring: “Misschien. Van die rouwbots wordt weleens gezegd dat nabestaanden heel goed weten dat het niet écht de overleden dierbare is, maar ze reageren erop alsof het wél zo is. Want in het limbische circuit van het brein, waar de emoties zitten, gaat er iets knetteren, en dat zou het dan tot op zekere hoogte écht maken.
“Van dat soort neurologische verklaringen krijg ik altijd de kriebels. Want als je naar een foto van een overledene kijkt, gaat er ook iets knetteren in je hersenpan, dat noemen we gewoon ‘herkenning’.”
Van Tongeren: “Het gaat mij ook niet om wat er in het brein gebeurt als iemand met een rouwbot praat, maar om wat er in de ervaring gebeurt.
“Aristoteles zei dat mensen ‘van nature verlangen naar weten’. Dat weten zijn we gaan opvatten als wetenschappelijke kennis van de fysieke werkelijkheid.
“Maar tegelijkertijd zijn we symbolische wezens, die de werkelijkheid ervaren als een betekeniswereld. De verbinding van die twee maakt dat we betekenissen als ‘reëel’ kunnen ervaren, terwijl we tegelijk weten dat die realiteit niet wetenschappelijk registreerbaar is. Daardoor is er in die ervaring altijd ook een soort alsof-besef, zonder dat dat afbreuk doet aan de realiteit van de ervaring.
“Als je bijvoorbeeld een kaarsje aansteekt voor een overledene, kan dat voor jou een reële ervaring van betekenis zijn, terwijl je weet dat het kaarsje of de foto waar het bij staat niet de overledene zelf is. Je kunt bij het aansteken de stem van de overledene in je hoofd horen, terwijl je weet dat een ander die stem niet kan horen en er geen machine bestaat die kan registreren wat je op zo’n moment ervaart.
“In een wereld met avatars wordt het misschien moeilijker om de realiteit van die symbolische ervaring te laten bestaan. De voor iedereen registreerbare stem uit de computer zou weleens afbreuk kunnen doen aan de symbolische betekenis die die stem juist voor mij heeft.”
Transhumanisme
Volgens transhumanisten bestemt de mens middels technologie zijn eigen evolutie. De meest radicale denkers onder hen veronderstellen dat mens en computer in de toekomst zullen samensmelten tot een superwezen.
Futoroloog Max More beriep zich hiervoor op een citaat uit Nietzsches Also Sprach Zarathustra: ‘De mens is een koord gespannen tussen de übermensch en het dier’.
Raymond Kurzweil, voormalig hoofdingenieur bij Google, voorspelde onbegrensde mogelijkheden wanneer het tijdperk van ‘technologische singulariteit’ eenmaal is gearriveerd. Het biologische leven is dan volgens Kurzweil slechts het voorportaal van een eeuwig bestaan waarbij je brein voortleeft als software.
Toen hij 22 was, verloor Kurzweil zijn vader Fredric. Al decennia vóór de lancering van ChatGPT probeerde Kurzweil om zijn vader als avatar opnieuw ‘tot leven te wekken’. De familie Kurzweil is er inmiddels aan gewend om thuis te chatten met de ‘Fredbot’.
Haring: “Misschien plaats je de techniek dan te veel op een voetstuk. Een rouwbot wordt gevoed met zoveel mogelijk beschikbare data van de overledene, en op een gegeven moment raakt die bron wel een keertje uitgeput. Dan gaat de bot te veel afwijken van de oorspronkelijke persoon en kan je hem als nabestaande net zo goed uitzetten.”
Van Tongeren: “Door het zo te zeggen geef je al aan dat de avatar het symbool manipuleerbaar maakt op een manier die in strijd is met de kracht ervan, al is het maar omdat je ervoor kunt kiezen om de computer met je overleden dierbare aan of uit te zetten. Maar een van de kenmerken van rouw is nu juist dat de overledene soms tot je spreekt op momenten dat je er helemaal niet op zit te wachten.
“Daar zit ook mijn probleem met het transhumanisme. Transhumanisten willen het symbolische verlangen naar oneindigheid vervangen door technische maakbare eindeloosheid. Maar zo ondermijn je het alsof-besef, dat me essentieel menselijk lijkt.”
Haring: “Het transhumanisme berust, denk ik, op een misverstand uit de klassieke informatica. Informatici reduceerden de mens tot informatieverwerkend wezen, en als je een machine kunt bouwen die op een soortgelijke manier informatie verwerkt zou je een mens dus potentieel in een computer kunnen gieten. Maar wat die informatici zich niet realiseerden is dat onze verstandelijke vermogens alles te maken hebben met het feit dat we belichaamd zijn. En een menselijk lichaam kun je niet uploaden naar een computer. Je kunt wel een kunstmatig lichaam aan een computer koppelen, maar dan krijg je een robot, met een fundamenteel ander lichaam dan wij hebben.
“Een avatar zal nooit kunnen leren hoe het is om bijvoorbeeld melk te drinken, want het ding mist de specifieke lichamelijke ervaring van het drinken.”
Van Tongeren: “Inderdaad: de ervaring van het melk drinken is geladen met betekenis, die ervaring valt niet samen met wat je wetenschappelijk kunt registreren aan een slokdarm wanneer je er melk in giet.”
Haring: “Sowieso zou ik niet tekenen voor dat eeuwige leven waar transhumanisten zo krampachtig naar streven. Telkens als je in je leven iets voor de eerste keer meemaakt, is dat een fantastische ervaring: je eerste ijsje, je eerste kus, de eerste keer dat je met iemand naar bed gaat. Maar als je onsterfelijk bent raken die eerstekeerervaringen op. Willen we echt leven in een wereld waar je altijd blijft bestaan, maar geen nieuwe ervaringen meer opdoet?”
Van Tongeren: “De onlangs overleden filosoof Wouter Oudemans zei: ‘Wij mensen zijn te eindig om onze eindigheid te accepteren’. In ons besef van onze eindigheid zit altijd een vorm van verzet tegen die eindigheid. Daarom fantaseren we ook graag over hoe we die eindigheid kunnen overstijgen naar een staat van eeuwigheid en volmaaktheid. Grappig genoeg is het transhumanisme dus een symptoom van wat wij wezenlijk zijn – niet transhumaan, maar menselijk, al te menselijk.”
In het Filosofisch Elftal legt Trouw een actuele vraag voor aan twee filosofen uit een poule van elf. Lees hier eerdere afleveringen terug