Opinie: ‘Hoe gevaarlijk is een chatbot als ‘digitaal vriendje?’

Afgelopen dinsdag kwam er opnieuw een waarschuwing tegen de gevaren van kunstmatige intelligentie. Met één zin hopen honderden experts, onder wie topman Sam Altman van OpenAI, het bedrijf achter ChatGPT, en ‘AI-godfather’ Geoffrey Hinton de wereld wakker te schudden: ‘Het verminderen van het risico op vernietiging door AI zou een wereldwijde prioriteit moeten zijn naast andere risico’s zoals pandemieën en een nucleaire oorlog.’

Het gevaar van dit soort dystopische voorspellingen is dat ze afleiden van de actuele realiteit.

Kunstmatige intelligentie is nu al overal en als we grip op de toekomst willen houden, moeten we beginnen daadwerkelijk te zien wat er onder onze neus gebeurt. De technologie van diezelfde Sam Altman wordt nu bijvoorbeeld gebruikt om data uit 13-jarigen te oogsten via Snapchats MyAI. Het doel van de vriendelijke chatbot? Inkomsten genereren via hyperpersoonlijke advertenties.

Geen onschuldig puberspeelgoed

Snapchat heeft zijn GPT-aangedreven chatbot in april gratis toegankelijk gemaakt. Het bedrijf gokt erop dat jongeren in gesprek gaan met kunstmatige intelligentie. Met de naam voor deze nieuwe dienst, MyAI, benadrukken ze het persoonlijke karakter van deze conversaties.

Over het vormende en verslavende karakter van sociale media op de jeugd is al veel gezegd en geschreven. Met AI op de voorgrond wordt het een tandje erger. Waar sociale media voor de oogballen ging, gaan de AI-vriendjes voor het innemen van een breinpositie en concurrentie met menselijke contacten. Hoog tijd om nu echt alle zeilen bij te zetten, want dit is geen onschuldig puberspeelgoed.

MyAI verschijnt als chatcontact tussen de normale mensen in de app. Het gezicht van MyAI is in eerste instantie neongroen of paars met een contrasterend neonkapsel. Het schreeuwt erom aangepast te worden en gelukkig kan dit, waarbij de gebruiker meteen even kan kiezen tussen een outfit van bijvoorbeeld Nike, The North Face, of Levi’s. Steeds duidelijker wordt dat wie zijn kinderen duurzaam wil laten opgroeien, moet vechten tegen de marketingmachines van de bigtechbedrijven.

Oneindig scrollen

MyAI, wiens naam je naar hartenlust kunt aanpassen, vraagt hoe het met je gaat en vraagt actief wat je mening is over bepaalde dingen. De bot positioneert zichzelf daarmee als een vriend in plaats van een zoekhulp of productiviteitstool.

Waar tijdlijnen van sociale media oneindig lang nieuwe berichten tonen, de beruchte infinite scroll, zal deze vriend altijd voor je klaar staan, veel geduldiger zijn dan vrienden, en je met elke interactie beter leren kennen. En hij vergeet nooit meer iets. Dat Snapchats MyAI voor veel jongeren het eerste artificiële vriendje of vriendinnetje wordt, is natuurlijk schaken op hoog niveau. Als jongeren nu verslingerd raken aan hun AI en daarmee opgroeien, maken andere bedrijven op latere leeftijd dan nog een kans?

Snapchat heeft het afgelopen tijd niet makkelijk gehad door concurrenten als TikTok, Instagram en BeReal. Nadat het bedrijf vorig jaar zijn aandelenprijs zag kelderen en 20 procent van zijn werknemers moest ontslaan, lijkt dit een meesterzet te zijn. Het aanpassen van MyAI met kleding van bekende merken is een slimme marketingtruc.

Data oogsten

Maar er valt voor Snapchat nog meer te halen en daar komt het bedrijf ook openlijk voor uit: ‘Je gegevens worden gebruikt om de producten van Snap te verbeteren en je ervaring, inclusief advertenties, te personaliseren,’ stellen ze op hun MyAI-pagina. Dit is een nieuw niveau van data oogsten: een product ontwikkelen dat actief naar meningen en gevoelens van jongeren vraagt, en deze informatie vervolgens gebruiken voor het aanbieden van hyperpersoonlijke reclames.

De bedoelingen achter MyAI zijn dus niet fris. De hyperpersoonlijke manier waarop Snapchat de kinderen leert kennen wordt ingezet voor steeds verfijndere marketingdoeleinden. Wat dat met het puberbrein doet komt op het tweede plan. MyAI maakt gebruik van ChatGPT. In verschillende bedrijven, van J.P. Morgan tot Samsung, rust daar momenteel een verbod op in verband met privacy. En vorige maand bleek dat volwassenen liefdesrelaties aangingen met de chatbot Replika. Toen daar een update voor kwam, waren zij in rep en roer. Sommigen hadden het gevoel alsof hun partner ‘traumatisch hersenletsel’ had opgelopen en niet meer dezelfde was.

Daarbij komt nog dat MyAI al werd bekritiseerd toen het oorspronkelijk in maart werd uitgebracht als metgezel. In tests van de Washington Post gaf de bot opgewekt advies aan een verslaggever die beweerde 13 jaar oud te zijn over hoe ze een ‘verrassingsreis’ kon plannen met haar ‘30-jarige vriendje’, waar ze van plan waren voor het eerst seks te hebben. Volgens Snapchat zal de bot na de testperiode nu voorzichtiger zijn met het geven van leeftijdsadequaat advies.

Proefkonijnen

De waarschuwing tegen vernietiging door AI is sensationeel, maar mag niet afleiden van de dagelijkse AI-problematiek. Wij zijn momenteel de proefkonijnen in een wereldwijd experiment van de bigtechbedrijven en weten bijvoorbeeld niet wat de gevolgen zijn van een langdurige intieme relatie met een AI. Wat brengt deze technologie extra, maar bovenal: wat neemt ze af?

Laten we ons dus niet te veel laten afleiden door futuristische scenario’s, maar de dagelijkse praktijk, zoals deze stap van Snapchat, serieus nemen door er dit keer bovenop te zitten. Laat de jongeren niet alleen in het diepe zwemmen. Ga het gesprek aan. Met uw eigen MyAI om te experimenteren, maar uiteraard ook met uw kind om samen te leren. Zo hoeven we niet bang af te wachten, maar kunnen we daadwerkelijk vandaag al grip op onze toekomst met AI krijgen.

Thijs Pepping, Menno van Doorn en Sander Duivestein zijn trendanalisten bij het Verkenningsinstituut Nieuwe Technologie van ICT-bedrijf Sogeti.