Kritiek van 250 deskundigen op Europees plan om WhatsApp te scannen op kindermisbruik

"Seksueel misbruik en uitbuiting van kinderen zijn ernstige misdaden die levenslange schade kunnen toebrengen", schrijven de experts in de open brief. Toch hebben zij kritiek op het voorstel om kindermisbruik aan te pakken door iedereens appjes te scannen.

Dat zou betekenen dat diensten als WhatsApp en iMessage software moeten inbouwen die de foto's die je verstuurt scant. Als de software vaststelt dat er sprake is van kindermisbruik, krijgt een nieuw op te richten Europees centrum voor kindermisbruik een melding. Die moet vaststellen of het inderdaad misbruikmateriaal betreft voordat het wordt doorgestuurd naar Europol, het samenwerkingsverband van Europese politiediensten.

Onterechte meldingen

"Geen goed idee", vindt Jaap-Henk Hoepman, onderzoeker digitale privacy aan de Radboud Universiteit. Hij is een van de opstellers van de brief. Hij maakt zich onder meer zorgen dat de software die de beelden scant, niet goed genoeg is om kindermisbruik en onschuldige beelden van elkaar te onderscheiden.

Dat het onterecht aanwijzen van beelden als kindermisbruik een reëel probleem is, bewijst het verhaal van Mark. Een foto van zijn meerderjarige vriendin werd door Microsoft aangemerkt als kinderporno. Dit bedrijf maakt al jaren gebruik van software om e-mails en bestanden te scannen op kindermisbruikbeelden die in een database staan.

Als de software niet alleen vergelijkt met een database met bestaande beelden, maar ook zelf analyseert, zal dat volgens Hoepman voor meer problemen zorgen. "Het risico is dan dat een foto van je kind in bad wordt gezien als kinderporno", zegt hij. "Stel dat maar 0,1 procent van de meldingen eigenlijk onschuldige foto's zijn, dan zal het nog gaan om miljoenen berichten. Die moeten wel allemaal worden bekeken."

Sexting is geen kinderporno

Arda Gerkens van de Autoriteit online Terroristisch en Kinderpornografisch Materiaal (ATKM) deelt de zorgen. Bovendien wijst ze nog op een ander probleem: niet elke naaktfoto van een minderjarige is kindermisbruik: bijvoorbeeld als het gaat om sexting door tieners. "Een 15-jarige die die een foto van haar borsten stuurt, kan ook een melding opleveren. Dat heeft niets met kinderporno te maken, maar al die foto's zullen wel bekeken worden."

Het oorspronkelijke voorstel van de Europese Commissie komt uit 2022. Toen spraken Gerkens en anderen hun zorgen al uit tegen RTL Nieuws.

Het voorstel is nu aangepast door de Raad van de Europese Unie. Daarin is elke EU-lidstaat vertegenwoordigd. Nadat de Europese Commissie met een voorstel komt, kan de Raad samen met de volksvertegenwoordigers uit Europees Parlement aanpassingen doen.

De Raad heeft voorgesteld dat er pas alarm wordt geslagen na twee of drie meldingen. Volgens deskundigen maakt dat in de praktijk geen verschil. Het scannen vindt nog steeds plaats. Meerdere foto's van kinderen in bad zijn zo gestuurd, en tieners beperken sexting ook niet tot één keer.

In de open brief roepen de wetenschappers de Raad en het Parlement op het plan tegen te houden. Ze noemen het voorstel een vorm van 'techno-solutionisme': het idee dat voor elk probleem een technische oplossing bestaat. In plaats daarvan wijzen zij op andere maatregelen om niet alleen de verspreiding van kindermisbruikbeelden, maar kindermisbruik zelf te voorkomen.

Digitaal briefgeheim

Het huidige plan zet het digitaal briefgeheim onder druk, zegt Hoepman. Nu zijn WhatsApp-berichten bijvoorbeeld versleuteld: alleen de ontvanger en verzender kunnen ze lezen. "Dan zegt de overheid: we willen die berichten 24/7 kunnen controleren."

"Als ouder wil je niets liever dan een foto delen, maar daar kan kunstmatige intelligentie mee aan de haal gaan", zegt Gerkens van de ATKM. "De situatie is zo complex dat deze wetgeving niet gaat werken. Het is allemaal niet zo effectief om dit te doen."