EU-Raad onder vuur wegens controversiële en privacyschendende anti-kinderpornowet

In 2023 stuurden de wetenschappers al een open brief met kritiek over het voorstel naar de Raad, maar deze heeft hun waarschuwingen over surveillance en privacyschendingen op grote schaal niet ter harte genomen, schrijven meer dan 250 ondertekenaars donderdag in een tweede brief. Nog altijd wil de Raad AI-toepassingen installeren op de telefoons van Europeanen om te detecteren of iemand bijvoorbeeld op WhatsApp ongepast contact legt met minderjarigen of schadelijk materiaal deelt.

Deze technologie, client-side scanning geheten, doet een inbreuk op de privacy en kan onschuldige EU-burgers onterecht bestempelen als crimineel, vinden wetenschappers, het Meldpunt Kinderporno en de Tweede Kamer. Daar is het Europees Parlement het mee eens, waarna het een tegenvoorstel opstelde, dat gericht is op het voorkomen in plaats van het detecteren van kindermisbruik.

Welke aanpassingen heeft de Raad gemaakt?

Een van de zorgen is dat dat een AI-toepassing soms ten onrechte burgers kan aanmerken voor het verspreiden van kinderporno, bijvoorbeeld wanneer ze een onschuldige foto maken van hun kind in bad. De Raad wil deze zogeheten ‘vals-positieven’ voorkomen door de toepassing zo in te stellen dat er pas alarmbellen afgaan wanneer een gebruiker meermaals materiaal deelt dat AI herkent als schadelijk. De Raad heeft daarnaast de weging aangepast waarmee per app of platform het risico op (het verspreiden van) seksueel kindermisbruik wordt geschat. Zo zou de detectiesoftware alleen meekijken waar dat echt noodzakelijk is.

Welke kritiek wordt geuit in de open brief?

Hoewel deze aanpassingen raken aan de belangrijkste kritiekpunten, zetten de maatregelen geen zoden aan de dijk, vindt Jaap-Henk Hoepman, universitair hoofddocent privacy aan de Radboud Universiteit en een van de auteurs van de brief. Over het verhogen van de drempel voordat een persoon wordt bestempeld als iemand die kinderporno verspreidt, zegt hij: ‘In die maatregel wordt er onterecht vanuit gegaan dat foutieve meldingen (van onschuldige burgers) onafhankelijk van elkaar zouden zijn. Maar als ik bijvoorbeeld meerdere foto’s van mijn kinderen naar de dokter stuur, dan worden die allemaal óf wel óf allemaal niet aangemerkt als schadelijk.’

Bovendien vindt Hoepman het überhaupt problematisch dat bedrijven detectiesoftware moeten plaatsen in hun apps: ‘De (Europese) Commissie moet nog steeds zelf een inschatting maken welke apps risicovol zijn. Als het WhatsApp als risico ziet, zoals de Commissie tot nu toe steevast heeft gedaan, komt op zowat elke telefoon in Europa detectiesoftware te staan. Dat gaat gewoon te ver.’

Ook Nederland is vertegenwoordigd in de Raad, hoe kijkt het kabinet hiernaar?

Volgens een woordvoerder van het ministerie van Justitie en Veiligheid is het kabinet geen voorstander van het geautomatiseerd detecteren van (online) kinderlokken en de verspreiding van onbekend materiaal, zoals bijvoorbeeld schadelijk materiaal dat nog niet in een database van een opsporingsdienst te vinden is.

Voor het opsporen van bekend materiaal ziet minister Dilan Yeşilgöz-Zegerius dergelijke methoden wél als optie om kinderpornografisch materiaal op te sporen. ‘Op dit moment lijkt dit de enige manier waarop de maatregelen in de verordening kunnen worden uitgevoerd zonder end-to-endencryptie – waarbij bij zowel verzender als ontvanger data versleuteld wordt, red. – aan te tasten’, schreef zij in 2023 in een Kamerbrief.

‘Nederland is in verhouding met andere lidstaten kritisch op deze wet’, zegt Rejo Zenger, beleidsadviseur van digitalemensenrechtenorganisatie Bits of Freedom. ‘Maar Nederland stelt zich te zwak op tegen de geautomatiseerde scantechnologie.’ Zo meent Nederland volgens Zenger dat client-side scanning de versleuteling van bijvoorbeeld WhatsApp-berichten intact laat. Maar, zegt Zenger, de detectiesoftware kan die berichten en bestanden alsnog zien zodra deze op het apparaat van de verzender of ontvanger staan opgeslagen. ‘Het argument dat scantechnologie en versleuteling hand in hand kunnen gaan, is dus bedroevend slecht.’

Wat is nu het tijdpad voor het wetsvoorstel?

Na het wetsvoorstel van de Commissie is het aan het Parlement en de Raad om tegenvoorstellen te formuleren. Dat van het Parlement is al gepubliceerd, het nieuwe voorstel van de Raad nog niet. Met de brief hopen de wetenschappers de huidige versie van het voorstel nog aan te passen. Gelet op de Europese verkiezingen in juni, zal naar verwacht pas op z’n vroegst in de herfst worden onderhandeld over de uiteindelijke wettekst.