Momenteel zijn de berichten in WhatsApp end-to-end versleuteld. Hierdoor hebben zowel politie als justitie geen toegang tot de berichten van gebruikers. Met het plan van de Europese Commissie komt hier verandering in. Zo wordt er een ‘virusscanner’ aan de app toegevoegd die berichten monitort op bepaalde materiaal. Dit materiaal wordt dan voor verder onderzoek doorgestuurd naar een nieuwe Europees anti-kinderpornocentrum. Volgens veel computerwetenschappers is deze methode van ‘client side scanning’ erg gevaarlijk.

Nederland is huiverig over de volledige implementatie van de plannen, met name het gebruik van kunstmatige intelligentie om grooming op te sporen. Ook wil het kabinet niet dat de software gebruikt wordt om automatisch beelden van kinderporno te selecteren voordat ze op de zwarte lijst zijn gezet.

 

Demissionair minister Yesilgöz van Justitie en Veiligheid liet echter in een kritische motie haar steun blijken voor een gedeeltelijke invoering van de nieuwe wet, waarbij het blokkeren en rapporteren van kinderporno gebeurt via een zwarte lijst.  Momenteel zijn lidstaten in Europa nog aan het onderhandelen over de inhoud van de wet.

Juridisch expert Frederik Zuiderveen Borgesius is net zoals de andere deskundigen huiverig over de nieuwe wet, zelfs in beperkte staat. Volgens hem zal het opsporingsprogramma gegarandeerd in de fout gaan. "Stel dat het in één op de duizend gevallen fout gaat, wat al een hele goede score zou zijn", zegt Zuiverveen Borgesius. "Dan worden de autoriteiten overstelpt met onschuldige foto's, bijvoorbeeld als je een zwembadfoto naar oma appt."

 

Volgens de expert zal het gebruik van de software ook voor andere doeleinden gebruikt kunnen worden. "Andere landen, ook dictaturen, zullen denken: dit willen wij ook wel." Technisch is er namelijk geen belemmering om de eenmaal ingebouwde "kinderpornoscanner" ook voor andere zaken te gebruiken.

Volgens Zuiderveen Borgesius zal de nieuwe wet ook voor juridische problemen zorgen. "De chats van honderden miljoenen mensen worden straks gescand om een relatief klein aantal misdadigers op te sporen, hoe erg ook." 

 

De nieuwe wetgeving lijkt daarnaast sterk op de EU-wetgeving om terrorisme te bestrijden door internet- en telecomgebruikers locatie- en gespreksgegevens te monitoren. Deze was echter afgekeurd door het Europees Hof, omdat hij buitenproportioneel was.