Internetbedrijven moeten volgens het wetsvoorstel maatregelen nemen tegen grooming (online kinderen lokken) en de verspreiding van beelden met kindermisbruik. Het gaat niet alleen om preventie, maar ook om handhaving.

Beelden met kindermisbruik moeten opgespoord worden. Daarvoor kunnen internetbedrijven bijvoorbeeld mailtjes, WhatsApp-berichten en de cloudopslag van gebruikers scannen. Ook moeten techbedrijven melding maken van berichten als "ben je alleen thuis?" of "zijn je ouders thuis?".

Volgens Brussel is er dringend nieuwe wetgeving nodig, omdat de huidige wetgeving in augustus 2024 vervalt. Binnenkort stemt het Europees Parlement over het wetsvoorstel.

"Dit wetsvoorstel bevat duidelijke verplichtingen voor bedrijven om gevallen van kindermisbruik op te sporen en te melden", zegt Eurocommissaris Ylva Johansson van Binnenlandse Zaken. "Er zijn krachtige waarborgen om de privacy van iedereen - ook van de kinderen zelf - te garanderen."

Om berichtenverkeer op bijvoorbeeld WhatsApp, Telegram of Signal te kunnen scannen, moet de huidige beveiliging verzwakt worden. En daar is discussie over. "Dat vergroot juist het risico dat foto's in verkeerde handen komen", legt Rejo Zenger van privacyorganisatie Bits of Freedom (BoF) uit. "Daardoor brengt de Europese Commissie de groep die ze wil beschermen alleen maar in gevaar. Je maakt communicatiemiddelen onveiliger!"

Een verzwakte beveiliging van communicatie treft volgens Sarah Eskens, universitair docent Recht en Technologie aan de Vrije Universiteit Amsterdam, ook bijvoorbeeld journalisten en advocaten. "Journalisten moeten erop kunnen vertrouwen dat ze veilig met hun bronnen kunnen communiceren. Anders wordt de persvrijheid beperkt."

Bij justitie al bekend beeldmateriaal van kindermisbruik opsporen is nu al mogelijk. Sterker nog: dat doen verschillende internetbedrijven al vrijwillig. Google en Microsoft laten aan NU.nl weten dat ze het internetverkeer en de cloudopslag scannen op beelden van kindermisbruik.

Maar voor justitie nog onbekend materiaal van kindermisbruik vinden is veel moeilijker. Brussel wil dat daarvoor kunstmatige intelligentie wordt ingezet. Die moet getraind worden om beelden van kindermisbruik te herkennen.

Datzelfde geldt voor de opsporing van grooming. Daarvoor moet kunstmatige intelligentie bijvoorbeeld e-mails, WhatsApp-berichten of privéberichten op sociale media gaan scannen op alarmerende teksten.

"Het probleem is dat zo'n systeem niet de context van beelden of tekst kan begrijpen", licht Zenger toe. "Als een tienermeisje een foto van haar nieuwe bh deelt met een vriendin, is er geen sprake van kindermisbruik. Maar het systeem zou dat wel als misbruik kunnen aanmerken."

Vervolgens moeten mensen gedetecteerde beelden van mogelijk kindermisbruik beoordelen, zo staat in het wetsvoorstel. "Zo'n foto wordt soms door wel vijf mensen bekeken", zegt Arda Gerkens van Expertisebureau Online Kindermisbruik (EOKM). "Als het niet om misbruik gaat, is het een ernstige schending van de privacy van het tienermeisje." Ook haar organisatie is daarom tegen het wetsvoorstel.

De stichting Defence for Children steunt het wetsvoorstel wél. "Er moeten nog wel veiligheidsgaranties over bijvoorbeeld het controleren van gemelde beelden ingebouwd worden", vertelt projectcoördinator Celine Verheijen. "Maar deze wetgeving zorgt juist voor openheid over de aanpak van online kindermisbruik."

Het EOKM vindt dat Eurocommissaris Johansson vooral heeft geluisterd naar techbedrijven die zich opstellen als belangenbehartiger van slachtoffers. "Maar werkelijkheid willen die bedrijven hun diensten verkopen. En met die diensten zou het internet voor kinderen dan veiliger gemaakt kunnen worden."

Privacyorganisatie BoF deelt die mening. "Die bedrijven hebben technieken ontwikkeld waarmee online kindermisbruik in bijvoorbeeld WhatsApp-gesprekken opgespoord kan worden."

Volgens de Europese Commissie klopt het niet dat alleen bedrijven met een financieel belang zijn gevraagd om mee te denken. "Voor dit wetsvoorstel is een openbare consultatie gehouden. Naast bedrijven zijn ook organisaties tegen kindermisbruik geraadpleegd."

Maar ook vanuit juridische hoek is er kritiek. Het wetsvoorstel tast volgens universitair docent Eskens zowel de privacy als de vrijheid van meningsuiting aan. "Maar veel mensen durven niets te zeggen. Want als je tegen de wet bent, word je afgeschilderd als iemand die voor kindermisbruik is."

Het wetsvoorstel is volgens Zenger van Bits of Freedom niet effectief en leidt tot veel nevenschade. "Het enige goede wat ermee kan gebeuren is in de prullenbak gooien en opnieuw beginnen."

Gerkens sluit zich daar namens het EOKM bij aan: "Dit wetsvoorstel mag niet doorgaan, maar ik ben bang dat het wel gaat gebeuren. Ik maak me daar ernstig zorgen over."

"Het wetsvoorstel is ter bescherming van kinderen, maar kinderen hebben ook het recht op seksuele ontwikkeling", voert Eskens nog als tegenargument aan. "Kinderen mogen elkaar seksueel getinte berichten sturen. Dit wetsvoorstel kan de privacy- en communicatierechten van kinderen ook beperken."

Defence for Children kijkt daar anders naar. "Nu beslissen techbedrijven over onze fundamentele rechten, zoals privacy en bescherming tegen misbruik", stelt Verheijen. "Dat hoort in een democratie niet bij de techbedrijven, maar bij de wetgever en de rechter."