De Europese Commissie heeft deze maand een wetsvoorstel gepresenteerd met zware maatregelen tegen de verspreiding van online kindermisbruik. In dit artikel beantwoorden we drie vragen die op reactieplatform NUjij werden gesteld.

Vrijwillige maatregelen van techbedrijven tegen het delen van kindermisbruik op internetplatforms zijn niet effectief genoeg, vindt de Commissie. Daarom moeten bedrijven veel actiever op zoek gaan naar gedeelde misbruikbeelden, bijvoorbeeld door chatberichten te scannen.

Omdat chatapps zoals WhatsApp en Signal berichten van gebruikers versleutelen, kan niemand de gesprekken lezen, behalve de verzender en ontvanger. Dat maakt het voor techbedrijven en autoriteiten zeer lastig om illegale beelden op te sporen. Als daarvoor omwegen worden bedacht, loopt volgens critici de privacy van Europese burgers gevaar.

Op het moment ligt er een wetsvoorstel bij de Europese Commissie. De lidstaten en het Europees Parlement moet zich nog over de tekst buigen voordat de wet wordt aangenomen.

Ben ik straks strafbaar als ik foto's van mijn kind in bad op WhatsApp deel met mijn partner?

De Europese Commissie wil het delen van beelden met kindermisbruik terugdringen. Ouders die normale foto's van hun kinderen met elkaar delen, zijn niet het doelwit van de maatregel.

Met een technologie die client-side device scanning heet, zou het mogelijk zijn om gesprekken op eventuele schadelijke inhoud te scannen. Daarvoor worden databases gebruikt waarin bekende misbruikfoto's zijn opgeslagen.

Data van bekende misbruikbeelden (of -teksten) kunnen met client-side device scanning volledig geautomatiseerd worden vergeleken met gedeelde beelden in chats, ook als die versleuteld zijn.

Wat als beelden worden aangepast om onder de radar te blijven?

De bekende beelden uit de databases hebben een unieke digitale vingerafdruk waarmee ze gevonden kunnen worden. Als een afbeelding wordt aangepast, verandert ook die vingerafdruk.

Het is mogelijk dat de Europese Commissie een stap verder gaat door een bepaalde vorm van kunstmatige intelligentie in te zetten. Die kan patronen van kindermisbruik herkennen en taalgebruik dat hoort bij grooming, oftewel digitaal kinderlokken.

Wat als er twijfel is over de inhoud van een afbeelding?

Detectie van kinderporno en -misbruik gebeurt altijd op een automatische en anonieme manier, belooft de Commissie. "De allerbeste technologie zorgt voor de hoogste effectiviteit, terwijl de impact op de privacy van mensen minimaal blijft."

Menselijke controle vindt volgens het wetsvoorstel alleen plaats als er aanwijzingen zijn van seksueel misbruik van kinderen in een specifieke afbeelding, video of bericht. De controle zorgt ervoor dat overduidelijk verkeerd geregistreerde beelden niet aan de autoriteiten worden doorgegeven.

Volgens de Commissie worden beelden waarin geen kindermisbruik is aangetroffen teruggekoppeld aan de internetplatforms. Zo moeten opsporingssystemen steeds beter worden. Dat zou als gevolg kunnen hebben dat menselijke tussenkomst steeds minder nodig is.