SyRI, het omstreden fraudeopsporingssysteem van de Staat, is in strijd met het Europees Verdrag voor de Rechten voor de Mens (EVRM), oordeelt de rechtbank in Den Haag woensdag. Volgens de rechter dient SyRI een legitiem doel, maar wordt de privacy van burgers onvoldoende gewaarborgd.

"Het risicomodel kan in de huidige vorm onbedoelde stigmatiserende en discriminerende effecten hebben", aldus de rechter.

Het ministerie van Sociale Zaken en Werkgelegenheid gebruikt het Systeem Risico Indicatie (SyRI) sinds 2014. Met het systeem kan een grote hoeveelheid data van alle burgers in een bepaalde wijk geanalyseerd worden. Met algoritmes kan berekend worden bij wie een groot risico bestaat op het plegen van fraude met onder meer sociale voorzieningen. SyRI is toegepast in wijken in Eindhoven, Rotterdam, Capelle aan den IJssel en Haarlem.

De rechter oordeelt nu dat fraudeopsporing van groot maatschappelijk belang is, maar dat de wetgeving die SyRI mogelijk maakt niet voldoende waarborgen bevat om burgers te beschermen tegen inbreuk op het recht op eerbiediging van de persoonlijke levenssfeer. Daarmee is het systeem in strijd met artikel 8 van het EVRM.

Systeem kan volgens rechter discriminerende effecten hebben

SyRI kan hierbij ook "onbedoeld stigmatiserende en discriminerende effecten hebben". Niet alleen omdat het systeem tot nu toe alleen in probleemwijken is gebruikt, maar vanwege de grote hoeveelheden data die aan elkaar gekoppeld worden. Er zijn volgens de rechter bijna geen persoonsgegevens te bedenken die onder de SyRI-wet niet gebruikt mogen worden.

Sinds SyRI in 2014 in gebruik werd genomen, is er geen enkel geval van fraude mee opgespoord, ontdekte de Volkskrant afgelopen juni.

Staat omschrijft SyRI als beslisboom

De Staat benadrukt dat het systeem alleen gegevens koppelt die de Staat al heeft en daar een simpele "beslisboom" op loslaat. Er komt dus geen kunstmatige intelligentie of zelflerend algoritme aan te pas.

De rechter stelde hierop dat deze bewering niet te controleren is, omdat de SyRI-wetgeving niet genoeg transparantie biedt. Bovendien biedt de wet volgens de rechter wel de mogelijkheid om bijvoorbeeld zelflerende algoritmes in de toekomst toe te passen bij SyRI.

De manier waarop SyRI het risico op fraude berekent, houdt de Staat geheim uit vrees dat burgers gaan proberen de algoritmes ontwijken. Ook de rechter kreeg hierdoor niet voldoende inzicht in het systeem.

'Een heel belangrijke uitspraak'

Een coalitie van acht burgerrechten- en privacyorganisaties, waaronder het Nederlands Juristen Comité voor de Mensenrechten (NJCM) en het Platform Bescherming Burgerrechten, had de Nederlandse Staat aangeklaagd. De organisaties vinden dat SyRI fundamentele mensenrechten schendt.

Douwe Linders, de advocaat van de coalitie, noemt de uitspraak van de rechter een keerpunt. "De Staat moet nu echt terug naar de tekentafel. De fundamentele kritieken op het systeem die in de uitspraak naar voren kwamen, zijn niet zomaar snel te repareren. Dit is een heel belangrijke uitspraak."

Schrijver en filosoof Maxim Februari sloot zich aan bij de conclusie van de coalitie over wat deze uitspraak betekent voor de overheid: "Op het moment dat je aan de slag wil gaan met nieuwe technologie, moet je heel erg letten op de rechtsbescherming van burgers. In het vervolg zal het parlement hier veel dieper over moeten nadenken."

'We durfden dit bijna niet te dromen'

"Dit voelt heel goed. We durfden dit bijna niet te dromen, ook al is het een terechte uitspraak", zegt Merel Hendriks van het NJCM. "Dit is een grote win voor privacy in Nederland en privacy wereldwijd."

Een woordvoerder van het ministerie voor Sociale Zaken laat aan NU.nl weten dat de uitspraak bestudeerd wordt en besloten zal worden of de Staat in hoger beroep gaat.

Het ministerie schrijft in een verklaring dat er handhaving nodig is om misbruik van en fraude met uitkeringen en toeslagen op te sporen. Het ministerie schrijft het wel belangrijk te vinden om daarbij privacy te waarborgen.