De rijksoverheid, gemeenten en overheidsinstanties die voor besluitvorming van algoritmes gebruikmaken, moeten dat voortaan melden bij een onafhankelijke toezichthouder. Een meerderheid van de Tweede Kamer stemde dinsdag in met dit voorstel van D66 en CDA.

"Algoritmes zijn onzichtbaar, maar kunnen een ingrijpende werking hebben op levens van mensen", zegt D66-Kamerlid Kees Verhoeven.

"Een meldplicht moet ervoor zorgen dat niet elke gemeente voor een bepaald onderwerp, bijvoorbeeld over de huurtoeslag of de opsporing van belastingfraude, zelf een algoritme gaat optuigen", aldus het kamerlid.

Hij hoopt dat het kabinet met de invoering van de meldplicht meer grip krijgt op het gebruik van algoritmes. "We hebben nu geen idee hoeveel projecten er draaien", zegt Verhoeven.

'Willekeur en discriminatie liggen op de loer'

Momenteel gebruiken gemeenten en andere overheidsinstanties verschillende algoritmes. Dat kunnen onschuldige rekenmodellen zijn, maar ook complexere formules die gebruikt worden bij het opsporen van fraude.

"Daar kunnen willekeur en discriminatie op de loer liggen", zegt Verhoeven. Bij de inzet van een algoritme kunnen inwoners van hele wijken onderzocht worden zonder dat er sprake is van een verdenking.

Ook als de rekenformule niet discriminatoir is, kan de keuze van de gebruikte data dat wel zijn. Uit eerder onderzoek van de NOS is gebleken dat het risico op discriminatie op de loer ligt.

Bodemprocedure tegen de Staat

Onlangs besloot de gemeente Rotterdam te stoppen met het gebruik van het programma Systeem Risico Indicatie (SyRI), een omstreden fraudeopsporingssysteem dat verschillende persoonlijke gegevens in een algoritme koppelt om fraude met uitkeringen en toeslagen te bestrijden. In de havenstad werden de inwoners van twee achterstandwijken getarget.

Volgens tegenstanders van SyRI maakt het programma een onwettelijke inbreuk op de privacy van de onderzochte mensen.

Verschillende maatschappelijke organisaties, waaronder Bij Voorbaat Verdacht, de Stichting Bescherming Burgerrechten, het Nederlands Juristen Comité voor de Mensenrechten en de Stichting Privacy First, hebben een bodemprocedure tegen de Staat aangespannen vanwege het gebruik van SyRI.

De organisaties stellen dat het algoritme niet transparant is en dat burgers zonder aanleiding of verdenking van fraude worden doorgelicht. "Burgers zijn bij voorbaat verdacht en vrijwel alle informatie die ze delen met de overheid kan zonder verdachtmaking of concrete aanleiding op heimelijke wijze tegen hen worden gebruikt."

'Tweede Kamer moet toekomstige excessen voorkomen'

Ook Verhoeven ziet gevaren rond het gebruik van dergelijke algoritmes. "De besluitvorming is onzichtbaar en wordt genomen op basis van allerlei data in een algoritme dat vaak ook door derde partijen is ontwikkeld. Het is problematisch dat mensen over wie een besluit genomen wordt niet weten dat zij onderzocht zijn en hoe een besluit over het stopzetten van bijvoorbeeld de huurtoeslag genomen is", aldus het Kamerlid.

Hij ziet ook dat algoritmes vaak op lagere inkomensgroepen en in achterstandwijken worden toegepast. "Deze groepen zijn nog te vaak de dupe van experimenten met algoritmes."

Verhoeven ziet de meldplicht als een volgende stap om het gebruik van algoritmes te verbeteren. De eerste stap is het instellen van een onafhankelijke waakhond die de algoritmes ook inhoudelijk kan controleren om willekeur en discriminatie te voorkomen.

Verhoeven: "We moeten voorkomen dat we over tien jaar hier in de Tweede Kamer verbaasd staan te doen dat er door algoritmes mensen zijn benadeeld en er onterechte besluiten zijn genomen zonder dat we het wisten."