Het gebruik van algoritmes bij de besluitvorming van de gemeente Rotterdam kan tot vooringenomen uitkomsten leiden, meldt de Rekenkamer Rotterdam. De gemeente gebruikt algoritmes bijvoorbeeld voor besluiten over uitkeringsfraude.

De conclusie van de Rekenkamer is gebaseerd op het rapport Gekleurde technologie, waarin de organisatie onderzoek deed naar het gebruik van algoritmes door de gemeente. Algoritmes zijn instructies of regels die computers automatisch volgen om een probleem op te lossen of om tot een besluit te komen.

Volgens de Rekenkamer Rotterdam zijn er ethische risico's bij het gebruik van algoritmes. Zo kan het algoritme dat de gemeente Rotterdam bij uitkeringsfraude gebruikt, leiden tot vooringenomen besluiten, bijvoorbeeld door het meewegen van laaggeletterdheid. De gemeente neemt te weinig maatregelen om dit te voorkomen, aldus de Rekenkamer. Daarnaast kan de burger onmogelijk zicht krijgen op hoe het algoritme een rol speelt bij een uitnodiging voor heronderzoek en is het niet duidelijk welke keuzes zijn gemaakt bij dit vraagstuk.

De rekenkamer wil daarom dat de gemeente transparant en eerlijk is over de algoritmes en dat er duidelijkheid komt over de verantwoordelijkheid. Hoewel de gemeente Rotterdam al een programma heeft om de ethische risico's in kaart te brengen, stelt de rekenkamer dat er nog geen duidelijk overzicht is over de aard en het gebruik van algoritmes. Daarom is het ook nog niet duidelijk welke maatregelen nodig zijn om de ethische risico's te controleren.

Om het beleid rondom algoritmes te verbeteren heeft de rekenkamer zes aanbevelingen gedaan aan het college van burgemeester en wethouders. Alle aanbevelingen zijn overgenomen.