Overheidsinstanties die gebruikmaken van algoritmes hebben niet altijd zicht op welke informatie tot een resultaat leidt, concludeert de NOS na inzage in interne documenten van 54 instanties, waaronder de politie en een aantal gemeenten.

Zo kan de politie de NOS geen antwoord geven op de vraag hoe een algoritme bepaalt of iemand een 'kwetsbare persoon' is. Het is daarmee onduidelijk welke gegevens worden gebruikt en welke personen worden onderzocht.

Een algoritme is een stuk software dat op basis van ingevoerde gegevens een uitkomst genereert. Hoe dat precies werkt, hangt af van hoe het algoritme is geschreven.

Ook de gemeenten Amersfoort en Oss maken gebruik van algoritmes zonder inzicht te hebben in welke data door de software worden verwerkt, schrijft de NOS.

Deskundigen waarschuwen al langer voor ondoorzichtige algoritmes, omdat de gebruiker van de software daarmee lastiger ter verantwoording geroepen kan worden. Ook kan een onduidelijk algoritme, als er beslissingen over mensen worden genomen, discriminatie in de hand werken.

Uit de informatie waar de NOS onderzoek naar deed, blijkt dat de algoritmes niet automatisch een beslissing nemen. Die bevoegdheid ligt nog altijd bij een ambtenaar.