De AP moet als toezichthouder gaan bewaken dat algoritmes op een transparante manier werken. Ze mogen niet discrimineren en er mag ook geen sprake zijn van willekeur. Dat heeft de AP besloten omdat bedrijven en overheden steeds vaker belangrijke beslissingen maken op basis van adviezen en voorspellingen van algoritmes.

Volgens de AP biedt de technologie kansen, maar er zijn ook risico's. Zo ligt volgens de toezichthouder het risico om de menselijke maat te verliezen op de loer. "Algoritmes kunnen grote impact hebben op mensenlevens en op de samenleving."

Er zijn veel verschillende algoritmes. Zoekmachines gebruiken ze om bij een zoekopdracht het beste zoekresultaat te kunnen leveren. Grote webwinkels zetten algoritmes in om te voorspellen welk product mensen gaan kopen. Daarmee kunnen ze ervoor zorgen dat er voldoende voorraad van dat product is.

Maar voorspellende modellen kunnen ook in het nadeel van mensen werken. Bijvoorbeeld om te berekenen bij wie het grootste risico op fraude bestaat. Daarbij ligt discriminatie op de loer, bijvoorbeeld als huidskleur, afkomst of geloof wordt gebruikt in de berekening. Dat moet de AP gaan voorkomen.

Vanaf begin 2023 start de AP met zijn nieuwe toezichtstaak. In de beginperiode zal de toezichthouder zich vooral richten op het signaleren van risicovolle algoritmes en het verzamelen van kennis.