De meeste mensen kennen algoritmes vooral van sociale media, zoals Facebook, Instagram en TikTok. De computer krijgt informatie van de gebruiker en past de inhoud op de tijdlijn erop aan. Wat minder bekend is, is dat ook zakelijk netwerk LinkedIn of vacaturesites als Nationale Vacaturebank een algoritme gebruiken.

Dit algoritme werkt op basis van kunstmatige intelligentie (AI): het vermogen van een computer om verbanden te leggen tussen de gegevens die hij krijgt voorgeschoteld. Bij vacaturesites is dit handig, want een algoritme versnelt het selectieproces. De sollicitant uploadt een cv op de site en het algoritme onderzoekt vervolgens welke vacatures hier het beste bij passen.

Hierbij let AI niet alleen op bijvoorbeeld woordgebruik, maar ook op sekse. "Een computer leert door patronen in data te herkennen, heel anders dan mensen. Die zal ook niet de context, oorzaak of gevolgen van een patroon begrijpen", zegt Harrie Oosterhuis, docent machinelearning aan de Radboud Universiteit in Nijmegen. "Dit zorgt ervoor dat vooroordelen uit de echte wereld ook in de AI terechtkomen. Dit geldt ook voor seksisme op de werkvloer."

Oosterhuis heeft meegewerkt aan een onderzoek naar het effect van algoritmes op vacaturematches. Hiervoor zijn twaalf miljoen vacatures en negenduizend cv's uit de database van de Nationale Vacaturebank onderzocht.

"Stel dat er vaak vrouwen worden aangenomen als secretaresse. Dan denkt het algoritme dat dit objectief is. De vrouwelijke sollicitanten krijgen dan sneller een vacature voor secretaresse te zien, daar zijn immers de meeste matches", legt hij uit.

Dit geldt ook voor bijvoorbeeld mannen en ICT-vacatures of banen als vrachtwagenchauffeur. "De AI kan niet zelf bepalen dat die discriminerend bezig is. De kunstmatige intelligentie zoekt naar overeenkomsten en werkt enkel met de informatie die ze heeft."

De onderzoekers hebben ook bekeken of de AI de sekse van de geanonimiseerde cv's kan bepalen en welk effect dit heeft op de match met een vacature. "Zo hebben we bijvoorbeeld alle woorden die een gender hebben in de cv's vervangen door een genderneutrale term. Denk aan bijvoorbeeld het woord hen in plaats van hij of zij", zegt Oosterhuis. "Dit bleek geen invloed te hebben." In ongeveer 86 procent van de gevallen raadde de AI alsnog de sekse van de sollicitant.

Voor een sollicitant is het dus heel lastig om het discriminerende effect van de AI te omzeilen. In bijna alle gevallen herkent de kunstmatige intelligentie de sekse van de sollicitant. Dit is belangrijke informatie voor de computer, want het heeft ook effect op welke vacature hij met de sollicitant matcht.

Uit hetzelfde onderzoek blijkt namelijk dat het algoritme gemiddeld beter betaalde functies toebedeeld aan mannen. "We kwamen erachter dat vrouwen vacatures krijgen aangeboden die gemiddeld 1 euro per uur minder betalen dan de vacatures die mannelijke sollicitanten krijgen", zegt Oosterhuis. "De mannen zijn dus zeker in het voordeel als een vacaturesite met dit algoritme werkt."

Werkgevers zijn van deze discriminatie niet goed op de hoogte, blijkt uit onderzoek van het College voor de Rechten van de Mens. 96 procent van de werkgevers gebruikt bij het uitzetten van een vacature weleens een algoritme, zoals dat van LinkedIn. Maar slechts 23 procent van de werkgevers weet dat aan de algoritmes het risico op discriminatie kleeft.

Dat zijn er te weinig, vindt het College. "Als werkgever moet je niet willen dat je wervings- en selectieprocedure discriminerend is. Als een kandidaat vanwege bijvoorbeeld etniciteit of geslacht minder kansen heeft, wordt je procedure een soort online geboorteloterij", zegt een woordvoerder van het College voor de Rechten van de Mens. "Een discriminerende wervings- en selectieprocedure is in strijd met de wet. Dit is ook het geval als je als werkgever je er niet van bewust was dat de gebruikte recruitmenttechnologie discrimineerde."

Als een werkgever vacatures online zet, dan zou die bij de softwareleverancier moeten informeren volgens welke criteria het algoritme de resultaten selecteert en of de software is gecontroleerd op discriminatie. "Je bent als werkgever verantwoordelijk voor de systemen die je gebruikt bij de werving en selectie. Je ervan bewust zijn dat algoritmes die hierbij gebruikt worden tot discriminatie kunnen leiden, is dus essentieel."

Het College adviseert ook altijd te communiceren dat in het wervingsproces een algoritme wordt gebruikt. Dan weet de sollicitant ook waar die aan toe is. "Ben je bijvoorbeeld afgewezen in een procedure waarin (semiautomatisch) geselecteerd werd, vraag dan waarom je bent afgewezen. Je hebt het recht om te vragen hoe je data gebruikt zijn. Kan het bedrijf niet uitleggen waarom je bent afgewezen door een algoritme, dan is het belangrijk dat werkzoekenden dit bij ons melden", zegt de woordvoerder.

Ervoor zorgen dat AI-systemen niet meer discrimineren, is volgens Oosterhuis niet zo eenvoudig als het misschien lijkt. "Wij hebben alleen gekeken naar gender, maar de kans is groot dat de AI ook een vorm van leeftijdsdiscriminatie heeft of kijkt naar iemands achtergrond. Dat gebeurt in het werkelijke leven, dus ook in computerprogramma's. We zijn nog ver weg van een computer met een voor 100 procent eerlijke manier van handelen."