De software Proctorio wordt door verschillende Nederlandse universiteiten gebruikt bij tentamens die vanuit huis worden gemaakt. Het programma controleert met algoritmes of er niet wordt gefraudeerd.

Masterstudente Robin Pocornie had meer dan eens problemen met inloggen bij de antispieksoftware. Pas toen ze een lamp recht in haar gezicht scheen, werkte het. "De software herkende me niet als mens", zegt ze tegen de Volkskrant.

Pocornie diende eerst een klacht in bij de VU met het verzoek te stoppen met het gebruik van Proctorio. Ze wil de garantie dat er maatregelen komen om dit soort problemen in de toekomst te voorkomen. Ook verlangt ze publieke excuses van de VU aan alle studenten die met dit probleem te maken hebben gehad.

Omdat de VU volgens Pocornie nog steeds geen verantwoordelijkheid neemt, stapt de studente naar het College voor de Rechten van de Mens. Ze hoopt dat instellingen zich voortaan beter laten informeren over de software die ze inzetten, zodat achteraf niet blijkt dat die discrimineert.

Naomi Appelman van het Racism and Technology Center zegt dat al langer bekend is dat gezichtsherkenning minder goed werkt bij mensen van kleur. "Onderzoekers van MIT en Microsoft toonden in 2018 al aan dat bij drie grote aanbieders van gezichtsherkenningssoftware zwarte vrouwen in bijna 35 procent van de gevallen niet werden herkend", zegt ze. "Bij witte mannen ging dit in minder dan 1 procent van de gevallen fout."

"In de bredere maatschappelijke discussie is dit helaas nog steeds niet doorgedrongen en wordt de software op steeds meer plekken ingezet", zegt ze. Volgens Appelman wordt door onderwijsinstellingen wel vaak gekeken naar de privacyimplicaties van antispieksoftware, maar stellen ze bijna nooit de vraag of iedereen gelijk wordt behandeld.