Michelle Bachelet, hoge commissaris voor de mensenrechten bij de Verenigde Naties (VN), heeft donderdag opgeroepen om gezichtsherkenningssoftware voorlopig niet te gebruiken bij demonstraties. Volgens Bachelet schendt de technologie de rechten van demonstranten.

Na de dood van George Floyd, die overleed nadat een agent zijn knie minutenlang in zijn nek drukte, zijn in de Verenigde Staten massale demonstraties tegen racisme en politiegeweld ontstaan. Als gevolg daarvan bestaat de angst dat gezichtsherkenning onterecht tegen demonstranten wordt gebruikt.

"In een zorgwekkende ontwikkeling gebruiken staten steeds vaker gezichtsherkenningstechnologie om demonstranten te identificeren, soms in realtime", zei Peggy Hicks van de Mensenrechtenraad (OHCHR) van de Verenigde Naties. Dit gebeurt volgens haar ondanks dat de technologie gevoelig is voor fouten.

"Dat betekent in deze context dat verkeerde identificatie bijvoorbeeld kan leiden tot onrechtmatige arrestatie of vervolging. Deze risico's zijn, zo weten we, aanzienlijk groter voor vrouwen en mensen van kleur, waardoor de kans groter wordt dat gezichtsherkenningstechnologie discriminatie in stand houdt en versterkt."

De VN roept daarom op tijdelijk te stoppen met het gebruik van de technologie bij demonstraties totdat aan voorwaarden kan worden voldaan op het gebied van toezicht en transparantie.

Gezichtsherkenning onder vuur

Het gebruik van gezichtsherkenning ligt al langer onder vuur. Zo zeggen critici dat het op grote schaal herkennen van gezichten in strijd is met burgerrechten en de privacy. De techniek zou daarnaast minder goed vrouwen en zwarte mensen kunnen herkennen.

Amazon maakte eerder deze maand bekend een jaar lang te stoppen met het leveren van gezichtsherkenningssoftware aan de politie in de Verenigde Staten. Ook Microsoft zegt de politie niet van de technologie te gaan voorzien. IBM maakte eerder bekend helemaal te gaan stoppen met de ontwikkeling van technologie voor gezichtsherkenning.