In de Amerikaanse stad Detroit is een zwarte man onterecht aangehouden omdat gezichtsherkenningstechnologie hem verwarde met een crimineel. Dat schijft de Amerikaanse mensenrechtenorganisatie ACLU woensdag in een klacht aan de politie van Detroit.

De man, Robert Williams, werd een dag op het politiebureau vastgehouden omdat gezichtsherkenningssoftware van de politie zijn gezicht verwarde met dat van een andere zwarte man die in 2018 vijf dure horloges had gestolen. Voor zover bekend is dit de eerste keer dat gezichtherkenningstechnologie gezorgd heeft voor een foutieve aanhouding.

De gezichtsherkenningssoftware had het gezicht van de dief door een database met 49 miljoen gezichten gehaald. Daar kwam het gezicht van Williams uit als match. Na een nacht op het politiebureau te hebben geslapen zagen de agenten dat het uiterlijk van Williams niet overeenkwam met het uiterlijk van de dief en mocht hij weer naar huis. Volgens Williams vertelden de agenten hem dat de computer het "bij het verkeerde eind had".

De ACLU verzoekt de politie van Detroit te stoppen met het gebruik van gezichtsherkenning "aangezien deze zaak bewijst dat én de technologie gebrekkig is én dat onderzoekers niet bekwaam zijn dergelijke technologie toe te passen".

Gezichtsherkenning onder vuur

Het gebruik van gezichtsherkenning ligt al langer onder vuur. Zo zeggen critici dat het op grote schaal herkennen van gezichten in strijd is met burgerrechten en de privacy. De techniek zou daarnaast minder goed vrouwen en zwarte mensen kunnen herkennen.

Amazon maakte eerder deze maand bekend een jaar lang te stoppen met het leveren van gezichtsherkenningssoftware aan de politie in de Verenigde Staten. Ook Microsoft zegt de politie niet van de technologie te gaan voorzien. De bedrijven willen dat er wetgeving komt, zodat het gebruik van de technologie kan worden gereguleerd.

IBM maakte eerder bekend helemaal te gaan stoppen met de ontwikkeling van technologie voor gezichtsherkenning. Het bedrijf zegt dat de technologie wordt gebruikt voor onder meer massasurveillance en etnisch profileren.

Zo werkt gezichtsherkenning bij de politie
129
Zo werkt gezichtsherkenning bij de politie