Facebook-bug gaf identiteit beoordelaars prijs aan mogelijke terroristen

Een bug in Facebook zorgde er eind 2016 voor dat de naam van zo’n veertig beoordelaars van het sociale netwerk bekend werd bij potentiële terroristen.

Dat meldt The Guardian op basis van e-mails die het heeft ingezien.

Ook sprak de krant met een van de beoordelaars, die na de fout van Facebook besloot onder te duiken uit angst voor wraakacties. Hij heeft inmiddels een aanklacht ingediend tegen Facebook en Cpl Recruitment, dat de contracten van de beoordelaars beheert.

De fout in de beoordelingssoftware van Facebook had tot gevolg dat de naam van beoordelaars in de notificaties kwam te staan van een Facebook-groep waarvan zij bijvoorbeeld het account van de beheerder hadden verwijderd.

Daardoor konden de resterende beheerders de echte naam van de beoordelaar zien, omdat zij hun persoonlijke Facebook-profiel aan het beoordelingssysteem moesten koppelen.

Terrorisme

In totaal trof de fout meer dan duizend medewerkers, waarvan er zo’n veertig werkte op een speciale afdeling die zich bezighoudt met het opsporen en beoordelen van mogelijk terroristische uitingen en groeperingen op Facebook.

Het probleem kwam aan het licht toen de beoordelaars vriendverzoeken kregen van leden van de Facebook-groepen die zij bekeken hadden.

Facebook bevestigde de bug tegenover The Guardian, maar stelt dat er geen bewijs is gevonden van bedreigingen aan het adres van de getroffen medewerkers. Het bedrijf heeft hen wel hulp aangeboden in de vorm van onder meer therapie.

Bij een groep van zes beoordelaars met een verhoogd risico op vergeldingsacties stelde het bedrijf voor om een alarmsysteem in hun huis te installeren en voor vervoer van en naar werk te zorgen.

De bug werd twee weken na ontdekking opgelost. Facebook laat weten dat het de mogelijkheid onderzoekt om voortaan geen persoonlijke profielen meer in te zetten voor zijn beoordelingssysteem.

Beleid Facebook

Facebook kondigde donderdag nog nieuwe maatregelen aan om terroristische content op het sociale netwerk tegen te gaan.

Dat wil het bedrijf doen via een combinatie van menselijke beoordelaars en kunstmatige intelligentie, met meer controle op foto's, video's en teksten die gelinkt kunnen worden aan terroristische groeperingen of andere initiatieven.

Lees meer over:
Tip de redactie