Facebook zet kunstmatige intelligentie in tegen haatteksten in content

Facebook zet nieuwe kunstmatige intelligentie (AI) in om haatberichten in afbeeldingen op te sporen. Het systeem, genaamd Rosetta, kan meer dan een miljard afbeeldingen en video's per dag scannen op zowel Facebook als Instagram.

Dat laat het sociale netwerk weten in een blogpost.

Volgens Facebook hebben de huidige technieken om afbeeldingen te scannen te veel beperkingen. Er worden namelijk te veel berichten op een dag geüpload naar Facebook en dochterbedrijf Instagram. Veel daarvan bevatten hatelijke teksten die in de afbeelding of video 'verstopt' zijn.

Met kunstmatige intelligentie wordt het makkelijker die afbeeldingen op grote schaal te analyseren. Het systeem bekijkt eerst of er tekst in een afbeelding of video staat, en probeert die vervolgens te vertalen. De AI herkent zowel Latijns schrift als Arabisch en Hindi.

Als het nodig is, wordt de afbeelding vervolgens doorgestuurd naar een medewerker die de content verder kan bekijken.

Facebook heeft al lange tijd problemen de hoeveelheden posts en statusupdates te monitoren op hatelijke berichten. Het bedrijf wil daar meer kunstmatige intelligentie voor inzetten, maar maakt ondertussen ook gebruik van tienduizenden menselijke moderatoren.

Tip de redactie