Facebook heeft twee algoritmes op ontwikkelaarsplatform Github gepubliceerd. De algoritmes worden door het bedrijf gebruikt om bijvoorbeeld beelden van kindermisbruik en propaganda voor terrorisme op te sporen. Dat maakt het bedrijf in een blogbericht bekend.

De algoritmes vergelijken mogelijk schadelijke beelden met eerdere voorbeelden van dit soort content. Facebook zegt de codes openbaar te hebben gemaakt, zodat ook andere techbedrijven en ontwikkelaars ervan gebruik kunnen maken.

"Deze technologie biedt een extra laag van bescherming", schrijft Facebook. Door mogelijk aanstootgevende beelden te vergelijken met een grote database, moeten platforms sneller kunnen ingrijpen als aanstootgevende content wordt geüpload.

Het is voor het eerst dat Facebook zijn algoritmes openbaar maakt. Andere bedrijven gingen Facebook voor. Zo deelden Google en Microsoft al soortgelijke technologie.

Online platforms proberen al langer om aanstootgevende en haatzaaiende beelden snel te herkennen en te blokkeren. Via algoritmes worden de berichten soms al herkend en tegengehouden voordat ze online verschijnen.

Toch komen de beelden af en toe alsnog door de filters heen. Zo werden video's van een aanslag in de Nieuw-Zeelandse stad Christchurch een uur lang verspreid, voordat Facebook ingreep. De schutter zond de aanslag live uit. Ruim een maand later waren de beelden nog steeds op het platform te vinden.