Google brengt slimme software uit die nieuwssites kunnen gebruiken om beledigende reacties te filteren.

Samen met zusterbedrijf Jigsaw wordt de software Perspective gelanceerd, die nieuwsmedia op hun eigen website kunnen invoeren.

In september werd al bekend dat de software wordt 'getraind' op 17 miljoen reacties die zijn achtergelaten door gebruikers van de New York Times. Die reacties zijn allemaal beoordeeld door moderators van de krant, en de software heeft geleerd van hun beslissingen.

Bij andere nieuwssites moet Perspective ervoor zorgen dat reacties kunnen worden verborgen als er taalgebruik in voorkomt dat mogelijk problematisch is. Die reactie kan dan bijvoorbeeld naar een menselijke moderator worden doorgestuurd, of de betreffende gebruiker kan direct een waarschuwing krijgen over het gebruik van beledigende taal.

Minder negatief

"Problematische berichten onder nieuws zorgen er nu vaak voor dat positief publiek uit de commentaarsectie vertrekt", zegt Jigsaw-hoofd Jared Cohen. "Wij willen media helpen dat tij te keren door problematische berichten makkelijker te weren of voor te zijn."

Zo kan Perspective de reactie van gebruikers tijdens het typen al scannen op problematisch taalgebruik. "De software kan mensen aansporen positief bij te dragen aan gesprekken", zegt Cohen. Wanneer een bericht problematisch dreigt te worden, kunnen mensen worden gewaarschuwd al voordat ze hun reactie plaatsen.

"We hebben gemerkt dat negatieve berichten vaak het gevolg zijn van een slecht humeur dat mensen online proberen te botvieren", aldus Cohen. Volgens het Jigsaw-hoofd hebben tests op een gameforum uitgewezen dat een suggestie minder negatief te doen tijdens het typen van een reactie helpt om de sfeer te verbeteren.

Alleen Engels

De functie werkt vooralsnog alleen in het Engels, maar Jigsaw roept media in andere talen op hun problematische reacties met het bedrijf te delen. Om een basisfunctie werkend te krijgen heeft Perspective minstens tienduizend berichten nodig om van te leren. Voor een systeem dat volledig werkt moet de software honderdduizenden problematische berichten scannen, hoe meer berichten hoe beter.

Perspective is volgens Jigsaw nog verre van perfect, en zal dat door onder meer steeds verandend taalgebruik ook nooit worden. "Ons doel is in de eerste plaats om de commentaarsecties van nieuwssites weer toegankelijk te maken, en media te helpen om lezers die niet meer bijdragen terug te winnen", aldus Cohen. 

Voor censuur hoeven media volgens Cohen niet te vrezen. Ten eerste hebben veel media door problematische reacties nu helemaal geen commentaarsectie meer, ten tweede is het altijd aan de eigenaar van de site wat er met potentieel problematische berichten gebeurt. "Je kan beter bepalen wat je wel in je comments wil, het draait niet om het blokkeren van één woord maar om betere communicatie", aldus Cohen.

Facebook

Perspective is één van de vele toepassingen van de machine learning-techniek die Google steeds vaker inzet. Zulke software kan ook 'leren' wat er op foto's staat en welke zoekresultaten het belangrijkst zijn.

In de afgelopen jaren hebben veel nieuwssites, waaronder NU.nl, hun reactiemogelijkheid uitgezet. Dat heeft te maken met de moeite die het kan kosten om haatberichten te verwijderen, maar ook met het feit dat steeds meer discussie is verschoven naar sociale media als Facebook en Twitter.

Onlangs maakte Facebook-baas Mark Zuckerberg bekend dat hij meer wil vertrouwen op kunstmatige intelligentie om berichten op het sociale netwerk te beoordelen. Nu geven de algoritmes van het bedrijf al veel 'verdachte' berichten door aan mensen die uiteindelijk besluiten of ze voldoen aan de richtlijnen van Facebook.