De functie werkt met kunstmatige intelligentie. Als een gebruiker een opmerking met een negatieve lading onder een foto of video wil plaatsen, wordt dat automatisch herkend. De gebruiker krijgt dan de vraag of het bericht echt geplaatst moet worden.

Instagram hoopt dat deze maatregel ertoe leidt dat mensen beter nadenken voordat ze iets plaatsen wat door de ontvanger als kwetsend kan worden ervaren. "Vroege testen wijzen uit dat het sommige mensen aanspoort om hun opmerkingen toch niet te versturen en juist iets te delen wat niet of minder kwetst", staat in het bericht.

Het is niet bekend of de functie ook in Nederland beschikbaar wordt gemaakt en of het werkt met Nederlandstalige reacties.

Ook wil Instagram testen of gebruikers zelf meer invloed moeten krijgen op de berichten op hun pagina. Binnenkort start de app met een proef genaamd Restrict, waarmee mensen vervelende accounts in hun acties kunnen inperken.

Berichten van de betreffende gebruikers worden nog wel geplaatst, maar de berichten zijn daarna alleen door de afzender te zien. Als een gebruiker iemand een restrictie heeft opgelegd, kan de ander niet zien wanneer de gebruiker online is. Ook is voor diegene niet zichtbaar of verstuurde berichten door de ontvanger zijn gelezen.

Instagram probeert al jaren op te treden tegen vervelende gebruikers die anderen kwetsen. Eind vorig jaar zette het sociale medium ook al kunstmatige intelligentie in om pestgedrag in foto's en bijschriften op te sporen.