Om pesten tegen te gaan, gebruikt Instagram AI-aangedreven algoritmen om te detecteren of een bericht dat je gaat plaatsen aanstootgevende inhoud bevat.
De antipestfunctie is ontworpen om gebruikers te laten pauzeren en opnieuw na te denken over het plaatsen van een bericht dat uiteindelijk iemand kan lastigvallen of belachelijk maken.
"Als iemand vandaag een bijschrift schrijft voor een feedpost en onze AI het onderschrift als potentieel aanstootgevend opmerkt, zullen ze een prompt ontvangen waarin staat dat hun bijschrift vergelijkbaar is met het onderschrift dat wordt gemeld wegens pesten", zei Instagram in een blogpost op maandag.
De functie vertegenwoordigt de nieuwste poging van de technische industrie om kunstmatige intelligentie te gebruiken om het probleem van inhoudsmoderatie aan te pakken.
Instagram, eigendom van Facebook, gebruikt momenteel zowel menselijke stafmedewerkers als computeralgoritmen om illegale en beledigende berichten te verwijderen.
Maar dit komt vaak voor na de inhoud is gepubliceerd, waardoor deze de kans krijgt om te circuleren.
Als reactie hierop is Instagram begonnen met het toepassen van AI op het pre-postingproces in een poging gebruikers ervan te weerhouden inhoud te publiceren die in strijd is met de regels van het platform.
In juli begon het de technologie voor door gebruikers gegenereerde opmerkingen uit te rollen met een kleine waarschuwing die zegt: "Weet je zeker dat je dit wilt posten?"
"Uit vroege tests van deze functie hebben we ontdekt dat het sommige mensen aanmoedigt om hun opmerking ongedaan te maken en iets minder kwetsend te delen zodra ze de kans hebben gehad om na te denken", zei Instagram destijds.
Nu zet het platform de technologie in op door gebruikers gegenereerde berichten en zegt het dat de algoritmen verschillende vormen van pesten kunnen detecteren.
Als een bericht is gemarkeerd, toont Instagram een ??prompt met de tekst: "Dit bijschrift lijkt op andere berichten die zijn gemeld." De gebruiker mag dan het bijschrift bewerken, of ze kunnen ervoor kiezen om het toch te delen.
Aanbevolen door onze redacteuren
De nieuwe functie tegen pesten wordt vandaag uitgerold in geselecteerde markten.
Verwacht dat het de komende maanden wereldwijd zal gaan.
