Après avoir fixé les normes pour lutter contre la haine et le terrorisme en ligne l'année dernière, Facebook a maintenant signalé une forte augmentation du nombre de publications qu'il a supprimées automatiquement pour promouvoir la violence et le discours de haine dans sa suite d'applications.
Dans un article de blog, la société a déclaré avoir supprimé 9,6 millions de messages contenant des discours de haine au cours du premier trimestre 2020 contre 5,7 millions au cours de la période précédente. En outre, il a également supprimé 4,7 millions de postes associés à des organisations haineuses contre 1,6 million au trimestre précédent.
Facebook a déclaré que ces messages ont été supprimés automatiquement suite aux améliorations apportées à la technologie utilisée pour identifier ces messages à l'aide d'images et de texte. En outre, il a également ajouté des étiquettes d'avertissement à 50 millions de bits de contenu associés à Covid-19, en plus d'interdire la désinformation nuisible sur la pandémie.
En septembre dernier, la société avait a annoncé une série de mises à jour d'algorithmes pour améliorer sa façon de lutter contre les terroristes, les groupes extrémistes violents et les organisations de haine sur Facebook et Instagram. Depuis lors, la société a fourni des détails sur les retraits sur sa plate-forme mère, Instagram, Facebook Messenger et WhatsApp.
La société a fait des progrès similaires sur Instagram, où le taux de détection est passé de 57,6% à 68,9% avec 175 000 éléments de contenu supprimés au cours du premier trimestre. En outre, la société pourrait également identifier où le contenu lié à un problème est distinct de l'autre.
Sommaire
Les leçons des démolitions
"Par exemple, nous avons vu que les violations de la haine organisée sont plus susceptibles d'impliquer des mèmes alors que la propagande terroriste est souvent dispersée à partir d'une branche médiatique centrale de l'organisation et comprend une image de marque formalisée. L'identification de ces modèles nous aide à continuer d'affiner les systèmes de détection organisé la haine et le contenu terroriste ", a déclaré le blog.
La dernière mise à jour est le cinquième rapport sur l'application des normes communautaires, un processus que Facebook a commencé en 2018 en même temps que des règles strictes de publication de contenu. C'était le résultat de la réaction brutale de la société face à la surveillance du contenu publié sur ses plateformes, qui comprend également Facebook Messenger et WhatsApp.
La société affirme qu'elle est désormais capable de détecter du texte intégré dans des images et des vidéos afin de comprendre le contexte complet. Il a également révélé la présence d'une technologie de correspondance des médias qui trouve un contenu identique ou presque identique aux photos, vidéos, textes et fichiers audio qui ont déjà été supprimés.
Bienvenue à tous les nouveaux membres du @OversightBoard. Parce que c'est un sujet tellement important, nous avons réalisé une courte vidéo pour vous expliquer le fonctionnement du forum pic.twitter.com/ayfqcshGEc6 mai 2020
Le conseil de surveillance
À la suite des attentats de Christchurch (Nouvelle-Zélande) l'année dernière en mars, Facebook avait annoncé qu'il créerait un groupe multidisciplinaire d'experts en sécurité et en lutte contre le terrorisme pour élaborer des politiques et créer des innovations de produits pour aider à définir, identifier et supprimer le contenu entraîne la haine et le crime.
Facebook a annoncé la formation de son conseil de surveillance tant attendu la semaine dernière avec l'arrivée des 20 premiers membres. Ce panel international comprenait des journalistes, un ancien Premier ministre, un lauréat du prix Nobel, des avocats, des experts de la lutte contre le terrorisme qui auraient le dernier mot dans les discussions sur la modération du contenu de la plus grande plate-forme de médias sociaux du monde.
L'équipe comprend désormais 350 personnes avec une expertise allant de l'application des lois et de la sécurité nationale, au renseignement antiterroriste et aux études universitaires sur la radicalisation, a indiqué la société.
