L’interdiction permanente sur Twitter des influenceurs extrémistes peut détoxifier les médias sociaux

Interdire les extrémistes de droite des médias sociaux peut réduire la propagation d’idées antisociales et de théories du complot, selon une recherche menée par Rutgers.

L’étude, publiée dans la revue Actes de l’ACM sur l’interaction homme-machine, a examiné ce qui se passe après que des influenceurs individuels avec de nombreux abonnés sont bannis des réseaux sociaux et n’ont plus de plate-forme pour promouvoir leurs opinions extrêmes.

« Retirer quelqu’un d’une plate-forme est une mesure extrême qui ne doit pas être prise à la légère », a déclaré l’auteur principal Shagun Jhaver, professeur adjoint au Département de bibliothéconomie et des sciences de l’information à Rutgers-Nouveau-Brunswick. « Cependant, les plates-formes ont des règles pour un comportement approprié, et lorsqu’un membre du site enfreint ces règles à plusieurs reprises, la plate-forme doit prendre des mesures. La toxicité créée par les influenceurs et leurs partisans qui promeuvent un discours offensant peut également faire taire et nuire aux groupes d’utilisateurs vulnérables, ce qui en fait crucial pour les plateformes d’assister aux activités de ces influenceurs. »

L’étude a examiné trois influenceurs extrémistes interdits sur Twitter : Alex Jones, un animateur de radio américain et extrémiste politique qui a acquis une notoriété pour la promotion de théories du complot ; Milo Yiannopoulos, un commentateur politique britannique qui s’est fait connaître pour ridiculiser l’islam, le féminisme et la justice sociale ; et Owen Benjamin, un acteur américain « alt-right », comédien et commentateur politique qui a promu les théories du complot antisémites et les opinions anti-LGBT.

Les chercheurs ont analysé plus de 49 millions de tweets faisant référence aux influenceurs interdits, des tweets faisant référence à leurs idées offensantes et tous les tweets publiés par leurs partisans six mois avant et après leur suppression de la plateforme.

Une fois qu’ils se sont vu refuser l’accès aux médias sociaux, les publications faisant référence à chaque influenceur ont diminué de près de 92 %. Le nombre d’utilisateurs existants et de nouveaux utilisateurs tweetant spécifiquement sur chaque influenceur a également considérablement diminué, d’environ 90 %.

Les interdictions ont également considérablement réduit l’activité globale de publication et les niveaux de toxicité des supporters. En moyenne, le nombre de tweets publiés par les supporters a diminué de 12,59 % et leur toxicité a diminué de 5,84 %. Cela suggère que la suppression de la plate-forme peut améliorer la qualité du contenu sur la plate-forme.

Les chercheurs affirment que l’étude indique que l’interdiction de ceux qui ont des opinions extrémistes et qui font la promotion des théories du complot minimise les conversations controversées de leurs partisans. Les données de l’étude aideront les plateformes de médias sociaux à prendre des décisions plus éclairées sur l’opportunité et le moment de mettre en œuvre des interdictions, ce qui est en augmentation en tant que stratégie de modération.

« De nombreuses personnes continuent de s’inquiéter des avantages financiers des dollars publicitaires liés au contenu diffusant de la désinformation ou du harcèlement », a déclaré Jhaver. « C’est l’occasion pour les plateformes de clarifier leur engagement envers leurs utilisateurs et de retirer la plateforme le cas échéant. L’utilisation judicieuse de cette stratégie permettra aux plateformes de s’attaquer au problème de la radicalisation en ligne, un objectif louable à poursuivre même si cela entraîne des pertes à court terme. en dollars publicitaires. »

Des recherches futures sont nécessaires pour examiner les interactions entre le discours en ligne, la dé-plateforme et la radicalisation et pour identifier quand il serait approprié d’interdire les utilisateurs des sites de médias sociaux.