Les réseaux sociaux visent à effacer la haine mais ratent la cible des armes à feu

Alors que Facebook fait face à une campagne de boycott coûteuse exigeant que le réseau social fasse plus pour lutter contre les discours de haine, le PDG Mark Zuckerberg a récemment annoncé son intention d'interdire une «catégorie plus large de contenu haineux dans les publicités». Twitter, YouTube et Reddit ont également pris des mesures supplémentaires pour réduire la haine en ligne, supprimant plusieurs comptes incendiaires.

Mais à mesure que les réseaux sociaux affinent leurs politiques et mettent à jour leurs algorithmes de détection de l'extrémisme, ils négligent une source majeure de contenu haineux: les discours sur les armes à feu.

En tant que chercheur sur l'extrémisme en ligne, j'ai examiné les politiques d'utilisation des réseaux sociaux et j'ai constaté que, bien que chaque manuel aborde des formes de discours de haine, elles donnent un laissez-passer à l'utilisation généralisée de la rhétorique des armes à feu qui célèbre ou encourage la violence.

En fait, le mot «arme à feu» n'apparaît qu'une seule fois dans la politique de Facebook sur «la violence et l'incitation» pour interdire la manipulation d'images pour inclure un pistolet sur la tête. Et ni les "armes à feu" ni les "armes à feu" ne sont mentionnées dans la politique de Twitter sur "Glorifications de la violence, "ou les directives de YouTube sur les" contenus violents ou graphiques "ou dans les règles de l'un de ces réseaux sur les discours de haine.

Parler des armes comme une menace

Les références aux armes à feu sont devenues courantes dans les dialogues sur les médias sociaux impliquant les manifestations nationales contre l'injustice raciale, la réforme de la police et le mouvement Black Lives Matter.

Sur Facebook, un groupe appelé White Lives Matter a publié un article qui disait: "Ne vous permettez pas à vous-même ou à votre propriété d'être victime de violence. Prenez votre arme et défendez-vous." Un autre utilisateur a posté la photo d'une arme de poing sous le message: «Je n'ai jamais porté d'arme, je n'en ai jamais eu besoin, mais j'ai changé d'avis et je vais demander ce que je juge nécessaire pour gérer les choses à ma façon… Fatigué de tous ces pillards idiots de BLM . "

Alors que presque tous les réseaux sociaux s'efforcent d'identifier et d'interdire les discours violents, les groupes d'armes à feu ont réussi à échapper à la censure. L'une de ces communautés Facebook raille joyeusement les manifestants avec la perspective de représailles par arme à feu. Ils partagent le meme d'une pile de balles entourée de la légende: "Si vous dissipez la police, vous devriez le savoir, je ne possède pas de balles en caoutchouc."

Les utilisateurs de Twitter ont également exploité le manque de restrictions de ce réseau sur les discussions sur les armes à feu. Hashtags comme #GetYourGuns et # 2ndAmendement apparaissent dans les déclarations politiques faites contre la police et manifestants ressemblent. Une vidéo récente d'un policier frappant un suspect au volant fait l'objet de un tweet cela promet à son tour: "Nous prendrons des mesures entre nos mains. #getyourguns."

Un autre tweet citant les fonctionnalités de #guns la vidéo virale d'un shérif de Floride avertissant que les habitants de son comté «aiment les armes» et «seront chez eux ce soir avec leurs armes chargées». Il continue: "Et si vous essayez de pénétrer par effraction dans leurs maisons pour voler, pour mettre le feu, je leur recommande vivement de vous faire sortir de chez eux avec leurs armes." Les mêmes tendances vidéo sur TikTok et Facebook où un groupe d'armes à feu est d'accord, "Je ne pourrais pas être plus d'accord!"

Ces exemples ne diffusent pas d'insultes raciales ou de violence directe, mais ils permettent aux utilisateurs d'attiser les hostilités d'une manière acceptée par les réseaux sociaux. Et le mélange de guerres culturelles et de discussions sur les armes à feu peut être une préparation dangereuse, comme le montrent les publications Instagram de l'assaillant de 19 ans qui a tué plus tard 17 personnes dans un lycée de Parkland, en Floride, en 2018. L'AR-15 qu'il a utilisé dans cette fusillade était le sujet fréquent de ses publications sur les réseaux sociaux qui accompagnaient les diatribes sur les immigrants illégaux, les Afro-Américains, les Juifs et les forces de l'ordre.

Donner le ton

Le débat sur la rhétorique des armes à feu en ligne n'est pas nouveau dans la Silicon Valley. En 2018, des services de streaming comme Amazon, Google et Roku ont fait l'objet d'une campagne de boycott de haut niveau, menée par des défenseurs des armes à feu. La campagne a appelé les services de streaming à cesser d'héberger la chaîne en ligne de la National Rifle Association, NRATV, invoquant son utilisation fréquente de «rhétorique haineuse». L'une de ces vidéos s'ouvre sur des scènes d'un porte-parole de la NRA au milieu de la pratique de la cible alors qu'il déchaîne une diatribe centrée sur des manifestants émeutiers et des «politiciens obstructionnistes».

Mon étude a révélé que NRATV consacrait la grande majorité de son contenu à la dénonciation des groupes libéraux, des médias et des mouvements comme la Marche des femmes. En plus du message central du lobby des armes à feu selon lequel les Américains devraient s'armer, les groupes anti-armes ont estimé que NRATV produisait des «programmes incitant à la violence».

Mais des entreprises comme Roku ont estimé que le contenu n'avait pas violé leurs conditions de service. La campagne #DumpNRATV a finalement perdu de sa vigueur, mais a trouvé une forme de succès lorsque NRATV a ensuite été forcée de suspendre ses opérations pour des problèmes financiers. Cependant, ses vidéos sont toujours diffusées sur YouTube et Twitter.

La présence du président Donald Trump sur les réseaux sociaux occupe également une place importante dans le débat sur les politiques des réseaux sociaux concernant les contenus violents. Même si les comptes du président sur les réseaux sociaux ont parfois présenté des actes de préjudice physique causés à autrui, les réseaux sociaux ont été réticents à agir. Mais cela peut changer.

Lors des manifestations à l'échelle nationale, le président Trump a récemment tweeté: «Lorsque le pillage commence, la fusillade commence». Twitter en avait visiblement assez vu. Le réseau a publié un avis public sur le tweet, le remplaçant par le message qu'il avait «violé les règles de Twitter sur la glorification de la violence».

Pourtant, les références aux armes à feu et à la fusillade continuent de proliférer dans les échanges politiques controversés sur les réseaux sociaux. Pour des entreprises comme Facebook et Twitter, incorporer des armes à feu dans leurs politiques qui interdisent la haine et la violence est une perspective risquée. Les restrictions sur les discussions sur les armes à feu pourraient ouvrir la porte à un tourbillon de critiques de la part des lobbies des armes à feu, des politiciens et des partisans du deuxième amendement. Mais à moins de prendre ce risque politique, les réseaux sociaux devront concevoir de nouveaux algorithmes pour interpréter la vraie signification des hashtags comme #GetYourGuns et # Shoot2Kill.

Cet article est republié de The Conversation sous une licence Creative Commons. Lisez l'article original.