Les médias sociaux aident à révéler les opinions racistes des gens – alors pourquoi les entreprises technologiques ne font-elles pas davantage pour arrêter le discours de haine?

Twitter a finalement supprimé définitivement la commentatrice de droite Katie Hopkins de sa plateforme pour violation de son "conduite haineuse"politique. Beaucoup se demanderaient pourquoi Twitter a mis tant de temps à interdire à quelqu'un avec un si long dossier de commentaires offensants.

Pourtant, pour chaque ailier droit comme Hopkins, il y a beaucoup plus de gens sur les réseaux sociaux qui ne commandent pas un public aussi important et pourraient à certains égards être considérés comme des gens ordinaires, mais qui sont en fait tout aussi dangereux. Ils ne partagent peut-être pas la motivation de l'extrême droite, mais ils expriment et incitent toujours à la haine raciale et religieuse, souvent par la créativité sociale et la manipulation en ligne.

Alors que Black Lives Matter continue d'attirer l'attention sur le racisme – et de déclencher le refoulement des personnes utilisant les médias sociaux pour exprimer des sentiments contre les personnes de couleur – il est temps que les sociétés Internet fassent davantage pour lutter contre toutes les formes de fanatisme.

Il y a quelques années, j'ai mené des recherches sur l'islamophobie en ligne à la suite de l'attaque terroriste de Woolwich en 2013, identifiant huit types de délinquants sur Twitter qui pourraient être classés comme racistes. La plupart n'étaient pas membres d'un groupe d'extrême droite. Ils comprenaient des constructeurs, des plombiers, des enseignants et même des conseillers locaux. Mais beaucoup ont utilisé la couverture des médias sociaux pour diffuser leurs propres théories du complot et un récit «nous et eux».

Certaines personnes qui entrent dans ces catégories font toujours des commentaires très explicites et même menaçants. Il peut s'agir de personnes comme Rhodenne Chand, un homme d'origine indienne qui n'était membre d'aucun groupe d'extrême droite mais qui a été emprisonné pour avoir publié une série de tweets islamophobes après l'attaque de Manchester Arena en 2017. Il s'agit notamment de l'affirmation selon laquelle il voulait "trancher une gorge musulmane".

Pendant ce temps, Liam Stacey, étudiant en rugby, a été emprisonné pour avoir fait des tweets racistes sur le footballeur Fabrice Muamba. Ces deux cas montrent que vous n'avez pas besoin d'être un néonazi d'extrême droite avec une haine pour tout ce qui est multiculturel, pour faire des déclarations sectaires et même criminelles. Vous pouvez simplement être quelqu'un qui adhère aux opinions racistes et aux fausses informations diffusées par les médias sociaux.

Se joindre à

Vous n'avez pas non plus besoin d'être manifestement raciste pour adopter ou encourager un comportement préjudiciable en ligne. Ma recherche a montré que certaines personnes se joignaient simplement à des conversations ciblant des personnalités vulnérables. D'autres publient des messages qui ne disent rien de spécifiquement raciste mais qui savent qu'ils attiseront les tensions raciales.

Par exemple, j'ai rencontré un message demandant: "Quel est votre petit-déjeuner britannique typique?". Hors contexte, il semble inoffensif, mais il a conduit à une spirale de commentaires haineux sur les musulmans:

"Pour chaque saucisse mangée ou une tranche de bacon, nous devons couper une tête de musulman [sic]. "

"Les musulmans ne sont pas humains."

"Un jour, nous vous ferons sortir de l'écume."

"Les hommes musulmans sont des cochons … Je suis tous pour l'anéantissement de tous les musulmans."

De cette manière, les médias sociaux agissent comme une chambre d'écho amplificatrice pour ces discours haineux et racistes. Cela rend la façon dont certaines personnes imaginent le monde plus réelle. Et cela renforce la façon dont ils voient Internet comme un endroit où il est acceptable de publier des commentaires avec un langage raciste, souvent avec la mise en garde qu'ils ne sont pas racistes mais détestent simplement une idéologie.

Cela peut être vu comme une forme de créativité sociale où les gens façonnent leur comportement en ligne pour essayer de positionner leur groupe (un groupe social auquel ils s'identifient) comme dominant dans la société. Une autre expression que j'utiliserais pour les décrire est la «cyber-foule virtuelle».

En poursuivant mes recherches sur les réseaux sociaux au fil des ans, j'ai vu comment un tel comportement s'est normalisé alors même que son orientation a changé. En 2019, j'ai dirigé un projet de recherche indépendant commandé par le gouvernement pour voir comment les gens utilisaient les plateformes sociales pour diffuser des opinions racistes. Cette fois, nous avons noté de nombreux messages centrés sur les médias, les fausses nouvelles et les théories du complot.

Dans le cadre de l'étude, nous avons collecté des centaines de tweets publiés en réponse à l'attaque terroriste de 2019 contre une mosquée à Christchurch, en Nouvelle-Zélande. Beaucoup l'ont dépeint en termes de parti pris médiatique contre les victimes d'autres attaques. Par exemple:

"Quelques musulmans morts comparés à des millions d'innocents abattus aux mains de barbares islamiques. #Islamisevil #NewZealandTerroristAttack [sic]"

N'oublions pas les milliers et les milliers de victimes tuées par les vrais «terroristes», propageant l'idéologie islamique. #AntiIslamic #IslamIsEvil #EndIslam #Muslims

Il est important de reconnaître que ces commentaires sur les réseaux sociaux reflètent des attitudes plus larges qui sont endémiques dans le monde hors ligne. Les médias sociaux peuvent sembler agir comme un mégaphone pour les racistes, mais ces opinions sont beaucoup plus courantes que vous ne le pensez. En tant que société, nous devons nous attaquer à la façon dont ces idées se sont normalisées, et les défier et les exposer.

Les sociétés de médias sociaux comme Facebook, Twitter et maintenant TikTok ont ​​pris des mesures actives pour bloquer et supprimer ces personnes clairement liées à l'extrême droite. Mais ce n'est qu'un point de départ. Il reste encore beaucoup à faire pour identifier d'autres individus qui propagent de manière moins évidente la haine, souvent sous la protection de l'anonymat. Ce n'est qu'alors que nous pourrons essayer de changer efficacement les attitudes et de réduire la capacité significative des médias sociaux à nuire.

Cet article est republié de The Conversation sous une licence Creative Commons. Lisez l'article original.