Repenser nécessaire pour arrêter la diffusion de matériel haineux en ligne

Les efforts de la plate-forme numérique Reddit pour limiter la propagation de contenus haineux et misogynes poussent les utilisateurs vers des forums auto-modérés où le contenu peut se propager largement sans contrôle, selon une nouvelle étude de l’Université nationale australienne (ANU).

doctorat le chercheur Simon Copland a analysé l’impact de la «quarantaine» de Reddit sur deux subreddits des droits des hommes – r / TheRedPill et r / Braincels.

La quarantaine a été réorganisée en 2018 et limite la capacité des utilisateurs de Reddit d’accéder à des canaux particuliers – une initiative similaire aux récentes interdictions de groupes tels que QAnon de Facebook, Twitter et YouTube.

« Alors que la quarantaine a entraîné une baisse d’activité d’environ 50 pour cent sur les deux canaux, les utilisateurs qui sont restés ne sont pas devenus moins misogynes dans leur langue », a déclaré M. Copland.

« Plus inquiétant encore, cela a abouti à une importante campagne de migration des utilisateurs vers d’autres forums auto-modérés. Ces forums sont surveillés beaucoup moins étroitement et permettent à leur tour de développer et de diffuser plus rapidement des contenus haineux. Essentiellement, ce passage de Reddit a simplement fait le problème du problème de quelqu’un d’autre.  »

M. Copland dit que cela pourrait avoir des implications plus importantes lorsqu’il s’agit d’interdire les contenus de droite et haineux des principales plateformes de médias sociaux.

«De plus en plus, nous voyons de grandes plateformes numériques devenir plus actives dans la modération du matériel et des utilisateurs particuliers sur leurs sites», a-t-il déclaré.

«Plus tôt cette année, par exemple, Reddit a interdit la plus grande chaîne pro-Donald Trump, r / The_Donald. Plus récemment, Facebook, Twitter et YouTube ont interdit les comptes et supprimé le matériel associé à QAnon. Ces interdictions se traduisent de plus en plus par des utilisateurs, en particulier de loin. à droite, migrant des grandes plates-formes vers des plates-formes auto-modérées. Cela inclut les plates-formes d’extrême droite de Gab et Voat, ainsi que les communautés auto-modérées. Les premières recherches montrent déjà que les abonnés de QAnon bannis de Facebook, Twitter et YouTube affluent vers En dehors des yeux de la communauté au sens large, ces espaces peuvent potentiellement accueillir des contenus encore plus violents et extrêmes. Les interdictions conduisent également ces utilisateurs à se méfier davantage des institutions traditionnelles, renforçant potentiellement des opinions plus extrémistes.  »

La recherche a été publiée dans la revue Examen de la politique Internet.