Interdire les groupes en ligne perturbateurs est un jeu de Whac-a-Mole que les géants du Web ne gagneront tout simplement pas

De Washington, DC, à Wall Street, 2021 a déjà vu des groupes en ligne provoquer d’importantes perturbations organisées hors ligne. Certains d’entre eux ont enfreint les lois nationales, d’autres enfreignent les conditions de service des plateformes Internet. Lorsque ces groupes sont perçus comme causant des dommages à la société, la solution a été instinctive: interdire ou «déplatformer» ces groupes immédiatement, les laissant numériquement «sans abri».

Mais le monde en ligne est une boîte de Pandore de sites, d’applications, de forums et de babillards électroniques. Les groupes bannis de Facebook ont ​​migré de manière transparente vers Parler, et de Parler, via des applications de messagerie cryptées, vers une multitude d’autres plates-formes. Mes recherches ont montré la facilité avec laquelle les utilisateurs migrent entre les plates-formes sur le «dark web». La déplatformation ne fonctionnera pas sur Internet ordinaire pour la même raison: il est devenu trop facile pour les groupes de migrer ailleurs.

Cette année, nous en sommes venus à considérer les plateformes sociales non comme des outils de communication passifs, mais plutôt comme des acteurs actifs du discours public. Twitter annonce le fait qu’il ait suspendu définitivement Donald Trump à la suite des émeutes du Capitole en est un exemple: un moment décisif pour la déplatformance comme moyen de limiter les discours nuisibles.

Ailleurs, la plate-forme d’investissement Robinhood a suspendu la négociation des actions GameStop après que le groupe Reddit r / WallStreetBets (qui comptait 2,2 millions de membres à l’époque) ait coordonné un achat en masse des actions. Alors que le groupe Reddit d’origine restait ouvert, de nombreux utilisateurs de r / WallStreetBets communiquaient également via le réseau social Discord. En réponse, Discord a interdit leur chaîne, invoquant un «discours de haine».

Migration nette

La déplatformation est le mécanisme actuellement utilisé par les réseaux sociaux et les entreprises technologiques pour suspendre ou interdire les utilisateurs qui auraient violé leurs conditions d’utilisation. Du point de vue de l’entreprise, la déplatformance est une protection contre d’éventuelles poursuites judiciaires. Pour d’autres, on espère que la déplatformance pourrait aider à arrêter ce que certains considèrent comme des foules en ligne, résolues à vandaliser les institutions politiques, sociales et financières.

Mais la déplatformance s’est avérée inefficace pour étouffer ces groupes. Lorsque Trump a été banni des réseaux sociaux, ses partisans se sont rapidement réorganisés sur Parler – un site de réseau social qui se présente comme le berceau de la liberté d’expression. Peu de temps après, Parler a été retiré des magasins d’applications Apple et Google, et Amazon Web Services – qui fournissait l’infrastructure numérique de la plate-forme – a supprimé Parler de ses serveurs.

Avec Parler hors ligne, les partisans de Trump ont commencé à rechercher des applications de médias sociaux alternatives, notamment MeWe et CloudHub, qui ont rapidement progressé dans le classement des magasins d’applications, organisés par volume de téléchargements. De même, après l’interdiction de Discord, les investisseurs de Reddit se sont rapidement réorganisés sur le service de messagerie Telegram. Cette dynamique «Whac-a-Mole», avec des groupes déplatformés se reformant rapidement sur d’autres plates-formes, est étonnamment similaire à ce que mon équipe de recherche et moi avons observé sur le dark web.

Dynamique sombre

Le dark web est une partie cachée d’Internet qui est facilement accessible via des navigateurs Web spécialisés tels que TOR. Le commerce illicite est monnaie courante sur le dark web, en particulier sur les «marchés» sombres, où les utilisateurs échangent des marchandises en utilisant des crypto-monnaies telles que Bitcoin. Silk Road, considérée comme la première place de marché sombre, a été lancée en 2011 et vendait principalement de la drogue. Fermé par le FBI en 2013, il a été suivi par des dizaines de marchés sombres qui faisaient également le commerce d’armes, de fausses pièces d’identité et de cartes de crédit volées.

Mes collaborateurs et moi avons regardé ce qui se passe après la fermeture d’un marché sombre par une descente de police ou une «arnaque à la sortie» – où les modérateurs du marché ferment soudainement le site Web et disparaissent avec les fonds des utilisateurs. Nous nous sommes concentrés sur la «migration» des utilisateurs, qui déplacent leur activité de trading vers un autre marché après une fermeture.

Nous avons constaté que la plupart des utilisateurs affluaient vers le même marché alternatif, généralement celui avec le plus grand nombre de transactions. La migration des utilisateurs a eu lieu en quelques heures, éventuellement coordonnée via un forum de discussion tel que Reddit ou Dread, et le montant global des échanges sur les marchés s’est rapidement rétabli. Ainsi, bien que les marchés individuels puissent être fragiles, les participants étant exposés à des pertes dues aux escroqueries, cette migration coordonnée des utilisateurs garantit la résilience globale des marchés, de sorte que de nouveaux continuent à prospérer.

Promiscuité de la plateforme

En 2006, Facebook était en concurrence pour la domination contre d’autres réseaux sociaux tels que MySpace, Orkut, Hi5, Friendster et Multiply. Lorsque Facebook a commencé à dominer la scène, les effets de réseau l’ont rendu imparable.

En termes simples, les effets de réseau aggravent la domination des plates-formes parce que vous et moi sommes les plus susceptibles de rejoindre les plates-formes de réseau sur lesquelles nos amis sont déjà. Compte tenu de cette tendance, Facebook et Twitter ont grandi pour héberger des milliards d’utilisateurs et Hi5 a disparu. Au moment où leur domination se serait cristallisée, une interdiction de Facebook ou de Twitter aurait signifié une ostracisation totale de la communauté en ligne.

En 2021, tout est différent. Des communautés mondiales organisées par intérêts ou opinions politiques sont désormais établies et sont capables de formuler rapidement des plans d’évacuation d’urgence ou de migration. Les membres sont généralement en contact sur plusieurs canaux – même des canaux «dormants» sur lesquels peu d’utilisateurs sont actifs. Comme le montrent les marchés sombres, les chaînes dormantes peuvent devenir actives lorsqu’elles sont nécessaires.

Tout cela signifie que le fait d’être banni de Twitter, Facebook, Instagram, Snapchat, Twitch et autres n’entraîne plus votre isolement ou la dissolution de votre communauté. Au lieu de cela, tout comme sur le dark web, la déplatforming nécessite simplement que les utilisateurs migrent vers une nouvelle maison, ce qu’ils font en quelques heures.

La déplatformation est clairement une stratégie inefficace pour empêcher les groupes perturbateurs de se former et de se coordonner en ligne. Cela signifie que le maintien de l’ordre dans les conversations en ligne sera plus difficile à l’avenir. Que cela soit considéré comme bon ou mauvais dépendra des circonstances spécifiques et, bien sûr, de votre point de vue.

Cet article est republié à partir de The Conversation sous une licence Creative Commons. Lisez l’article original.