Les utilisateurs les plus en vue de Twitter bénéficient d’un traitement VIP lorsque les trolls frappent

Les utilisateurs les plus en vue de Twitter Inc., ceux qui ont beaucoup d’adeptes ou une importance particulière, reçoivent souvent un niveau de protection accru de la part des modérateurs de contenu du réseau social dans le cadre d’un programme secret qui cherche à limiter leur exposition aux trolls et aux intimidateurs.

Nom de code Project Guardian, le programme interne comprend une liste de milliers de comptes les plus susceptibles d’être attaqués ou harcelés sur la plateforme, notamment des politiciens, des journalistes, des musiciens et des athlètes professionnels. Lorsque quelqu’un signale des publications ou des messages abusifs liés à ces utilisateurs, les rapports sont hiérarchisés par les systèmes de modération de contenu de Twitter, ce qui signifie que l’entreprise les examine plus rapidement que les autres rapports dans la file d’attente.

Twitter dit que ses règles sont les mêmes pour tous les utilisateurs, mais Project Guardian garantit que les problèmes potentiels liés aux comptes importants, ceux qui pourraient dégénérer en cauchemars viraux pour les utilisateurs et pour l’entreprise, sont traités avant les plaintes de personnes qui ne le sont pas. partie du programme.

Ce groupe VIP, dont la plupart des membres ne savent même pas qu’ils font partie, est destiné à supprimer le contenu abusif qui pourrait avoir le plus de portée et est le plus susceptible de se propager sur le site de réseau social. Cela aide également à protéger l’expérience Twitter de ces utilisateurs éminents, les rendant plus susceptibles de continuer à tweeter et peut-être moins susceptibles de se plaindre publiquement de problèmes d’abus ou de harcèlement.

« Project Guardian n’est que le nom interne de l’un des nombreux outils automatisés que nous déployons pour identifier le contenu potentiellement abusif », a déclaré Katrina Lane, vice-présidente de l’organisation de services de Twitter, qui gère le programme, dans un communiqué. « Les techniques qu’il utilise sont les mêmes que celles qui protègent toutes les personnes sur le service. »

La liste des utilisateurs protégés par Project Guardian change régulièrement, selon Yoel Roth, responsable de l’intégrité du site de Twitter, et n’inclut pas seulement les utilisateurs célèbres. Le programme est également utilisé pour renforcer la protection des personnes qui, par inadvertance, se retrouvent sous les feux de la rampe à cause d’un tweet controversé ou parce qu’elles ont été soudainement ciblées par une foule de Twitter.

Cela signifie que certains utilisateurs de Twitter sont ajoutés temporairement à la liste pendant qu’ils ont l’attention du monde ; d’autres sont sur la liste presque tout le temps. « La raison pour laquelle ce concept existait est à cause du phénomène » de la personne du jour «  », explique Roth. « Et sur cette base, il y a des gens qui sont la ‘personne du jour’ la plupart du temps, et donc Project Guardian serait un moyen de les protéger. »

L’existence du programme soulève une question évidente : si Twitter peut protéger plus rapidement et plus efficacement certains de ses utilisateurs les plus visibles, ou ceux qui sont soudainement devenus célèbres, pourquoi ne pourrait-il pas faire de même pour tous les comptes qui se trouvent intimidation ou abus?

La réponse courte est l’échelle. Avec plus de 200 millions d’utilisateurs quotidiens, Twitter a trop de rapports d’abus pour tous les traiter simultanément. Cela signifie que les rapports sont hiérarchisés à l’aide de plusieurs points de données différents, notamment le nombre d’abonnés d’un utilisateur, le nombre d’impressions d’un tweet ou la probabilité que le tweet en question soit abusif. L’inclusion d’un compte dans Project Guardian n’est qu’un de ces signaux, bien que les personnes familières avec le programme pensent qu’il est puissant.

Roth a déclaré que la distinction ne peut pas s’appliquer à tout le monde, ou cela signifierait qu’il ne sert à rien d’avoir une liste.

« Si la liste devient trop longue, elle cesse d’être un signal précieux », a-t-il ajouté. « Nous voulons vraiment nous concentrer sur les personnes qui acquièrent une importance exceptionnelle ou sans précédent à un moment donné … c’est vraiment concentré sur une petite tranche de comptes. »

Project Guardian a été utilisé pour protéger les utilisateurs de différentes professions. La star de YouTube et maquilleur James Charles a été ajouté au programme plus tôt cette année après avoir été harcelé en ligne. L’activiste Internet égyptien Wael Ghonim a également fait partie du Project Guardian, tout comme l’ancien commissaire de la Food and Drug Administration des États-Unis, Scott Gottlieb, qui tweete souvent sur les vaccins COVID-19. Le programme a également inclus des journalistes – même des stagiaires de l’information – qui écrivent sur des sujets pouvant entraîner du harcèlement, comme 8chan ou l’émeute du 6 janvier au Capitole des États-Unis.

Twitter a utilisé Project Guardian pour protéger ses propres employés, y compris Roth. Après que l’entreprise ait vérifié pour la première fois les tweets du président Donald Trump en mai 2020, Roth a été désigné par Trump et ses partisans comme l’employé à l’origine de la décision, ce qui a entraîné des attaques et des menaces de mort. Roth, qui n’était pas réellement l’employé qui a passé l’appel, dit qu’il a été temporairement ajouté à la liste du Project Guardian à l’époque. « Tout d’un coup, je suis devenu beaucoup plus célèbre que la veille », a expliqué Roth. Il a déclaré qu’il avait été retiré du programme après que le harcèlement a commencé à ralentir.

Les comptes sont ajoutés à la liste de plusieurs manières, notamment sur recommandation d’employés de Twitter qui sont témoins d’une attaque contre un utilisateur et demandent une protection supplémentaire. Dans certains cas, le responsable ou l’agent d’un utilisateur célèbre de Twitter approchera l’entreprise et demandera une protection supplémentaire pour son client. Les responsables des médias sociaux des agences de presse ont également demandé une protection supplémentaire pour leurs collègues qui écrivent des articles très médiatisés ou controversés. Les utilisateurs qui participent au programme ne savent pas nécessairement qu’ils reçoivent une attention particulière.

« Nous le considérons comme, qui sont les personnes dont nous savons qu’elles ont été la cible d’abus ou qui devraient être des cibles probables d’abus ? » dit Roth.

Twitter a déclaré qu’il s’améliorait dans la détection automatique des abus et du harcèlement, ce qui signifie qu’il n’a pas besoin d’attendre qu’un utilisateur signale un problème avant de pouvoir l’envoyer à un modérateur humain. La société affirme que sa technologie signale désormais 65% du contenu abusif qu’elle supprime ou demande aux gens de supprimer avant qu’un utilisateur ne le signale.

Lane a déclaré que Twitter utilise à la fois la technologie et l’examen humain « pour surveiller de manière proactive les Tweets et les tendances, en particulier lorsqu’une personne est mise en lumière de manière inattendue ou qu’il y a une augmentation significative des abus ou du harcèlement ».

Il n’est pas clair s’il y a eu un événement ou un incident qui a déclenché le projet Guardian, bien qu’il existe depuis au moins quelques années, ont déclaré des personnes familières avec le programme. La liste ne protège pas seulement les utilisateurs importants ; cela aide également à protéger la réputation de Twitter.

Au cours des années passées, l’image de Twitter a souffert lorsque des utilisateurs de haut niveau critiquent publiquement le service – ou l’abandonnent complètement – en raison d’une incapacité à lutter contre les abus et le harcèlement. C’est particulièrement fréquent chez les femmes célèbres. Le mannequin Chrissy Teigen, la chanteuse Lizzo, l’acteur Leslie Jones et New York Times La journaliste Maggie Haberman s’est toutes retirée publiquement du service après avoir été submergée de tweets et de messages négatifs. (Ils sont tous revenus depuis.)

Plus récemment, des célébrités appelant Twitter pour harcèlement constant semblent se produire moins souvent, et certaines personnes familières avec l’entreprise pensent que Project Guardian est une des raisons.

Le programme de Twitter est un autre exemple du traitement différent que les applications de médias sociaux offrent à certains utilisateurs et comptes prééminents. Un rapport d’enquête du Wall Street Journal de septembre a révélé que Meta Platforms Inc., qui possède Facebook et Instagram, accordait à certains utilisateurs éminents des exemptions spéciales à certaines de ses règles, laissant de côté le contenu de ces personnes qui aurait été signalé ou supprimé des autres. Les responsables de Twitter sont catégoriques sur le fait que Project Guardian est différent et que tous les utilisateurs de sa plate-forme sont soumis aux mêmes règles. Les rapports relatifs aux utilisateurs qui font partie de Project Guardian sont jugés de la même manière que tous les autres rapports de contenu – le processus se déroule généralement plus rapidement.

Bien que les règles de Twitter puissent s’appliquer à tout le monde, les sanctions pour violation de ces règles ne sont pas toujours égales. Les dirigeants mondiaux, par exemple, ont plus de latitude pour enfreindre les règles de Twitter que la plupart de ses utilisateurs. Twitter et Meta ont également passé des années à entretenir des relations avec des utilisateurs de haut niveau, créant des équipes pour aider ces personnes à utiliser leurs produits et pour fournir une assistance pratique en cas de besoin. En 2016, Twitter a cessé de diffuser des publicités à un petit groupe d’utilisateurs importants dans le but d’améliorer leur expérience.

© 2021 Bloomberg LP
Distribué par Tribune Content Agency, LLC.