Explorer les fondements du shadowbanning sur Twitter

Ces dernières années, les plates-formes de médias sociaux ont développé et mis en œuvre une variété de stratégies pour modérer le contenu publié par leurs utilisateurs et s’assurer qu’il n’est pas offensant ou inapproprié. Cela a déclenché un débat important, certains utilisateurs affirmant que ces techniques entravent la liberté d’expression en ligne.

Des chercheurs de l’Inria, de l’IRIT / ENSHEEIT et du LAAS / CNRS ont récemment mené une étude sur une méthode réputée de modération de contenu sur les plateformes de médias sociaux appelée shadowbanning. Le shadowbanning se produit lorsqu’un site de média social intervient dans l’activité en ligne d’un utilisateur spécifique à son insu, par exemple en rendant ses publications ou commentaires invisibles aux autres utilisateurs. Ceci est souvent réalisé en utilisant des algorithmes de prise de décision ou d’autres techniques de calcul qui sont formés pour identifier les publications ou les commentaires qui pourraient être considérés comme inappropriés.

« En tant que chercheurs, notre sujet d’étude est la compréhension des interactions que les utilisateurs peuvent avoir avec les algorithmes de prise de décision », a déclaré à TechXplore Erwan Le Merrer, l’un des chercheurs qui ont mené l’étude. «Ces algorithmes sont souvent proposés sous forme de boîte noire, ce qui signifie que les utilisateurs ne savent rien de leur fonctionnement, mais font face à leurs décisions en conséquence des données qu’ils fournissent. Nous avons remis en question les algorithmes de modération automatisés sur les réseaux sociaux comme exemple d’une telle décision. faire des algorithmes. « 

Les chercheurs ont entrepris d’examiner les fondements du shadowbanning sur une plateforme de médias sociaux spécifique: Twitter. Ils ont décidé de se concentrer sur Twitter car sa modération du contenu des utilisateurs a reçu une attention particulière au cours des dernières années.

« Nous nous sommes appuyés sur du code open source capable de détecter certaines restrictions imposées aux utilisateurs et la visibilité de leurs profils, Tweets ou interactions », ont expliqué les chercheurs. « Nous avons amélioré ce code pour prendre en charge des campagnes de test massives et inspecté la visibilité des tweets d’environ 2,5 millions d’utilisateurs de Twitter. »

Après avoir compilé un ensemble de données contenant des informations relatives à la visibilité des Tweets publiés par les utilisateurs sur Twitter, les chercheurs l’ont utilisé pour essayer de comprendre les raisons pour lesquelles certains utilisateurs auraient pu être soumis au shadowbanning. Pour ce faire, ils ont analysé les données qu’ils ont collectées à l’aide d’approches d’exploration standard, testant deux hypothèses différentes expliquant pourquoi la visibilité de certains utilisateurs sur Twitter aurait pu être entravée.

La première hypothèse était que les limitations sur la visibilité des publications de certains utilisateurs étaient causées par des bugs ou des dysfonctionnements de la plateforme. Le second est que le shadowbanning se propage comme une épidémie parmi les utilisateurs qui interagissent les uns avec les autres.

« Puisqu’à un moment donné, Twitter a affirmé qu’il n’utilisait pas de méthodes de shadowbanning (faisant référence aux problèmes étant des bogues), nous avons décidé de tirer parti des méthodes statistiques pour tester la probabilité d’un tel scénario de bogue, qui devrait être uniformément réparti entre les utilisateurs et donc dans nos données. », A déclaré Le Merrer. « Nous avons découvert que plusieurs populations échantillonnées étaient affectées de manière très différente (par exemple, les politiciens et les célébrités moins que les robots ou les utilisateurs échantillonnés au hasard). »

Les résultats des analyses montrent que l’hypothèse selon laquelle le shadowbanning se produit en raison de bugs ou d’erreurs dans le système de Twitter est statistiquement improbable. Fait intéressant, ils ont également observé que les amis ou les adeptes des utilisateurs qui ont été bannis de l’ombre sont plus susceptibles d’être soumis à l’interdiction de l’ombre.

« Pour remplacer le récit de bogue improbable proposé par Twitter par un autre scénario, nous avons conçu un modèle qui capture les groupes d’utilisateurs fréquemment interdits de l’ombre », ont déclaré les chercheurs. « En d’autres termes, notre modèle montre que les utilisateurs bannis sont plus susceptibles d’avoir des amis interdits. Cette prévalence du shadowbanning autour de certains utilisateurs et de leurs contacts remet vraiment en question la déclaration de Twitter sur ses pratiques de modération. »

Cette étude récente met en lumière la dynamique et les mécanismes du shadowbanning, révélant qu’il existe souvent des groupes d’utilisateurs interdits de l’ombre qui interagissent les uns avec les autres. Cela pourrait être dû à des algorithmes de prise de décision qui apprennent à classer les connexions d’utilisateurs interdits de l’ombre comme d’autres candidats potentiels pour le shadowbanning. Cela pourrait également être causé par l’algorithme ciblant les mots fréquemment utilisés au sein de communautés spécifiques.

À l’avenir, les chercheurs espèrent mener de nouvelles investigations pour examiner les fondements et les limites des systèmes basés sur des machines pour la modération et la recommandation de contenu en ligne.

« Nous prévoyons de poursuivre d’autres enquêtes sur les boîtes noires algorithmiques », ont-ils déclaré. «Les services en ligne exposent désormais leurs utilisateurs à une grande quantité de ces systèmes (c.-à-d. Systèmes de recommandation, notation de crédit, ratissage de toutes sortes, etc.), le choix sera donc difficile.»

© Réseau Science X 2021