Le suivi des campagnes de désinformation coordonnées en ligne est simplifié grâce au nouvel outil BotSlayer

L'Observatoire des médias sociaux de l'Université de l'Indiana a lancé un nouvel outil de lutte contre la désinformation en ligne: BotSlayer.

Le logiciel, gratuit et ouvert au public, analyse les médias sociaux en temps réel pour détecter des preuves de comptes automatisés sur Twitter, ou "bots", qui acheminent des messages de manière coordonnée, une pratique de plus en plus courante pour manipuler l'opinion publique en créant de faux impression que beaucoup de gens parlent d'un sujet particulier. La méthode est également connue sous le nom de "astroturfing" car elle imite l’apparition d’une activité politique légitime à la base.

En exploitant l'expertise et l'infrastructure technologique de l'observatoire, BotSlayer donne aux groupes et aux individus de toute affiliation politique le pouvoir de détecter les campagnes de désinformation coordonnées en temps réel, sans aucune connaissance préalable de ces campagnes. Le développement du logiciel a été soutenu par un don de Craig Newmark Philanthropies.

"Nous avons développé BotSlayer pour aider les journalistes et les campagnes politiques à surveiller les nouvelles campagnes de désinformation potentielles qui tentent de manipuler l'opinion publique à l'aide de robots", a déclaré Filippo Menczer, professeur à l'École d'informatique, d'informatique et d'ingénierie de l'IU et directeur de l'Observatoire. sur les médias sociaux. "En cas de hausse suspecte du trafic autour d'un sujet spécifique, BotSlayer vous permet de le détecter très rapidement afin que vous puissiez enquêter sur le contenu et ses promoteurs et, en cas d'abus de la plate-forme, le signaler ou le communiquer à vos abonnés. à propos de ça."

L’utilisation de robots trompeurs pour influencer l’opinion publique est un problème croissant en politique aux États-Unis et dans le monde, a ajouté Menczer, qui fait également partie d’un groupe de chercheurs qui ont découvert une utilisation répandue des robots dans la perspective de l’élection présidentielle américaine de 2016. D'autres campagnes de bot ont tenté d'influencer les votes liés au mouvement britannique Brexit et aux élections en France, en Allemagne et en Italie.

Par exemple, lors de la période précédant les élections de mi-mandat en 2018, le Comité de la campagne du Congrès du Congrès démocrate a utilisé des outils accessibles au public créés par l'observatoire pour signaler plus de 10 000 robots diffusant des messages de répression des électeurs à Twitter, fermant ainsi les comptes. Botometer, qui utilise un algorithme pour attribuer un score aux comptes Twitter en fonction de leur probabilité d’automatisation, et Hoaxy, qui permet aux utilisateurs de rechercher et de visualiser la diffusion de sujets spécifiques sur Twitter en temps réel. Le Botomètre est l’un des outils les plus populaires de l’observatoire. Il reçoit actuellement plus de 100 000 requêtes par jour.

BotSlayer, qui associe les technologies de Hoaxy et de Botometer, a été créé en partie sur la base des retours d’informations émanant d’institutions politiques et d’informations demandant à ce que les outils de l’observatoire soient plus rapides, plus puissants et plus conviviaux. Ces organisations incluent l'Associated Press, le New York Times et CNN.

Le système utilise un "algorithme de détection d'anomalie" pour signaler rapidement l'activité de tendance dont la hausse soudaine est probablement provoquée par des robots, a déclaré Menczer.

Par exemple, BotSlayer pourrait être utilisé lors d'un débat présidentiel pour non seulement détecter instantanément les tendances du nom d'utilisateur ou des hashtags du candidat, mais également pour attribuer automatiquement un "score bot" afin d'indiquer si la hausse apparaît liée à l'activité du bot. En entreprise, BotSlayer pourrait aider les organisations à se protéger contre les menaces à la réputation qui reposent sur des comptes automatisés pour amplifier les messages. En journalisme, cet outil pourrait être utilisé pour contrôler la manipulation des reportages sur des sujets d'actualité, ou pour mettre en garde le public contre les attaques de désinformation.

En plus de détecter les tendances, BotSlayer peut générer instantanément une "carte réseau" illustrant la manière dont un sujet particulier se propage dans le temps. Un score bot est également attribué à chaque utilisateur du réseau, ce qui permet de visualiser facilement les comptes les plus influents (réels ou factices) dans la conversation. Chaque "entité" tendance – un hashtag; une poignée d'utilisateur; une image, une vidéo, un gif ou un meme; ou un mot clé ou une phrase – se voit également attribuer un pourcentage indiquant sa rapidité. Un pourcentage de 5 000 indique par exemple une multiplication par 50 des mentions au cours des quatre dernières heures.

Pour utiliser BotSlayer, les utilisateurs peuvent télécharger le logiciel via un formulaire en ligne et suivre des instructions simples pour l'installer dans le cloud ou sur leur propre serveur. Ce processus peut être effectué en quelques clics et gratuitement. Il permet aux utilisateurs de personnaliser leur utilisation de l'outil et protège la confidentialité. Le système est accessible via un tableau de bord Web intégré aux autres outils de l'observatoire.

Ce qu'ils disent

"BotSlayer a le potentiel d'être un nouvel outil très puissant dans notre lutte mondiale contre la désinformation et la désinformation. Lors des élections de 2018, nous avons utilisé une version antérieure de BotSlayer pour identifier et finalement éliminer les comptes malveillants lors des élections générales. C'était très efficace Cet ouvrage de pointe de l'Observatoire d'IU sur les médias sociaux d'IU est un service public extraordinaire et très apprécié, et j'espère que les acteurs des démocraties du monde entier en tireront parti comme nous l'avions fait lors des dernières élections américaines. "—Simon Rosenberg, stratège démocrate et conseiller principal auprès de la DCCC lors du cycle électoral de 2017-2018.