Près de la moitié des comptes Twitter discutant de la «réouverture de l'Amérique» pourraient être des bots

La rencontre d'un compte de bot en faisant défiler Twitter est plus susceptible de se produire à l'ère de COVID-19. Les chercheurs de l'Université Carnegie Mellon ont découvert qu'une grande partie de la discussion autour de la pandémie et des ordonnances de rester à la maison est alimentée par des campagnes de désinformation qui utilisent des robots convaincants.

Pour analyser l'activité des bots autour de la pandémie, les chercheurs de la CMU depuis janvier ont collecté plus de 200 millions de tweets sur le coronavirus ou COVID-19. Sur les 50 retweeters les plus influents, 82% sont des robots, ont-ils découvert. Sur les 1 000 meilleurs retweeters, 62% sont des bots.

La surveillance des tweets est en cours et des collections de Facebook, Reddit et YouTube ont été ajoutées à la recherche.

"Nous constatons jusqu'à deux fois plus d'activité de robots que nous l'avions prévu en fonction des catastrophes naturelles, des crises et des élections précédentes", a déclaré Kathleen Carley, professeure à l'Institut de recherche logicielle de la School of Computer Science et directrice du Center for Analyse computationnelle des systèmes sociaux et organisationnels (CASOS) et Centre for Informed Democracy & Social — cybersecurity (IDeaS.)

Carley a déclaré que de multiples facteurs contribuent à la flambée. Premièrement, plus de personnes ont le temps de créer des robots de bricolage. Mais le nombre de groupes sophistiqués qui embauchent des entreprises pour gérer des comptes de robots a également augmenté. La nature de la pandémie est également importante. "Parce que c'est mondial, il est utilisé par divers pays et groupes d'intérêt comme une opportunité de rencontrer des programmes politiques", a-t-elle déclaré.

L'équipe de recherche de Carley utilise plusieurs méthodes pour déterminer qui est ou n'est pas un bot. L'intelligence artificielle traite les informations des comptes et examine des éléments tels que le nombre d'abonnés, la fréquence des tweets et le réseau de mentions d'un compte.

"Tweeter plus fréquemment que ce qui est humainement possible, ou sembler se trouver dans un pays puis dans un autre quelques heures plus tard est révélateur d'un bot", a déclaré Carley.

Plus de 100 types d'histoires COVID-19 inexactes ont été identifiés, tels que ceux sur les remèdes potentiels. Mais les robots dominent également les conversations sur la fin des commandes de séjour à domicile et la «réouverture de l'Amérique».

De nombreux facteurs des discussions en ligne sur la «réouverture de l'Amérique» suggèrent que l'activité des bots est orchestrée. Un indicateur est le grand nombre de robots, dont beaucoup sont des comptes qui ont été récemment créés. Les comptes qui sont peut-être des humains avec des assistants de bot génèrent 66% des tweets. Les comptes qui sont définitivement des bots génèrent 34% des tweets.

"Quand nous voyons tout un tas de tweets en même temps ou dos à dos, c'est comme s'ils étaient chronométrés", a déclaré Carley. "Nous recherchons également l'utilisation du même hashtag exact, ou messagerie qui semble être copiée et collée d'un bot à l'autre."

Un sous-ensemble de tweets sur la "réouverture de l'Amérique" fait référence à des théories du complot, telles que les hôpitaux remplis de mannequins ou le coronavirus lié aux tours 5G.

"Les théories du complot augmentent la polarisation dans les groupes. C'est ce que de nombreuses campagnes de désinformation visent à faire", a déclaré Carley. "Les gens ont de réelles préoccupations au sujet de la santé et de l'économie, et les gens exploitent cela pour créer des divisions."

Carley a déclaré que la diffusion des théories du complot conduit à des opinions plus extrêmes, ce qui peut à son tour conduire à des comportements plus extrêmes et à une pensée moins rationnelle.

"Une polarisation accrue aura une variété de conséquences dans le monde réel, et se traduira par des choses comme le comportement électoral et l'hostilité envers les groupes ethniques", a déclaré Carley.

L'équipe de recherche ne peut pas pointer vers des entités spécifiques derrière les tentatives orchestrées d'influencer les conversations en ligne. "Nous savons qu'il semble que ce soit une machine de propagande, et cela correspond définitivement aux livres de jeu russes et chinois, mais cela prendrait énormément de ressources pour le prouver", a déclaré Carley.

Carley ajoute que l'on ne sait pas assez pour développer une contre-mesure. Les comptes bloqués peuvent refaire surface et la nature du réseau est telle que vous ne pouvez pas simplement attaquer à des points individuels.

Les utilisateurs moyens, a déclaré Carley, peuvent faire beaucoup pour se protéger de l'influence des robots. Il n'y a aucune garantie, mais un examen attentif d'un compte peut offrir des indications sur un bot, comme le partage de liens avec des fautes de frappe subtiles, de nombreux tweets qui sortent très rapidement, ou un nom d'utilisateur et une image de profil qui ne semblent pas correspondre.

"Même si quelqu'un semble appartenir à votre communauté, si vous ne le connaissez pas personnellement, examinez-le de plus près et consultez toujours des sources fiables ou faisant autorité", a déclaré Carley. "Soyez juste très vigilant."