Découverte d’une manipulation à grande échelle de Twitter Trends

Une nouvelle recherche de l’EPFL a révélé que près de la moitié des sujets d’actualité Twitter locaux en Turquie sont faux, une ampleur de manipulation sans précédent. Cela prouve également pour la première fois que de nombreuses tendances sont créées uniquement par des robots en raison d’une vulnérabilité dans l’algorithme Trends de Twitter.

Les médias sociaux sont devenus omniprésents dans notre vie quotidienne moderne. Cela a changé la façon dont les gens interagissent, nous connectant de manière auparavant inimaginable. Pourtant, là où autrefois nos réseaux de médias sociaux consistaient probablement en un petit cercle d’amis, la plupart d’entre nous faisons maintenant partie de communautés beaucoup plus vastes qui peuvent influencer ce que nous lisons, faisons et même pensons.

Un mécanisme d’influence, par exemple, est « Twitter Trends ». La plate-forme utilise un algorithme pour déterminer les sujets axés sur les hashtags qui deviennent populaires à un moment donné, alertant les utilisateurs de Twitter des meilleurs mots, phrases, sujets et hashtags populaires à l’échelle mondiale et locale.

Désormais, de nouvelles recherches de l’EPFL axées sur la Turquie, du Laboratoire des systèmes d’information distribués, qui fait partie de la Faculté des sciences informatiques et de la communication, ont trouvé une vulnérabilité dans l’algorithme qui décide des sujets de tendance Twitter : il ne prend pas en compte les suppressions. Cela permet aux attaquants de pousser les tendances qu’ils souhaitent en haut des tendances Twitter malgré la suppression de leurs tweets qui contiennent la tendance candidate peu de temps après.

« Nous avons constaté que les attaquants utilisent à la fois des comptes faux et compromis, qui sont les comptes de personnes ordinaires avec des identifiants volés, ou qui ont installé une application malveillante sur leurs téléphones. En général, ils ne savent pas que leur compte est utilisé comme un bot pour manipuler sujets à la mode, parfois ils le sont mais ne savent pas quoi faire à ce sujet et dans les deux cas, ils continuent à utiliser Twitter », a déclaré Tuğrulcan Elmas, l’un des auteurs de la recherche, acceptée par le Symposium européen IEEE sur la sécurité et la confidentialité 2021, une conférence de haut niveau sur la cybersécurité.

« Nous avons constaté que 47 % des tendances locales en Turquie et 20 % des tendances mondiales sont fausses, créées de toutes pièces par des robots. Entre juin 2015 et septembre 2019, nous avons découvert 108 000 comptes de robots impliqués, le plus grand ensemble de données de robots rapporté dans un seul article. Notre recherche est la première à découvrir la manipulation des tendances Twitter à cette échelle », a poursuivi Elmas.

Les fausses tendances découvertes comprennent des applications de phishing, des promotions de jeux d’argent, des campagnes de désinformation, des slogans politiques, des discours de haine contre les populations vulnérables et même des propositions de mariage.

« Cette manipulation a de sérieuses implications car nous savons que Twitter Trends attire l’attention. Des médias plus larges rendent compte des tendances, qui sont utilisées comme proxy pour ce dont les gens parlent, mais malheureusement, c’est un proxy manipulé, déformant la vision publique de quelles conversations se déroulent réellement », a déclaré Rebekah Overdorf, une autre des auteurs de l’article. « Par exemple, l’un des hashtags manipulés que nous avons trouvés qui a été poussé artificiellement vers Trends était #SuriyelilerDefolsun, traduit par » Les Syriens sortent « , et cela a ensuite été repris par plusieurs reportages, d’autres plateformes de médias sociaux et dans des articles universitaires. En réalité, c’était complètement fabriqué », a poursuivi Overdorf.

Les chercheurs ont contacté Twitter à deux reprises, la société reconnaissant dans les deux cas la vulnérabilité de son algorithme Trends. Dans le premier cas, Twitter a refusé d’apporter des modifications, dans le second cas, la société n’a pas répondu aux e-mails de suivi des chercheurs. « Le problème n’a pas été résolu et nous voyons toujours des tendances évidentes de spam se produire. Il est clair que tant que la vulnérabilité de l’algorithme n’est pas corrigée, les adversaires continueront de créer de fausses tendances avec la même méthodologie d’attaque », a conclu Elmas.