Twitter, Facebook interdisent les faux utilisateurs; certains avaient des photos créées par l'IA

Twitter a identifié et supprimé près de 6 000 comptes qui, selon lui, faisaient partie d'un effort coordonné des agences gouvernementales et des particuliers saoudiens pour faire avancer les intérêts géopolitiques du pays.

Séparément, Facebook a déclaré avoir supprimé des centaines de comptes, groupes et pages Facebook liés à un comportement non authentique de deux groupes distincts, l'un originaire du pays de Géorgie et l'autre du Vietnam, qui ciblaient des personnes au Vietnam et aux États-Unis.

Facebook a déclaré que certains des comptes utilisaient des photos de profil générées par l'intelligence artificielle et se faisaient passer pour des Américains. C'est l'un des premiers efforts de désinformation de ce type à utiliser du matériel généré par l'IA.

Les entreprises technologiques ont intensifié leurs efforts pour lutter contre la désinformation sur leurs services avant les élections présidentielles américaines de l'année prochaine. Les efforts ont suivi les révélations selon lesquelles les Russes ont financé des milliers de fausses annonces politiques lors des élections de 2016 pour semer la dissidence parmi les Américains.

Les annonces de Twitter et de Facebook soulignent le fait que les problèmes de désinformation ne se limitent pas aux États-Unis et à la Russie.

Vendredi, dans un article de blog, Twitter a déclaré que les comptes saoudiens supprimés amplifiaient les messages favorables aux autorités saoudiennes, principalement par le biais de "sympathies agressives, de retweets et de réponses". Alors que la majorité du contenu était en arabe, Twitter a déclaré que les tweets ont également amplifié les discussions sur les sanctions en Iran et les apparitions de responsables du gouvernement saoudien dans les médias occidentaux.

"Les gouvernements ont commencé à lancer des campagnes d'influence de la même manière que les entreprises commerciales lancent des campagnes pour vendre des détergents ou des voitures", a déclaré James Ludes, un expert de la défense nationale qui enseigne les relations internationales et les politiques publiques à l'Université Salve Regina à Rhode Island.

Il a déclaré que les efforts russes en 2016 ont montré qu'il était possible de "réellement changer les attitudes du public grâce à l'utilisation ciblée des médias sociaux".

Bien que les tentatives de déraciner les campagnes puissent sembler être un jeu de détraqué, il a déclaré que les entreprises ont au moins montré des progrès dans la prise de mesures pour identifier et éliminer les campagnes de manipulation menées par des puissances étrangères.

Twitter a commencé à archiver les tweets et les médias qu'il juge associés à des opérations d'information connues de l'État en 2018. Il a fermé 200 000 comptes chinois qui ciblaient les manifestations de Hong Kong en août.

Les 5 929 comptes supprimés et ajoutés aux archives font partie d'un groupe plus large de 88 000 comptes engagés dans des "comportements de spam" sur un large éventail de sujets. Mais Twitter ne les dévoile pas tous, car certains peuvent être des comptes légitimes repris par piratage.

Les comptes Twitter étaient liés à une société de marketing des médias sociaux en Arabie saoudite appelée Smaat, qui dirigeait de nombreux ministères en Arabie saoudite. Les comptes ont utilisé des outils automatisés tiers pour amplifier le contenu non politique à des volumes élevés. Twitter a déclaré que cette activité avait été utilisée pour masquer les manœuvres politiques des mêmes comptes.

Samuel Woolley, professeur à l'Université du Texas à Austin qui étudie la désinformation, a déclaré que bien que la campagne saoudienne ait utilisé des techniques de manipulation de base, y compris l'utilisation de likes et de retweets pour donner l'illusion de la popularité, la taille et l'échelle de la campagne étaient inhabituelles. L'existence d'une armée de milliers de comptes saoudiens montre également que les sociétés de médias sociaux n'ont toujours pas de bonne solution, a-t-il déclaré, malgré les progrès qu'ils ont réalisés dans l'identification des comptes soutenus par l'État.

"Il est vraiment clair que nous devons faire quelque chose", a-t-il déclaré. "Cela ne peut pas être juste après le fait. Nous devons améliorer la détection en temps réel."

Les messages laissés aux autorités saoudiennes à Riyad, en Arabie saoudite, et à l'ambassade du pays à Washington n'ont pas été immédiatement renvoyés.

Le gouvernement saoudien a utilisé différentes tactiques pour contrôler la parole et empêcher les réformateurs et autres de s'organiser, notamment en employant des armées de trolls pour harceler et intimider les utilisateurs en ligne. Il a également arrêté et emprisonné des utilisateurs de Twitter.

En septembre, Twitter a suspendu le compte de l'ancien conseiller supérieur du prince héritier, Saud al-Qahtani, qui a également été directeur de la fédération de la cybersécurité. Comme pour l'annonce de vendredi, Twitter a déclaré que ce compte avait violé la politique de manipulation de la plate-forme de l'entreprise.

Le mois dernier, deux anciens employés de Twitter ont été accusés d'avoir agi en tant qu'agents de l'Arabie saoudite sans s'inscrire auprès du gouvernement américain. La plainte détaille un effort coordonné des responsables du gouvernement saoudien pour recruter des employés chez le géant des médias sociaux pour rechercher les données privées des comptes Twitter, y compris les adresses e-mail liées aux comptes et les adresses de protocole Internet qui peuvent céder l'emplacement d'un utilisateur.

En ce qui concerne les actions de Facebook, Facebook a déclaré que le groupe de Géorgie ciblait des publics nationaux et que le groupe du Vietnam se concentrait principalement aux États-Unis, ainsi que des publics parlant le vietnamien, l'espagnol et le chinois à travers le monde.

La société a déclaré avoir créé des réseaux de comptes pour tromper les autres sur qui ils étaient et ce qu'ils faisaient. Pour échapper à la détection, ils ont utilisé une combinaison de faux et de vrais comptes de personnes aux États-Unis pour gérer les pages et les groupes, a déclaré la société.

"Nous faisons des progrès pour éliminer ces abus, mais comme nous l'avons déjà dit, c'est un défi permanent", a déclaré Nathaniel Gleicher, responsable de la politique de sécurité de Facebook, dans un article de blog.

© 2019 The Associated Press. Tous les droits sont réservés.