Un guide de désinformation en ligne

Les cyborgs, les trolls et les bots peuvent remplir Internet de mensonges et de demi-vérités. Les comprendre est essentiel pour apprendre comment la désinformation se propage en ligne.

Comme l'ont montré les élections de 2016, les médias sociaux sont de plus en plus utilisés pour amplifier les fausses allégations et diviser les Américains sur les problèmes brûlants, notamment la race et l'immigration. Les chercheurs qui étudient la désinformation prédisent que la situation s'aggravera avant le vote présidentiel de cette année. Voici un guide pour comprendre le problème:

Désinformation contre désinformation

La désinformation politique existe depuis avant l'imprimerie, mais Internet a permis aux mensonges, aux théories du complot et aux exagérations de se répandre plus rapidement et plus loin que jamais.

La désinformation est définie comme toute fausse information, quelle que soit son intention, y compris les erreurs honnêtes ou les malentendus sur les faits. La désinformation, d'autre part, se réfère généralement à la désinformation créée et diffusée intentionnellement comme un moyen de confondre ou d'induire en erreur.

La désinformation et la désinformation peuvent apparaître dans les publicités politiques ou les publications sur les réseaux sociaux. Ils peuvent inclure de fausses nouvelles ou des vidéos trafiquées. Un exemple flagrant de désinformation de l'année dernière était une vidéo de la présidente de la Chambre, Nancy Pelosi, qui a été ralentie pour la faire sonner comme si elle brouillait ses mots.

La recherche indique que les fausses déclarations se propagent plus facilement que les justes, probablement parce qu'elles sont conçues pour attirer l'attention.

Les scientifiques du Massachusetts Institute of Technology ont analysé plus de 126 000 histoires, certaines vraies et d'autres fausses, qui ont été tweetées des millions de fois de 2006 à la fin de 2016. Ils ont constaté que les histoires trompeuses ou incorrectes voyageaient six fois plus vite et atteignaient plus de personnes.

On a reproché à la désinformation en ligne d'approfondir la polarisation politique de l'Amérique et de contribuer à la méfiance à l'égard du gouvernement. Les risques ont été mis en évidence en 2016 lorsque des trolls russes ont créé de faux comptes pour diffuser et amplifier les publications des médias sociaux sur des questions controversées.

Guerre des robots et des cyborgs

Les fantassins jetables dans ce conflit numérique sont des robots. Dans le contexte des médias sociaux, ces programmes autonomes peuvent gérer des comptes pour diffuser du contenu sans implication humaine.

Beaucoup sont inoffensifs, tweetant des poèmes aléatoires ou des photos d'animaux. Mais d'autres ne valent rien et sont conçus pour ressembler à des utilisateurs réels.

Une étude réalisée par des chercheurs de l'Université de Californie du Sud a analysé les tweets liés aux élections envoyés en septembre et octobre 2016 et a révélé que 1 sur 5 a été envoyé par un bot. Le Pew Research Center a conclu dans une étude de 2018 que les comptes soupçonnés d'être des robots sont responsables des deux tiers des tweets qui renvoient à des sites Web populaires.

Alors que les utilisateurs Twitter de chair et de sang publieront souvent quelques fois par jour, sur une variété de sujets, les robots les plus évidents tweeteront des centaines de fois par jour, jour et nuit, et souvent uniquement sur un sujet spécifique. Ils sont plus susceptibles de republier du contenu plutôt que de créer quelque chose d'original.

Et puis il y a le cyborg, une sorte de compte hybride qui combine l'inlassabilité d'un bot avec la subtilité humaine. Les comptes Cyborg sont ceux dans lesquels un humain reprend périodiquement un compte de robot pour répondre à d'autres utilisateurs et publier du contenu original. Ils sont plus chers et plus longs à utiliser, mais ils ne se donnent pas comme des robots.

"Vous pouvez obtenir beaucoup d'un bot, mais ce n'est peut-être pas la meilleure qualité", a déclaré Emilio Ferrara, chercheur en science des données à l'Université de Californie du Sud qui a co-écrit l'étude sur les bots Twitter. "Le problème avec les cyborgs est qu'ils sont beaucoup plus difficiles à attraper et à détecter."

Spot The Bots

Les bots peuvent être difficiles à repérer, même pour les meilleurs chercheurs.

"Nous avons 12 façons de repérer un bot, et si nous en frappons sept ou huit, nous avons une confiance assez élevée", a déclaré Graham Brookie, directeur du Digital Forensic Research Lab de l'Atlantic Council, une organisation basée à Washington, DC qui étudie liens entre les médias sociaux, la cybersécurité et le gouvernement.

Néanmoins, Brookie a rappelé le cas d'un compte Twitter du Brésil qui affichait presque constamment – parfois une fois par minute – et affichait d'autres caractéristiques de type bot. Et pourtant, "C'était une petite grand-mère qui a dit:" C'est moi! ""

Leur prévalence et la difficulté de les identifier ont transformé les robots en une sorte de croque-mitaine numérique et transformé le terme en insulte, utilisé pour rejeter d'autres utilisateurs de médias sociaux avec des opinions différentes.

Michael Watsey, un homme de 43 ans du New Jersey qui tweete souvent son soutien au président Donald Trump, a déclaré qu'il avait été appelé à plusieurs reprises un robot russe par des personnes avec qui il se disputait en ligne. Les accusations ont incité Twitter à suspendre temporairement son compte plusieurs fois, l'obligeant à vérifier qu'il est un humain.

"Tout ce que j'essaie de faire, c'est d'utiliser mon droit de premier amendement à la liberté d'expression", at-il déclaré. "C'est fou que ça en soit arrivé là."

Trolls et chaussettes marionnettes

Le mot troll faisait autrefois référence aux bêtes de la mythologie scandinave qui se cachaient sous les ponts et attaquaient les voyageurs. Maintenant, il fait également référence aux personnes qui publient en ligne pour provoquer les autres, parfois pour leur propre plaisir et parfois dans le cadre d'une campagne coordonnée.

Les marionnettes à chaussettes sont un autre habitant des médias sociaux au nom étrange, en l'occurrence un type de compte imposteur. Alors que certains utilisateurs peuvent utiliser des comptes anonymes simplement pour éviter de s'identifier, des comptes de marionnettes sont utilisés par le propriétaire pour attaquer leurs détracteurs ou se vanter. En octobre, le sénateur de l'Utah, Mitt Romney, a reconnu avoir exploité un compte Twitter secret sous le nom de «Pierre Delecto», qu'il a utilisé pour se défendre contre les critiques.

Vidéos truquées: profondes, bon marché et peu profondes

Les Deepfakes sont des vidéos qui ont été créées numériquement avec l'intelligence artificielle ou l'apprentissage automatique pour faire apparaître quelque chose qui ne s'est pas produit. Ils sont considérés comme une menace émergente, car les améliorations des logiciels de montage vidéo permettent aux filous de créer des images de plus en plus réalistes, par exemple, de l'ancien président Barack Obama prononçant un discours qu'il n'a jamais prononcé, dans un cadre qu'il n'a jamais visité. Ils sont chers et difficiles à créer, surtout de manière convaincante.

Facebook a annoncé le mois dernier qu'il interdirait les vidéos deepfake, à l'exception de la satire. À partir de mars, Twitter interdira les vidéos, photographies et enregistrements audio trafiqués "susceptibles de nuire". Le matériel manipulé mais pas nécessairement dangereux peut recevoir une étiquette d'avertissement. Et YouTube interdit les "utilisations trompeuses des médias manipulés" qui pourraient présenter un risque sérieux de préjudice.

En revanche, les shallowfakes, cheapfakes ou dumbfakes sont des vidéos qui ont été trafiquées en utilisant des techniques plus basiques, telles que le ralentissement ou l'accélération de séquences ou leur découpe.

Les exemples incluent une vidéo falsifiée publiée par le Parti conservateur britannique avant les élections de décembre au Royaume-Uni qui donnait l'impression qu'un fonctionnaire du Parti travailliste avait du mal à répondre à une question sur le Brexit.

Parce qu'ils sont faciles et peu coûteux à faire, les faux bon marché peuvent être tout aussi dangereux que leur cousin plus amateur, le deepfake.

"Les Deepfakes deviennent plus réalistes et plus faciles à faire", a déclaré John Pavlik, professeur de journalisme à l'Université Rutgers, qui étudie comment la technologie et Internet changent les habitudes de communication. "Mais vous n'avez pas besoin de logiciel spécial pour les rendre plus simples."

Les chercheurs qui étudient l'évolution des habitudes médiatiques des Américains recommandent aux gens de se tourner vers diverses sources et perspectives pour leurs informations, de faire preuve de réflexion critique lors de l'évaluation des informations sur les réseaux sociaux et de réfléchir à deux fois avant de republier les déclarations virales. Sinon, disent-ils, la désinformation continuera de circuler et les utilisateurs continueront de la diffuser.

"La seule solution", a déclaré Ferrara, "est l'éducation".

© 2020 The Associated Press. Tous les droits sont réservés.