Comment les fausses nouvelles se répandent comme un vrai virus

En ce qui concerne les fausses nouvelles, le genre de désinformation que la Russie a déployée lors des élections de 2016, "devenir viral", n'est pas qu'une métaphore.

À l'aide des outils de modélisation de la propagation des maladies infectieuses, les chercheurs en risque cybernétique de Stanford Engineering analysent la propagation des fausses nouvelles, un peu comme s'il s'agissait d'une souche d'Ebola. "Nous voulons trouver le moyen le plus efficace de couper les chaînes de transmission, de corriger les informations si possible et d'éduquer les cibles les plus vulnérables", a déclaré Elisabeth Paté-Cornell, professeure en sciences de gestion et en ingénierie. Elle est spécialisée depuis longtemps dans l'analyse des risques et la cybersécurité et supervise la recherche en collaboration avec Travis I. Trammell, candidat au doctorat à Stanford. Voici quelques-uns des principaux apprentissages:

Comment les fausses nouvelles se répliquent-elles sur les médias sociaux?

Les chercheurs ont adapté un modèle permettant de comprendre les maladies susceptibles d'infecter une personne plus d'une fois. Il examine combien de personnes sont "susceptibles" de contracter la maladie – ou, dans ce cas, susceptibles de croire à une fausse nouvelle. Il examine également le nombre de personnes qui y ont été exposées et le nombre de celles qui sont réellement "infectées" et croient en l’histoire. et combien de personnes sont susceptibles de diffuser une fausse nouvelle.

Un peu comme un virus, les chercheurs affirment qu’au fil du temps, l’exposition à de multiples sources de fausses informations peut épuiser la résistance d’une personne et la rendre de plus en plus vulnérable. Plus une personne est exposée à une fausse nouvelle, surtout si elle provient d'une source influente, plus elle a de chances d'être persuadée ou infectée.

Qu'est-ce qui le rend plus rapide?

La soi-disant "loi du pouvoir" des médias sociaux, un schéma bien documenté dans les réseaux sociaux, stipule que les messages se répliquent plus rapidement s'ils s'adressent à un nombre relativement restreint de personnes influentes et nombreuses.

Les chercheurs se penchent également sur l'efficacité relative des trolls par rapport aux bots. Trammell explique que les robots, qui sont des programmes automatisés qui se font passer pour des personnes, ont tendance à être particulièrement efficaces pour diffuser un grand nombre de messages très émotifs avec peu de contenu informatif. Pensez ici à un message avec l'image d'Hillary Clinton derrière les barreaux et les mots "Lock Her Up!" Ce genre de message se propagera rapidement dans les échos chambres peuplées par ceux qui sont déjà d'accord avec le sentiment fondamental. Les bots ont le pouvoir considérable d’enflammer des personnes qui partagent les mêmes idées, mais ils peuvent être plus faciles à détecter et à bloquer que les trolls.

En revanche, les trolls sont généralement des personnes réelles qui diffusent des histoires et des mèmes provocateurs. Les trolls peuvent être plus efficaces pour persuader les personnes moins convaincues et qui veulent plus d'informations.

Quels types de personnes sont les plus susceptibles?

Paté-Cornell et Trammell disent qu'il existe de nombreuses preuves que les personnes âgées, les jeunes et les moins instruits sont particulièrement susceptibles de recevoir de fausses informations. Mais au sens le plus large, ce sont les partisans des extrêmes politiques, qu'ils soient libéraux ou conservateurs, qui sont les plus enclins à croire une histoire fausse en partie à cause du biais de confirmation – la tendance en chacun de nous à croire des histoires qui renforcent nos convictions – plus ces convictions sont fortes, plus la personne ressent puissamment le sens du biais de confirmation.

L'inoculation est-elle possible?

Paté-Cornell et Trammell disent que, tout comme le crime ordinaire, la désinformation ne disparaîtra jamais. Mais en apprenant comment il se propage à travers les médias sociaux, les chercheurs disent qu'il est possible de riposter. Les plateformes de médias sociaux pourraient détecter beaucoup plus rapidement les contenus suspects. Ils pourraient ensuite joindre des avertissements – une forme d'inoculation – ou les mettre en quarantaine davantage.

Le défi, disent-ils, est que la protection a des coûts – des coûts financiers ainsi qu'une commodité réduite et des limitations à la liberté d'expression. Paté-Cornell dit que les dangers des fausses nouvelles doivent être analysés comme un risque de gestion stratégique similaire à celui que nous avons traditionnellement analysé des risques posés par les cyberattaques visant à désactiver des infrastructures critiques. "La question est de savoir comment gérer au mieux nos ressources afin de minimiser les risques", dit-elle. "Combien êtes-vous prêt à dépenser et quel niveau de risque acceptons-nous?"

Que réserve l'avenir?

Les fausses nouvelles sont déjà un problème de sécurité nationale. Mais Paté-Cornell et Trammell prévoient que l’intelligence artificielle va turbocharger de fausses nouvelles dans les années à venir. L'intelligence artificielle permettra de cibler plus facilement les personnes avec de fausses informations ou de profondes vidéos – des vidéos qui semblent réelles mais qui ont été fabriquées en tout ou en partie – et qui sont parfaitement adaptées à ce qu'un téléspectateur vulnérable est susceptible d'accepter et peut-être de diffuser. L'intelligence artificielle pourrait également faciliter la création d'armées composées de robots plus influents qui sembleraient partager le contexte social, la ville natale, les intérêts personnels ou les convictions religieuses d'une cible. Ce type de ciblage excessif rendrait les messages beaucoup plus convaincants. L'intelligence artificielle montre également un potentiel considérable pour contrer ce fléau en identifiant le contenu contrefait sous toutes ses formes, mais seul le temps dira qui dominera dans cette course aux armements du nouvel âge.