Pourquoi les fausses nouvelles font boule de neige sur les réseaux sociaux

La propagation de la désinformation sur les médias sociaux est un problème de société urgent auquel les entreprises technologiques et les décideurs politiques continuent de se débattre, mais ceux qui étudient cette question ne comprennent toujours pas en profondeur pourquoi et comment les fausses nouvelles se propagent.

Pour faire la lumière sur ce sujet obscur, des chercheurs du MIT ont développé un modèle théorique d’un réseau social de type Twitter pour étudier comment les nouvelles sont partagées et explorer les situations où une nouvelle non crédible se répandra plus largement que la vérité. Les agents du modèle sont motivés par le désir de persuader les autres de partager leur point de vue : l’hypothèse clé du modèle est que les gens se donnent la peine de partager quelque chose avec leurs abonnés s’ils pensent que c’est persuasif et susceptible de rapprocher les autres de leur mentalité. Sinon, ils ne partageront pas.

Les chercheurs ont découvert que dans un tel cadre, lorsqu’un réseau est fortement connecté ou que les opinions de ses membres sont fortement polarisées, les informations susceptibles d’être fausses se répandront plus largement et pénétreront plus profondément dans le réseau que les informations plus crédibles.

Ce travail théorique pourrait éclairer des études empiriques sur la relation entre la crédibilité des informations et la taille de leur diffusion, ce qui pourrait aider les entreprises de médias sociaux à adapter leurs réseaux pour limiter la diffusion de fausses informations.

« Nous montrons que, même si les gens sont rationnels dans la façon dont ils décident de partager les nouvelles, cela pourrait toujours conduire à l’amplification d’informations avec une faible crédibilité. Avec ce motif de persuasion, peu importe à quel point mes croyances sont extrêmes, étant donné que les plus extrêmes ils sont d’autant plus que je gagne en déplaçant les opinions des autres – il y a toujours quelqu’un qui amplifierait [the information] », déclare l’auteur principal Ali Jadbabaie, professeur et chef du Département de génie civil et environnemental et membre principal du corps professoral de l’Institut des données, des systèmes et de la société (IDSS) et chercheur principal au Laboratoire des systèmes d’information et de décision ( COUVERCLES).

Le premier auteur, Chin-Chia Hsu, étudiant diplômé du programme Systèmes sociaux et d’ingénierie de l’IDSS, et Amir Ajorlou, chercheur au LIDS, rejoignent Jadbabaie sur l’article. La recherche sera présentée cette semaine à la conférence IEEE sur la décision et le contrôle.

Méditer sur la persuasion

Cette recherche s’appuie sur une étude de 2018 de Sinan Aral, professeur de gestion David Austin à la MIT Sloan School of Management ; Deb Roy, professeure agrégée en arts et sciences médiatiques au Media Lab; et l’ancien postdoctorant Soroush Vosoughi (maintenant professeur adjoint d’informatique à l’Université de Dartmouth). Leur étude empirique des données de Twitter a révélé que les fausses nouvelles se propagent plus largement, plus rapidement et plus profondément que les vraies nouvelles.

Jadbabaie et ses collaborateurs ont voulu comprendre pourquoi cela se produit.

Ils ont émis l’hypothèse que la persuasion pourrait être un puissant motif pour partager des informations – peut-être que les agents du réseau veulent persuader les autres de partager leur point de vue – et ont décidé de construire un modèle théorique qui leur permettrait d’explorer cette possibilité.

Dans leur modèle, les agents ont une croyance préalable à propos d’une politique, et leur objectif est de persuader les adeptes de rapprocher leurs croyances du côté de l’agent.

Une nouvelle est initialement diffusée à un petit sous-groupe aléatoire d’agents, qui doit décider s’il souhaite partager cette nouvelle avec ses abonnés. Un agent évalue la valeur médiatique de l’article et sa crédibilité, et met à jour sa conviction en fonction du degré de surprise ou de conviction de la nouvelle.

« Ils feront une analyse coûts-avantages pour voir si, en moyenne, cette nouvelle rapprochera les gens de ce qu’ils pensent ou les éloignera. Et nous incluons un coût nominal pour le partage. Par exemple, prendre des mesures, si vous défilez sur les réseaux sociaux, vous devez arrêter de faire ça. Considérez cela comme un coût. Ou un coût de réputation pourrait venir si je partage quelque chose qui est embarrassant. Tout le monde a ce coût, donc le plus extrême et le plus intéressant le l’actualité est, plus vous voulez la partager », dit Jadbabaie.

Si les nouvelles affirment le point de vue de l’agent et ont un pouvoir de persuasion qui l’emporte sur le coût nominal, l’agent partagera toujours les nouvelles. Mais si un agent pense que l’actualité est quelque chose que d’autres ont peut-être déjà vu, l’agent n’est pas incité à la partager.

Étant donné que la volonté d’un agent de partager des nouvelles est le produit de sa perspective et du degré de persuasion des nouvelles, plus la perspective d’un agent est extrême ou plus les nouvelles sont surprenantes, plus l’agent est susceptible de les partager.

Les chercheurs ont utilisé ce modèle pour étudier la façon dont les informations se propagent au cours d’une cascade de nouvelles, qui est une chaîne de partage ininterrompue qui imprègne rapidement le réseau.

Connectivité et polarisation

L’équipe a découvert que lorsqu’un réseau a une connectivité élevée et que les nouvelles sont surprenantes, le seuil de crédibilité pour démarrer une cascade de nouvelles est plus bas. Une connectivité élevée signifie qu’il existe plusieurs connexions entre de nombreux utilisateurs du réseau.

De même, lorsque le réseau est largement polarisé, de nombreux agents aux opinions extrêmes souhaitent partager l’actualité, en lançant une cascade d’actualités. Dans ces deux cas, les nouvelles de faible crédibilité créent les plus grandes cascades.

« Pour toute information, il existe une limite de vitesse naturelle du réseau, une plage de connectivité, qui facilite une bonne transmission de l’information où la taille de la cascade est maximisée par de vraies nouvelles. Mais si vous dépassez cette limite de vitesse, vous entrerez dans situations où des informations inexactes ou peu crédibles ont une plus grande taille de cascade », explique Jadbabaie.

Si les points de vue des utilisateurs du réseau se diversifient, il est moins probable qu’une information peu crédible se répande plus largement que la vérité.

Jadbabaie et ses collègues ont conçu les agents du réseau pour qu’ils se comportent de manière rationnelle, afin que le modèle capture mieux les actions que de vrais humains pourraient entreprendre s’ils veulent persuader les autres.

« Quelqu’un pourrait dire que ce n’est pas la raison pour laquelle les gens partagent, et c’est valable. Pourquoi les gens font certaines choses est un sujet de débat intense dans les sciences cognitives, la psychologie sociale, les neurosciences, l’économie et les sciences politiques », dit-il. « En fonction de vos hypothèses, vous finissez par obtenir des résultats différents. Mais j’ai l’impression que cette hypothèse selon laquelle la persuasion est le motif est une hypothèse naturelle. »

Leur modèle montre également comment les coûts peuvent être manipulés pour réduire la propagation de fausses informations. Les agents effectuent une analyse coûts-avantages et ne partageront pas les nouvelles si le coût de le faire l’emporte sur les avantages du partage.

« Nous ne faisons aucune prescription politique, mais une chose que ce travail suggère est que, peut-être, avoir un certain coût associé au partage des nouvelles n’est pas une mauvaise idée. La raison pour laquelle vous obtenez beaucoup de ces cascades est que le coût du partage des nouvelles est en fait très faible », dit-il.

Cette histoire est republiée avec l’aimable autorisation de MIT News (web.mit.edu/newsoffice/), un site populaire qui couvre l’actualité de la recherche, de l’innovation et de l’enseignement du MIT.