Déduire ce que nous partageons par la façon dont nous partageons

Il est de plus en plus difficile pour les gens de déchiffrer des informations réelles à partir de fausses informations en ligne. Mais les schémas de diffusion des informations sur Internet – par exemple, d’un utilisateur à l’autre sur un réseau de médias sociaux – peuvent indiquer si les informations sont authentiques ou non.

Ce sont les résultats d’une nouvelle étude menée par des chercheurs du CyLab de l’Université Carnegie Mellon.

«Le défi de la désinformation est que l’intelligence artificielle a progressé à un niveau où les robots Twitter et les deepfakes confondent la capacité des humains à déchiffrer la vérité de la fiction», déclare Conrad Tucker de CyLab, professeur de génie mécanique et chercheur principal de la nouvelle étude. « Plutôt que de nous fier aux humains pour déterminer si quelque chose est authentique ou non, nous voulions voir si le réseau sur lequel les informations sont diffusées pouvait être utilisé pour déterminer son authenticité. »

L’étude a été publiée dans l’édition de la semaine dernière de Rapports scientifiques. Le doctorat de Tucker L’étudiant, Sakthi Prakash, était le premier auteur de l’étude.

«Cette étude a été longue à venir», dit Tucker.

Pour étudier comment des informations réelles et fausses circulent à travers un réseau social, étudier de vraies données Twitter peut sembler le choix évident. Mais ce dont les chercheurs avaient besoin, c’était de données capturant comment les gens se connectaient, partageaient et aimaient le contenu tout au long de l’existence d’un réseau de médias sociaux.

«Si vous regardez Twitter en ce moment, vous regarderiez à un instant dans le temps où les gens se sont déjà connectés», dit Tucker. « Nous voulions regarder au début – au début d’un réseau – des données difficiles à atteindre si vous n’êtes pas le propriétaire ou le créateur de la plate-forme. »

En raison de ces contraintes, les chercheurs ont construit un réseau de médias sociaux de type Twitter et ont demandé aux participants à l’étude de l’utiliser pendant deux jours. Les chercheurs ont peuplé le réseau social de 20 vidéos authentiques et de 20 fausses vidéos collectées à partir de sources vérifiées de chacune, mais les utilisateurs n’étaient pas conscients de l’authenticité des vidéos. Ensuite, en 48 heures, 620 participants se sont joints, ont commencé à se suivre, ont partagé et aimé les vidéos sur ce réseau de médias sociaux simulé.

Pour encourager la participation, les participants à l’étude ont été incités: l’utilisateur ayant le plus d’abonnés à la fin de l’étude de deux jours a reçu un prix en espèces de 100 $. Cependant, tous les utilisateurs ont reçu un score de crédibilité que tout le monde sur le réseau pouvait voir. Si les utilisateurs partageaient trop de contenu que les chercheurs savaient être faux, leur score de crédibilité en souffrirait.

Ce réseau de médias sociaux simulé semblable à Twitter est le premier du genre, dit Tucker, et est open-source pour que d’autres chercheurs l’utilisent à leurs propres fins.

«Notre objectif était d’établir une relation entre la crédibilité de l’utilisateur, les likes des publications et la probabilité qu’un utilisateur établisse une connexion avec un autre utilisateur», déclare Tucker.

Il s’avère que cette relation s’avère utile pour déduire si des informations erronées sont partagées ou non sur un réseau de médias sociaux particulier, même si le contenu lui-même partagé est inconnu. En d’autres termes, les modèles dans lesquels les informations sont partagées sur un réseau – avec qui elles sont partagées, le nombre de likes qu’elles reçoivent, etc. – peuvent être utilisées pour déduire l’authenticité des informations.

«Maintenant, plutôt que de compter sur les humains eux-mêmes pour identifier la désinformation, nous pourrons peut-être nous fier au réseau des humains, même si nous ne savons pas ce qu’ils partagent», dit Tucker. «En examinant la manière dont les informations sont partagées, nous pouvons commencer à déduire ce qui est partagé.

«Au fur et à mesure que le monde évolue vers davantage de systèmes cyber-physiques, il sera essentiel de quantifier la véracité des informations», déclare Tucker.

Étant donné que les systèmes mécaniques actuels sont de plus en plus connectés, Tucker souligne l’opportunité pour les chercheurs en génie mécanique de jouer un rôle essentiel dans la compréhension de l’impact des systèmes qu’ils créent sur les personnes, les lieux et les politiques.

«Nous avions des systèmes mécaniques qui ont évolué vers l’électromécanique, puis vers des systèmes qui collectent des données», explique Tucker. « Puisque les gens font partie de ce réseau, vous avez des gens qui interagissent avec ces systèmes, et vous en avez une composante de sciences sociales, et nous devons comprendre ces vulnérabilités en ce qui concerne nos systèmes mécaniques et d’ingénierie. »