Des chercheurs développent un système d'alerte précoce pour lutter contre la désinformation en ligne

Des chercheurs de l'Université de Notre Dame utilisent l'intelligence artificielle pour développer un système d'alerte précoce qui identifiera les images manipulées, les vidéos deepfake et la désinformation en ligne. Le projet est un effort pour lutter contre la montée des campagnes coordonnées sur les réseaux sociaux pour inciter à la violence, semer la discorde et menacer l'intégrité des élections démocratiques.

Le système évolutif et automatisé utilise la récupération d'images basée sur le contenu et applique des techniques basées sur la vision par ordinateur pour éliminer les mèmes politiques de plusieurs réseaux sociaux.

"Les mèmes sont faciles à créer et encore plus faciles à partager", a déclaré Tim Weninger, professeur agrégé au Département d'informatique et d'ingénierie de Notre Dame. "En ce qui concerne les mèmes politiques, ceux-ci peuvent être utilisés pour aider à sortir le vote, mais ils peuvent également être utilisés pour diffuser des informations inexactes et causer du tort."

Weninger, avec Walter Scheirer, professeur adjoint au Département d'informatique et d'ingénierie de Notre Dame, et des membres de l'équipe de recherche ont collecté plus de deux millions d'images et de contenu de diverses sources sur Twitter et Instagram en rapport avec les élections générales de 2019 en Indonésie. Les résultats de cette élection, au cours de laquelle le président centriste de gauche a obtenu un vote majoritaire sur le candidat conservateur populiste, a déclenché une vague de protestations violentes qui ont fait huit morts et des centaines de blessés. Leur étude a trouvé des campagnes à la fois spontanées et coordonnées avec l'intention d'influencer les élections et d'inciter à la violence.

Ces campagnes consistaient en des images manipulées montrant de fausses allégations et de fausses déclarations d'incidents, des logos appartenant à des sources d'information légitimes étant utilisés sur des reportages fabriqués et des mèmes créés dans l'intention de provoquer des citoyens et des partisans des deux parties.

Alors que les ramifications de telles campagnes étaient évidentes dans le cas des élections générales indonésiennes, la menace pour des élections démocratiques en Occident existe déjà. L'équipe de recherche de Notre Dame, composée d'experts en criminalistique numérique et de spécialistes des études sur la paix, a déclaré qu'elle mettait au point un système pour signaler les contenus manipulés afin de prévenir la violence et pour avertir les journalistes ou les observateurs des élections des menaces potentielles en temps réel.

Le système, qui est en phase de recherche et développement, serait évolutif pour fournir aux utilisateurs des options sur mesure pour la surveillance du contenu. Bien que de nombreux défis restent à relever, tels que la détermination d'un moyen optimal pour augmenter l'ingestion et le traitement des données pour une rotation rapide, Scheirer a déclaré que le système est actuellement évalué pour la transition vers une utilisation opérationnelle.

Le développement n'est pas trop en retard en ce qui concerne la possibilité de surveiller les élections générales de 2020 aux États-Unis, a-t-il déclaré, et leur équipe recueille déjà des données pertinentes.

"L'ère de la désinformation est arrivée", a déclaré Scheirer. "Un remplacement profond d'acteurs dans un film populaire peut sembler amusant et léger, mais imaginez une vidéo ou un mème créé dans le seul but de dresser un leader mondial contre un autre – en disant des mots qu'ils n'ont pas réellement dit. Imaginez à quelle vitesse ce contenu pourrait être partagées et réparties sur plusieurs plates-formes. Considérez les conséquences de ces actions. "