Des chercheurs développent un système d'alerte précoce pour lutter contre la désinformation en ligne

0
12

Crédits: CC0 Public Domain

Des chercheurs de l'Université de Notre Dame utilisent l'intelligence artificielle pour développer un système d'alerte précoce qui identifiera les images manipulées, les vidéos deepfake et la désinformation en ligne. Le projet est un effort pour lutter contre la montée des campagnes coordonnées sur les réseaux sociaux pour inciter à la violence, semer la discorde et menacer l'intégrité des élections démocratiques.

Le système évolutif et automatisé utilise la récupération d'images basée sur le contenu et applique des techniques basées sur la vision par ordinateur pour éliminer les mèmes politiques de plusieurs réseaux sociaux.

"Les mèmes sont faciles à créer et encore plus faciles à partager", a déclaré Tim Weninger, professeur agrégé au Département d'informatique et d'ingénierie de Notre Dame. "En ce qui concerne les mèmes politiques, ceux-ci peuvent être utilisés pour aider à sortir le vote, mais ils peuvent également être utilisés pour diffuser des informations inexactes et causer du tort."

Weninger, avec Walter Scheirer, professeur adjoint au Département d'informatique et d'ingénierie de Notre Dame, et des membres de l'équipe de recherche ont collecté plus de deux millions d'images et de contenu de diverses sources sur Twitter et Instagram en rapport avec les élections générales de 2019 en Indonésie. Les résultats de cette élection, au cours de laquelle le président centriste de gauche a obtenu un vote majoritaire sur le candidat conservateur populiste, a déclenché une vague de protestations violentes qui ont fait huit morts et des centaines de blessés. Leur étude a trouvé des campagnes à la fois spontanées et coordonnées avec l'intention d'influencer les élections et d'inciter à la violence.

Ces campagnes consistaient en des images manipulées montrant de fausses allégations et de fausses déclarations d'incidents, des logos appartenant à des sources d'information légitimes étant utilisés sur des reportages fabriqués et des mèmes créés dans l'intention de provoquer des citoyens et des partisans des deux parties.

Alors que les ramifications de telles campagnes étaient évidentes dans le cas des élections générales indonésiennes, la menace pour des élections démocratiques en Occident existe déjà. L'équipe de recherche de Notre Dame, composée d'experts en criminalistique numérique et de spécialistes des études sur la paix, a déclaré qu'elle mettait au point un système pour signaler les contenus manipulés afin de prévenir la violence et pour avertir les journalistes ou les observateurs des élections des menaces potentielles en temps réel.

Le système, qui est en phase de recherche et développement, serait évolutif pour fournir aux utilisateurs des options sur mesure pour la surveillance du contenu. Bien que de nombreux défis restent à relever, tels que la détermination d'un moyen optimal pour augmenter l'ingestion et le traitement des données pour une rotation rapide, Scheirer a déclaré que le système est actuellement évalué pour la transition vers une utilisation opérationnelle.

Le développement n'est pas trop en retard en ce qui concerne la possibilité de surveiller les élections générales de 2020 aux États-Unis, a-t-il déclaré, et leur équipe recueille déjà des données pertinentes.

"L'ère de la désinformation est arrivée", a déclaré Scheirer. "Un remplacement profond d'acteurs dans un film populaire peut sembler amusant et léger, mais imaginez une vidéo ou un mème créé dans le seul but de dresser un leader mondial contre un autre – en disant des mots qu'ils n'ont pas réellement dit. Imaginez à quelle vitesse ce contenu pourrait être partagées et réparties sur plusieurs plates-formes. Considérez les conséquences de ces actions. "


Les réseaux sociaux sur pied alors que les campagnes numériques développent leurs tactiques


Plus d'information:
Michael Yankoski et al, Un système d'alerte précoce de l'IA pour surveiller la désinformation en ligne, arrêter la violence et protéger les élections, Bulletin des scientifiques atomiques (2020). DOI: 10.1080 / 00963402.2020.1728976

Fourni par
                                                                                                    Université de Notre Dame


Citation:
                                                 Des chercheurs mettent au point un système d'alerte précoce pour lutter contre la désinformation en ligne (2020, 24 mars)
                                                 récupéré le 25 mars 2020
                                                 depuis https://techxplore.com/news/2020-03-early-disinformation-online.html

Ce document est soumis au droit d'auteur. Hormis toute utilisation équitable aux fins d'études ou de recherches privées, aucun
                                            une partie peut être reproduite sans autorisation écrite. Le contenu est fourni seulement pour information.

Les offres de produits Hi-tech en rapport avec cet article

Laisser un commentaire