Les citoyens numériques informés sont la meilleure défense contre la manipulation en ligne

Il y a plus d'une décennie, Clay Shirky, analyste Internet et spécialiste des nouveaux médias, a déclaré: "La seule véritable façon de mettre fin au spam est de mettre fin aux communications par courrier électronique." La fermeture d'Internet sera-t-elle le seul moyen de mettre fin à la propagande contrefaite en 2020?

Aujourd'hui, n'importe qui peut créer ses propres fausses nouvelles et les diffuser. La propagande en ligne est plus trompeuse et manipulatrice que jamais.

Deepfakes, une forme spécifique de désinformation qui utilise des algorithmes d'apprentissage automatique pour créer de l'audio et de la vidéo de vraies personnes disant et faisant des choses qu'elles n'ont jamais dites ou faites, évoluent rapidement vers une distinction indiscernable avec la réalité.

Détecter la désinformation alimentée par des utilisations contraires à l'éthique des médias numériques, des mégadonnées et de l'intelligence artificielle, et leur diffusion sur les réseaux sociaux, est de la plus grande urgence.

Les pays doivent éduquer et équiper leurs citoyens. Les éducateurs sont également confrontés à de réels défis pour aider les jeunes à développer des yeux d'aigle pour les deepfakes. Si les jeunes manquent de confiance pour trouver et évaluer des informations publiques fiables, leur motivation à participer ou à s'appuyer sur nos structures démocratiques sera de plus en plus menacée.

Saper la démocratie

Il est maintenant possible de générer une vidéo d'une personne qui parle et fait des expressions ordinaires à partir de quelques-uns, voire d'une seule image du visage de cette personne. Les applications d'échange de visage telles que FaceApp et les applications de synchronisation labiale telles que Dubsmash sont des exemples d'outils de base profonds et conviviaux accessibles que les gens peuvent utiliser sans aucune programmation ni arrière-plan de codage.

Bien que l'utilisation de cette technologie puisse ravir ou étonner les téléspectateurs pour ses représentations d'experts dans les industries du divertissement et des jeux, le visage sinistre des contrefaçons est une menace sérieuse pour la sécurité des gens et la démocratie.

Le potentiel de Deepfakes à être utilisé comme une arme augmente de façon alarmante et de nombreux dommages peuvent être anticipés en fonction de la capacité des gens à créer du contenu explicite sans le consentement des autres.

On s'attend à ce que les gens utilisent des contrefaçons pour cyberintimider, détruire des réputations, faire du chantage, propager des discours de haine, inciter à la violence, perturber les processus démocratiques, diffuser la désinformation à des publics ciblés et commettre des cybercrimes et des fraudes.

Détection Deepfake

Les acteurs clés se sont aventurés à trouver une réponse aux menaces de contrefaçon.

Facebook a annoncé le 6 janvier qu'il "renforcera sa politique envers les vidéos manipulées trompeuses qui ont été identifiées comme des deepfakes". La société affirme qu'elle supprimera les médias manipulés qui ont été "édités ou synthétisés – au-delà des ajustements pour la clarté ou la qualité – d'une manière qui n'est pas apparente pour une personne moyenne" et si les médias sont "le produit de l'intelligence artificielle ou de l'apprentissage automatique qui fusionne , remplace ou superpose du contenu sur une vidéo, ce qui la rend authentique. "

La nouvelle fait suite au «défi profond» de Facebook, qui vise à concevoir de nouveaux outils qui détectent le contenu multimédia manipulé. Le défi est soutenu par Microsoft, un consortium sur l'intelligence artificielle et un fonds de 10 millions de dollars américains.

Fin octobre, le PDG de Facebook, Mark Zuckerberg, a témoigné lors d'une audience du comité des services financiers de la Chambre des représentants des États-Unis à Washington sur les plans de crypto-monnaie de la société, où Zuckerberg a été confronté à des questions sur ce que la société fait pour prévenir les contrefaçons.

La Defense Advanced Research Projects Agency (DARPA) du département américain de la Défense travaille sur l'utilisation de types d'algorithmes spécifiques pour évaluer l'intégrité des supports visuels numériques.

Certains chercheurs discutent de l'utilisation de réseaux de neurones convolutifs – un ensemble d'algorithmes qui reproduisent de manière lâche le cerveau humain, conçus pour analyser l'imagerie visuelle et reconnaître les modèles – pour détecter les incohérences entre les multiples trames dans les deepfakes. D'autres proposent des algorithmes pour détecter des visages entièrement générés.

Hani Farid, un expert en criminalistique numérique et l'une des principales autorités sur la détection de fausses photos, et son étudiant Shruti Agarwal à l'Université de Californie, Berkeley développent un logiciel qui utilise les caractéristiques subtiles de la façon dont une personne parle pour la distinguer de la personne fausse version.

Farid collabore également très étroitement avec le pionnier du deepfake Hao Li pour faire face au problème de la "déception de plus en plus transparente".

Nation YouTube

Et si nous nous réveillions demain avec un deepfake de Greta Thunberg, Temps Personnalité de l'année 2019 du magazine, accusant une organisation spécifique d'être le principal catalyseur du changement climatique? Des jeunes seraient-ils sceptiques quant à l'information?

Nous vivons dans une ère numérique où de nombreuses personnes s'attendent à ce que chaque réponse soit trouvée via une recherche Google, une vidéo YouTube ou Vimeo ou une conversation TED. Près de 100% des jeunes Canadiens âgés de 15 à 24 ans utilisent quotidiennement Internet. La plupart suivent l'actualité et l'actualité via des plateformes de réseaux sociaux telles que Facebook, Twitter et Instagram.

En 2017, 90% des Canadiens de 18 à 24 ans étaient des utilisateurs actifs de YouTube.

Selon Statista, une entreprise qui fournit des données sur le marché et les consommateurs, "en mai 2019, plus de 500 heures de vidéo ont été téléchargées sur YouTube chaque minute", ce qui équivaut à "environ 30 000 heures de contenu nouvellement téléchargé par heure". La société rapporte qu'entre 2014 et 2019 "le nombre d'heures de contenu vidéo téléchargées toutes les 60 secondes a augmenté d'environ 40%".

De nombreux utilisateurs de médias sociaux âgés de 18 à 24 ans reconnaissent les agendas et les algorithmes derrière les messages qui apparaissent sur leurs murs. Dans mon doctorat. recherche de thèse, j'ai exploré comment 42 participants de ce groupe d'âge comprenaient les réfugiés dans un contexte où les idées sur les réfugiés étaient profondément influencées par la propagande des médias sociaux, les fausses nouvelles et la désinformation. J'ai trouvé que beaucoup aspiraient à devenir des influenceurs et à perturber les commentaires publics et les messages générés par les médias d'une manière qui résonne avec le plaidoyer ou les campagnes militantes menées aujourd'hui par les jeunes.

Le phénomène du deepfake est un nouveau défi critique auquel ils, ainsi que tous les participants de nos démocraties, sont confrontés.

Éducation à la résilience

Au Canada, Journalists for Human Rights a annoncé un nouveau programme, financé par Héritage Canada, pour former les journalistes et améliorer la «préparation des citoyens à la manipulation et à la désinformation en ligne».

Les éducateurs peuvent jouer un rôle clé en encourageant les agences de jeunesse à détecter les contrefaçons et à réduire leur influence. L'un des défis consiste à faire en sorte que les jeunes acquièrent des compétences essentielles en matière d'éducation aux médias pendant qu'ils continuent d'explorer des ressources précieuses en ligne et de renforcer leurs capacités et leurs connaissances pour participer aux structures démocratiques.

En suivant les étapes que j'ai identifiées dans le modèle «Préparez-vous à agir contre la propagande des médias sociaux» – en commençant par expliquer les positions sur une question controversée ciblée par la propagande des médias sociaux – les éducateurs peuvent aider les jeunes à discuter de la façon dont ils perçoivent et reconnaissent les deepfakes. Ils peuvent explorer les origines du contenu, qui il cible, la réaction qu'il essaie de réaliser et qui se cache derrière.

Ils peuvent également discuter du rôle et de la responsabilité des jeunes de réagir et de résister à la désinformation et aux stratégies numériques potentielles à poursuivre dans ce processus. Une génération bien équipée de citoyens numériques pourrait être notre meilleur pari.

Cet article est republié de The Conversation sous une licence Creative Commons. Lisez l'article original.