1 personne sur 3 qui est au courant des deepfakes déclare les avoir partagées par inadvertance sur les réseaux sociaux

Une étude de l’Université technologique de Nanyang, Singapour (NTU Singapour) a révélé que certains Singapouriens ont signalé que, bien qu’ils soient conscients de l’existence de «  deepfakes  » en général, ils croient avoir diffusé du contenu deepfake sur les réseaux sociaux dont ils ont découvert plus tard qu’il s’agissait d’un canular.

Deepfakes, un portemanteau de «  deep learning  » et de «  fake  », sont de fausses vidéos ultraréalistes réalisées avec un logiciel d’intelligence artificielle (IA) pour illustrer des personnes faisant des choses qu’elles n’ont jamais faites – pas seulement les ralentir ou changer le ton de leur voix, mais les faisant aussi sembler dire des choses qu’ils n’ont jamais dites du tout.

Dans une enquête menée auprès de 1231 Singapouriens menée par le professeur adjoint Saifuddin Ahmed de NTU Singapore, 54% des personnes interrogées ont déclaré être au courant des deepfakes, dont un sur trois a déclaré partager du contenu sur les réseaux sociaux qu’ils ont appris par la suite comme un deepfake.

L’étude a également révélé que plus d’un sur cinq de ceux qui sont au courant des deepfakes disent qu’ils rencontrent régulièrement des deepfakes en ligne.

Les résultats de l’enquête, rapportés dans la revue Télématique et informatique en octobre, faites suite au nombre croissant de vidéos deepfake identifiées en ligne. Au cours des six mois précédant juin 2020, Sensity, une entreprise de technologie de détection de deepfake, estime que les vidéos deepfake identifiées en ligne ont doublé pour atteindre 49 081.

Les deepfakes qui sont devenus viraux incluent un avec l’ancien président Barack Obama utilisant un juron pour décrire le président Donald Trump en 2018, et une autre année dernière du fondateur de Facebook, Mark Zuckerberg, prétendant contrôler l’avenir, grâce à des données volées.

Le professeur adjoint Saifuddin de la Wee Kim Wee School of Communication and Information de NTU a déclaré: «Les fausses nouvelles font référence à de fausses informations publiées sous prétexte d’être des informations authentiques pour tromper les gens, et les deepfakes sont une nouvelle forme bien plus insidieuse de fausses nouvelles. Dans certains pays, nous voyons déjà comment ces deepfakes peuvent être utilisés pour créer de la pornographie non consensuelle, inciter à la peur et à la violence et influencer la méfiance civique. À mesure que la technologie d’IA derrière la création de deepfakes évolue, il sera encore plus difficile de discerner les faits. fiction. »

« Alors que les entreprises technologiques comme Facebook, Twitter et Google ont commencé à étiqueter ce qu’elles ont identifié comme du contenu en ligne manipulé comme deepfakes, davantage d’efforts seront nécessaires pour éduquer les citoyens à nier efficacement ce contenu. »

Les Américains sont plus susceptibles que les Singapouriens de partager des deepfakes

L’étude a comparé les résultats de la compréhension des Singapouriens des deepfakes à un groupe démographique et à un nombre de répondants similaires aux États-Unis.

Les répondants aux États-Unis étaient plus conscients des deepfakes (61% aux États-Unis contre 54% en SG). Ils ont dit qu’ils étaient également plus concernés et fréquemment exposés aux deepfakes. Un plus grand nombre de personnes ont déclaré que le partage de contenu dont elles avaient appris plus tard était un faux aux États-Unis qu’à Singapour (39% aux États-Unis contre 33% en SG).

Asst Prof Saifuddin a déclaré: «Ces différences ne sont pas surprenantes, étant donné la pertinence et le débat public plus répandus autour des deepfakes aux États-Unis. Plus récemment, une augmentation du nombre de deepfakes, y compris ceux du président Donald Trump, a suscité des inquiétudes concernant les potentiel de cette forme de désinformation.

« D’un autre côté, Singapour n’a pas été témoin des impacts directs des deepfakes, et le gouvernement a introduit la Loi sur la protection contre les faussetés en ligne et la manipulation (POFMA) pour limiter la menace posée par la désinformation, y compris les deepfakes. »

Mais la législation à elle seule ne suffit pas, a-t-il ajouté, citant une enquête réalisée en 2018 par l’agence mondiale indépendante d’études de marché Ipsos, qui a révélé que si quatre Singapouriens sur cinq déclarent pouvoir repérer en toute confiance les fausses informations, plus de 90% en ont identifié par erreur au moins une sur cinq. les faux titres comme étant réels.

«La législation gouvernementale visant à empêcher la menace omniprésente de la désinformation a également été utile, mais nous devons continuer à améliorer l’éducation aux médias numériques à l’avenir, en particulier pour ceux qui sont moins capables de discerner les faits de la désinformation», a déclaré le professeur Asst Saifuddin, dont les intérêts de recherche inclure les médias sociaux et l’opinion publique.

L’étude NTU sur la sensibilisation aux faux-fake a été financée par l’Université et le ministère de l’Éducation de Singapour, et les résultats font partie d’une étude à plus long terme qui examine la confiance des citoyens dans la technologie de l’IA.