Facebook interdit les deepfakes dans la lutte contre la manipulation en ligne

Facebook dit qu'il interdit les vidéos "profondes", les clips faux mais réalistes créés avec l'intelligence artificielle et des outils sophistiqués, car il intensifie ses efforts pour lutter contre la manipulation en ligne.

Le réseau social a déclaré lundi soir qu'il renforçait ses politiques pour supprimer les vidéos éditées ou synthétisées d'une manière qui n'est pas apparente à la personne moyenne, et qui pourrait inciter quelqu'un à penser que le sujet de la vidéo a dit quelque chose qu'il n'a pas réellement dit .

Créés par l'intelligence artificielle ou l'apprentissage automatique, les deepfakes combinent ou remplacent du contenu pour créer des images qui peuvent être presque impossibles à dire et qui ne sont pas authentiques.

"Bien que ces vidéos soient encore rares sur Internet, elles représentent un défi important pour notre industrie et notre société à mesure que leur utilisation augmente", a déclaré la vice-présidente de la gestion des politiques mondiales de Facebook, Monika Bickert, dans un article de blog.

Cependant, elle a déclaré que les nouvelles règles n'incluront pas la parodie ou la satire, ni les clips édités juste pour changer l'ordre des mots. Les exceptions soulignent l'équilibre entre Facebook et d'autres services de médias sociaux dans leur lutte pour arrêter la propagation de la désinformation en ligne et des "fausses nouvelles" tout en respectant la liberté d'expression et en repoussant les allégations de censure.

La société de technologie américaine s'est débattue avec la manière de gérer la montée des deepfakes après avoir été critiquée l'année dernière pour avoir refusé de retirer une vidéo trafiquée de la présidente de la Chambre, Nancy Pelosi, qui avait injurié ses propos, visionnée plus de 3 millions de fois. Les experts ont déclaré que le clip grossièrement édité était plus un "faux pas cher" qu'un deepfake.

Ensuite, deux artistes ont publié de fausses images du PDG de Facebook, Mark Zuckerberg, le montrant se réjouissant de sa domination du monde par un seul homme. Facebook a également laissé ce clip en ligne. La société a déclaré à l'époque qu'aucune vidéo ne violait ses politiques.

Le problème des vidéos modifiées devient de plus en plus urgent alors que les experts et les législateurs tentent de comprendre comment empêcher les deepfakes d'être utilisés pour interférer avec les élections présidentielles américaines en novembre.

Facebook a déclaré que toutes les vidéos qui ne respectent pas les normes de suppression existantes peuvent toujours être examinées par des vérificateurs de faits tiers indépendants. Ceux qui sont jugés faux seront signalés comme tels à toute personne essayant de les partager ou de les voir, ce qui, selon Bickert, était une meilleure approche que de les supprimer.

"Si nous supprimions simplement toutes les vidéos manipulées signalées comme fausses par les vérificateurs des faits, les vidéos seraient toujours disponibles ailleurs sur Internet ou l'écosystème des médias sociaux", a déclaré Bickert. "En les laissant de côté et en les qualifiant de faux, nous fournissons aux gens des informations et un contexte importants."

© 2020 The Associated Press. Tous les droits sont réservés.