Le «défi Deepfake» vise à trouver des outils pour lutter contre la manipulation

Des entreprises technologiques et des universitaires se sont associés pour lancer un "défi de taille" visant à améliorer les outils permettant de détecter les vidéos et autres médias manipulés par l'intelligence artificielle.

L'initiative annoncée jeudi comprend 10 millions de dollars de Facebook et vise à lutter contre ce qui est perçu comme une menace majeure pour l'intégrité de l'information en ligne.

L’aide est appuyée par Microsoft et le Partenariat sur l’IA, soutenu par l’industrie, et inclut des universitaires du Massachusetts Institute of Technology, de la Cornell University, de l’Université d’Oxford, de l’Université de Californie à Berkeley, de l’Université du Maryland et de l’Université d’Albany.

Cela représente un vaste effort pour lutter contre la diffusion de vidéo ou de son manipulés dans le cadre d'une campagne de désinformation.

"L'objectif du défi est de produire une technologie que tout le monde peut utiliser pour mieux détecter le moment où l'IA a été utilisée pour modifier une vidéo afin d'induire le spectateur en erreur", a déclaré Mike Schroepfer, responsable technique de Facebook.

Schroepfer a déclaré que les techniques deepfake, qui présentent des vidéos réalistes générées par l'IA de personnes faisant et fictant des choses fictives, "ont des implications importantes pour déterminer la légitimité des informations présentées en ligne. Pourtant, le secteur ne dispose pas d'un ensemble de données ou de points de repère permettant de les détecter. "

Le défi est le premier projet d’un comité sur l’intelligence artificielle et l’intégrité des médias créé par le Partenariat sur l’intelligence artificielle, un groupe dont la mission est de promouvoir les utilisations bénéfiques de l’intelligence artificielle et qui est soutenu par Apple, Amazon, IBM et d’autres sociétés de technologie et organisations non gouvernementales. organisations.

Terah Lyons, directrice exécutive du Partenariat, a déclaré que le nouveau projet s'inscrivait dans un effort visant à enrayer les contrefaçons générées par l'IA, qui "ont des implications globales importantes sur la légitimité de l'information en ligne, la qualité du discours public, la sauvegarde des droits de l'homme. les libertés civiles et la santé des institutions démocratiques ".

Facebook a déclaré qu'il offrait des fonds pour des collaborations de recherche et des prix pour le défi et qu'il participerait également au concours, mais n'accepterait aucun des prix en argent.

Philip Torr, professeur à Oxford, l'un des universitaires participant à la conférence, a déclaré que de nouveaux outils sont "nécessaires de toute urgence pour détecter ces types de supports manipulés.

"Les médias manipulés diffusés sur Internet pour créer de fausses théories du complot et manipuler les gens à des fins politiques sont en train de devenir un enjeu d'importance mondiale, car ils constituent une menace fondamentale pour la démocratie", a déclaré Torr dans un communiqué.

© 2019 AFP