Twitter prend des mesures pour limiter le contenu manipulé, y compris les «deepfakes»

Twitter a dévoilé mardi un plan visant à freiner la diffusion de contenu manipulé, y compris des vidéos "deepfake", dans le cadre d'une lutte contre la désinformation qui pourrait entraîner des violences ou d'autres préjudices.

La politique a été annoncée après que Twitter ait demandé l'année dernière des commentaires sur les moyens de réduire les "médias synthétiques et manipulés" sur la plateforme en ligne qui pourraient tromper les gens pendant les campagnes électorales ou provoquer des violences ou des dommages physiques.

Twitter, qui, avec d'autres plateformes sociales, a du mal à répondre aux préoccupations concernant la désinformation, a déclaré que sa nouvelle politique appelle à un mélange d '"étiquettes" d'avertissement pour les tweets qui incluent des images ou des vidéos manipulées, et à la suppression des tweets.

Cette décision intervient au milieu des inquiétudes croissantes concernant les vidéos «profondes» modifiées à l'aide de l'intelligence artificielle, ainsi que d'autres types de manipulation pour tromper les utilisateurs des médias sociaux.

Le vice-président de Twitter de la confiance et de la sécurité, Del Harvey, a déclaré que la nouvelle politique ne visait pas seulement les contrefaçons mais aussi d'autres types de manipulation, parfois décrits comme des «contrefaçons peu profondes» ou des «contrefaçons bon marché».

"Ce n'est pas une règle profonde", a-t-elle déclaré.

"Nous voulons répondre à tout incident où les médias ont été modifiés ou fabriqués."

La décision d'inclure une étiquette ou de supprimer le contenu dépendra de "la probabilité et de la gravité des dommages qui pourraient en résulter", a déclaré Harvey lors d'un appel avec des journalistes.

Twitter a déclaré dans un article de blog qu'il commencerait à appliquer la nouvelle politique le 5 mars, alertant les utilisateurs de photos ou de vidéos manipulées, et parfois les compensant avec des liens vers plus d'informations sur les sujets.

"Vous ne pouvez pas partager de manière trompeuse des médias synthétiques ou manipulés qui sont susceptibles de causer des dommages", a déclaré Ashita Achuthan, chef de produit du groupe et chef de l'intégrité du site, Yoel Roth, dans le blog.

"En outre, nous pouvons étiqueter des tweets contenant des médias synthétiques et manipulés pour aider les gens à comprendre l'authenticité des médias et pour fournir un contexte supplémentaire."

Politiciens inclus

La nouvelle règle s'appliquera aux politiciens et à leurs campagnes, selon Harvey.

"Si les médias sont modifiés ou fabriqués, quelle que soit la personne, cette politique continuera de s'appliquer", a-t-elle déclaré.

Selon la politique, par exemple, des vidéos trafiquées de l'ancien vice-président américain Joe Biden et du président démocrate de la Chambre des représentants Nancy Pelosi qui ont provoqué de récentes controverses sur les médias sociaux violeraient la nouvelle règle, selon des dirigeants de Twitter.

"Que vous utilisiez des outils avancés d'apprentissage automatique ou que vous utilisiez une application à 99 cents pour ralentir les vidéos sur votre téléphone, nos règles s'appliquent au contenu et non à la manière dont le résultat a été obtenu", a déclaré Roth.

"Le tweet final entraîne-t-il de la confusion ou des malentendus ou entraîne-t-il une tentative délibérée d'induire les gens en erreur? Telle est la question."

L'annonce intervient un jour après que YouTube a déclaré qu'il supprimerait les vidéos liées aux élections qui sont "manipulées ou trafiquées" pour induire les électeurs en erreur, au milieu de préoccupations accrues sur les efforts visant à diffuser des informations erronées qui pourraient influencer les élections dans le monde.

Facebook, qui a ses propres politiques sur la désinformation, a déclaré en janvier qu'il interdirait les vidéos deepfake tout en autorisant les clips fortement édités tant qu'ils sont parodiques ou satiriques.

Filtrage des contrefaçons

Les facteurs que Twitter va peser pour décider quel contenu est manipulé de manière trompeuse ou fabriqué de manière pure et simple incluront la quantité de contenu modifié; si l'audio a été doublé ou supprimé, et si les images sont des simulations.

Il y avait également sur la liste des contenus interdits des menaces à la vie privée ou à la liberté d'expression sous la forme de «traque ou attention indésirable et obsessionnelle; contenu ciblé qui comprend des tropes, des épithètes ou du matériel qui vise à faire taire quelqu'un; suppression ou intimidation des électeurs».

Roth a déclaré que Twitter s'efforcerait d'être "proactif" dans la politique "visant à réduire le fardeau des personnes à nous signaler".

En plus d'afficher des étiquettes d'avertissement sur les images trafiquées avant qu'elles ne soient «aimées» ou partagées, Twitter l'empêchera d'être incluse dans le contenu recommandé et fournira généralement des informations supplémentaires destinées à contrer la perception erronée.

Twitter a déclaré que la nouvelle règle était basée sur une enquête auprès des utilisateurs américains ainsi que sur les commentaires de personnes du monde entier qui ont fait sonner les tweets.

À l'échelle mondiale, plus de 70% des utilisateurs de Twitter qui ont exprimé des opinions ont déclaré qu'il ne serait pas acceptable de ne prendre aucune mesure sur les tweets trafiqués de manière abusive, selon Achuthan et Roth.

© 2020 AFP