L'application Deepfake Zao de Zao montre que le téléchargement de vos photos est plus risqué que jamais

La dernière folie des applications photo peut vous faire ressembler à une star de cinéma. Zao utilise l'intelligence artificielle pour remplacer les visages de personnages de clips de films ou d'émissions télévisées par des images de toutes les personnes dont la photo est téléchargée sur l'application.

L'effet est étonnamment réaliste et montre à quel point cette technologie "deepfake" a évolué. Mais cela montre également à quel point il est risqué de rendre vos photos disponibles en ligne, accessibles à tout le monde, et de les utiliser de manière abusive, ainsi que les limites de la loi en la matière.

L'un des principaux problèmes est le droit légal des entreprises d'utiliser vos photos une fois que vous les avez téléchargées sur leurs applications ou leurs sites Web. Plusieurs médias ont rapporté que les termes et conditions de Zao lui accordaient initialement des droits "gratuits, irrévocables, permanents, transférables et relicables". Une réaction contre cela a maintenant poussé la société qui fabrique l'application, Momo Inc, à modifier ses conditions. Il indique qu'il n'utilisera pas de photos de tête ni de vidéos téléchargées par les utilisateurs, sauf pour améliorer l'application, et ne stockera pas d'images si les utilisateurs les suppriment de leurs comptes.

Mais de nombreuses autres applications photo, telles que FaceApp, qui change d’âge ou de sexe, conservent des droits similaires pour pouvoir utiliser le contenu téléchargé de manière efficace. Avec "une licence sous-licenciable transférable et sans restriction, mondiale, entièrement payante et perpétuelle, irrévocable,", FaceApp obtient essentiellement tous les droits du propriétaire d'origine sur la photo (sauf qu'elle ne dispose pas d'une licence exclusive. ).

Ces conditions ne sont pas différentes de celles d’applications encore plus populaires et classiques, comme Instagram, qui ouvre son flux de photos aux annonceurs. Instagram peut laisser d'autres sociétés exploiter les photos des utilisateurs sans aucune compensation et transmettre ce droit à un tiers sans autorisation supplémentaire.

Et, bien sûr, vous n'êtes même pas obligé de donner la permission à quelqu'un d'utiliser vos photos à cette fin. Une fois en ligne, vos images peuvent être diffusées à votre insu. Des études ont démontré que la compréhension des paramètres de confidentialité en ligne par les gens reste largement limitée. Si les paramètres de confidentialité ne sont pas suffisants, tout le monde peut accéder à vos photos.

Cela peut inclure des journalistes, qui peuvent republier des images à partir de médias sociaux sans violer nécessairement les lois sur la protection de la vie privée si les images sont déjà entrées dans le domaine public. Les photos sont toujours protégées par la loi sur le droit d'auteur, mais des images extraites de vidéos peuvent parfois être publiées en vertu de dispositions «d'utilisation équitable». »Il est également courant que les journalistes utilisent des captures d'écran de la page Web sur laquelle une image est publiée. automatiquement supprimer si un utilisateur a supprimé la photo d'origine.

Le développement de l'intelligence artificielle accroît encore les conséquences potentielles de l'abandon du contrôle de vos photos. La technologie deepfake utilisée par Zao et d'autres applications permet de créer des photos et des vidéos manipulées qui sont très difficiles à distinguer de la réalité.

Cela a déjà conduit à une pornographie profonde, qui consiste à superposer le visage d'une personne à des images explicites à l'aide d'une technique de synthèse basée sur l'IA. Ce type d'abus en ligne peut exposer les victimes à un chantage financier ou émotionnel et leur causer de graves préjudices psychologiques et émotionnels.

Recours juridique

Si vous trouvez que votre image a été utilisée d'une manière que vous n'avez jamais voulue, comment la loi peut-elle vous aider? S'il s'agit simplement d'une image utilisée dans les conditions que vous avez acceptées (et qu'aucune autre loi n'a été enfreinte), vous n'avez probablement pas beaucoup de recours. En vertu du "droit à l'oubli" de l'UE, vous pouvez demander que vos photos soient supprimées des serveurs d'une entreprise afin qu'elles ne puissent plus les utiliser, bien qu'il ne s'agisse pas d'un droit absolu.

Mais l'avènement des applications d'IA crée un autre problème. Bien qu'une entreprise puisse supprimer vos images de leurs serveurs, il peut s'avérer impossible de supprimer les données associées du logiciel AI ayant traité et appris à partir des images. Ces données peuvent être effectivement indisponibles mais elles ne peuvent pas être réellement "oubliées".

La loi semble être en décalage par rapport à l'évolution des images altérées par l'IA, notamment lorsqu'elles sont utilisées à des fins abusives et offensantes. Au Royaume-Uni, la récente loi sur la "pornographie de vengeance" ne s'applique qu'aux images sexuelles privées, qui peuvent ne pas inclure de photographies non privées transposées sur l'image sexuelle d'une autre personne.

Il pourrait y avoir d'autres options pour ceux qui sont victimes de la création de pornographie deepfake. Le fait que des personnes aient été reconnues coupables d'avoir publié des images d'autres personnes sur des sites pornographiques montre que la loi sur le harcèlement peut également être invoquée dans certaines circonstances. Il pourrait également être possible de faire des réclamations pour utilisation abusive d'informations privées, diffamation ou violation du droit d'auteur.

Si quelqu'un vous incite à donner accès à votre profil de réseau social et à prendre des photos pour générer de fausses images pornographiques, vous pouvez également engager la législation sur la protection des données. Mais on peut se demander si des actions en justice au civil, telles que la diffamation ou la vie privée, reconnaissent de manière appropriée le préjudice que l'on peut faire avec deepfakes de la même manière qu'une accusation pénale spécifique – et que cette accusation n'existe pas encore.

L'avènement des médias sociaux a fondamentalement remis en question nos attentes concernant la manière dont nous contrôlons nos photographies. La mosaïque actuelle de dispositions légales doit être revue pour prendre en compte les nouvelles méthodes de création et de partage des images sans le consentement du sujet, de manière à ce que ces questions soient traitées plus largement et aient un impact durable. Parallèlement à la mise en place d'un nouveau cadre réglementaire pour la sécurité en ligne, les utilisateurs doivent être sensibilisés à l'évaluation des risques liés aux activités en ligne et à la navigation responsable dans les espaces en ligne.

Cet article est republié de The Conversation sous une licence Creative Commons. Lire l'article original.