L’IA et les « deepfakes » présentent de nouveaux risques pour les relations sur Internet

Les personnes à la recherche de relations authentiques sur Internet devront devenir beaucoup plus avisées en ce qui concerne les nouvelles technologies qui les exposent à la fraude romanesque à un « niveau de risque entièrement nouveau », prévient le professeur associé Cassandra Cross, chercheur en fraude sur Internet à la QUT.

Les escroqueries à l’amour, qui ont rapporté 131 millions de dollars aux Australiens rien qu’en 2020, risquent d’être de plus en plus difficiles à détecter, car les fraudeurs utilisent de plus en plus l’IA (intelligence artificielle) et la technologie du « deepfake » pour tromper leurs victimes.

Grâce à la technologie deepfake, les délinquants peuvent non seulement utiliser des images facilement disponibles d’une autre personne et créer une fausse image de profil, mais ils peuvent également créer une image entièrement synthétique et le profil correspondant sans avoir à en soulever un dans les médias sociaux d’une autre personne ou sur Internet.

Le professeur Cross, de la QUT School of Justice, a déclaré que le public avait pris conscience des arnaques à la romance et avait été conseillé d’utiliser des méthodes de détection telles que la recherche inversée d’images sur les images qui leur étaient envoyées afin de déterminer si l’expéditeur était bien celui qu’il prétendait être.

« Cela signifie que les campagnes de prévention de la fraude devront être révisées pour sensibiliser les gens à cette méthode de tromperie sophistiquée et difficile à détecter », a déclaré le professeur Cross.

« L’IA et les deepfakes rendent les recherches d’images inversées pratiquement obsolètes. Il est absolument nécessaire d’améliorer la réponse technologique à l’IA et au potentiel de fraude des deepfakes, car les moyens de détection disponibles sont limités. »

Le professeur Cross a déclaré que de nombreux rapports médiatiques avaient déjà documenté l’utilisation de l’IA et des deepfakes pour tromper les victimes de fraudes romanes.

« Par exemple, une femme américaine a envoyé de multiples sommes d’argent à un homme qu’elle croyait être un fonctionnaire de la marine américaine. Dans ce cas, le délinquant a manipulé des images et des enregistrements publiquement disponibles d’un officier de la marine américaine pour créer des vidéos deepfake de la personne authentique sous une autre identité », a-t-elle déclaré.

« En plus de permettre aux délinquants de soulever des images de personnes vivantes et de créer des profils réalistes, le logiciel deepfake peut créer une image et un profil entièrement crédibles mais fictifs.

« La capacité de la technologie à générer des images uniques à utiliser dans les profils de médias sociaux a le potentiel de changer la façon dont la fraude romanesque et d’autres pratiques trompeuses en ligne (comme le catfishing) sont perpétrées. »

Le professeur Cross a déclaré que les deepfakes avaient évolué pour englober les enregistrements vocaux et constituaient un outil puissant lorsqu’ils étaient utilisés avec d’autres comportements frauduleux.

« Par exemple, dans le cadre d’une fraude par compromission de courrier électronique professionnel (BEC), les délinquants peuvent utiliser de faux enregistrements audio pour se faire passer pour des PDG et d’autres personnalités faisant autorité et cibler des employés de rang inférieur en leur demandant de transférer des fonds en leur nom.

« Il est clair que les messages de prévention doivent cibler les personnes qui utilisent les plateformes de rencontres et les plateformes de médias sociaux pour nouer des relations et, à tout le moins, alerter le public sur les risques que l’IA et les deepfakes posent dans ces domaines de leur vie. »

L’article a été publié dans Prévention du crime et sécurité communautaire.