Connectez-vous avec nous

Internet

L’IA et les « deepfakes » présentent de nouveaux risques pour les relations sur Internet

Crédit : Pixabay/CC0 Domaine public

Les personnes à la recherche de relations authentiques sur Internet devront devenir beaucoup plus avisées en ce qui concerne les nouvelles technologies qui les exposent à la fraude romanesque à un « niveau de risque entièrement nouveau », prévient le professeur associé Cassandra Cross, chercheur en fraude sur Internet à la QUT.

Les escroqueries à l’amour, qui ont rapporté 131 millions de dollars aux Australiens rien qu’en 2020, risquent d’être de plus en plus difficiles à détecter, car les fraudeurs utilisent de plus en plus l’IA (intelligence artificielle) et la technologie du « deepfake » pour tromper leurs victimes.

Grâce à la technologie deepfake, les délinquants peuvent non seulement utiliser des images facilement disponibles d’une autre personne et créer une fausse image de profil, mais ils peuvent également créer une image entièrement synthétique et le profil correspondant sans avoir à en soulever un dans les médias sociaux d’une autre personne ou sur Internet.

Le professeur Cross, de la QUT School of Justice, a déclaré que le public avait pris conscience des arnaques à la romance et avait été conseillé d’utiliser des méthodes de détection telles que la recherche inversée d’images sur les images qui leur étaient envoyées afin de déterminer si l’expéditeur était bien celui qu’il prétendait être.

« Cela signifie que les campagnes de prévention de la fraude devront être révisées pour sensibiliser les gens à cette méthode de tromperie sophistiquée et difficile à détecter », a déclaré le professeur Cross.

« L’IA et les deepfakes rendent les recherches d’images inversées pratiquement obsolètes. Il est absolument nécessaire d’améliorer la réponse technologique à l’IA et au potentiel de fraude des deepfakes, car les moyens de détection disponibles sont limités. »

Le professeur Cross a déclaré que de nombreux rapports médiatiques avaient déjà documenté l’utilisation de l’IA et des deepfakes pour tromper les victimes de fraudes romanes.

« Par exemple, une femme américaine a envoyé de multiples sommes d’argent à un homme qu’elle croyait être un fonctionnaire de la marine américaine. Dans ce cas, le délinquant a manipulé des images et des enregistrements publiquement disponibles d’un officier de la marine américaine pour créer des vidéos deepfake de la personne authentique sous une autre identité », a-t-elle déclaré.

« En plus de permettre aux délinquants de soulever des images de personnes vivantes et de créer des profils réalistes, le logiciel deepfake peut créer une image et un profil entièrement crédibles mais fictifs.

« La capacité de la technologie à générer des images uniques à utiliser dans les profils de médias sociaux a le potentiel de changer la façon dont la fraude romanesque et d’autres pratiques trompeuses en ligne (comme le catfishing) sont perpétrées. »

Le professeur Cross a déclaré que les deepfakes avaient évolué pour englober les enregistrements vocaux et constituaient un outil puissant lorsqu’ils étaient utilisés avec d’autres comportements frauduleux.

« Par exemple, dans le cadre d’une fraude par compromission de courrier électronique professionnel (BEC), les délinquants peuvent utiliser de faux enregistrements audio pour se faire passer pour des PDG et d’autres personnalités faisant autorité et cibler des employés de rang inférieur en leur demandant de transférer des fonds en leur nom.

« Il est clair que les messages de prévention doivent cibler les personnes qui utilisent les plateformes de rencontres et les plateformes de médias sociaux pour nouer des relations et, à tout le moins, alerter le public sur les risques que l’IA et les deepfakes posent dans ces domaines de leur vie. »

L’article a été publié dans Prévention du crime et sécurité communautaire.


Une nouvelle méthode d’entraînement des algorithmes de détection des « deepfakes » améliore leur succès


Plus d’informations :
Cassandra Cross, Using artificial intelligence (AI) and deepfakes to deceive victims : the need to rethink current romance fraud prevention messaging, Prévention de la criminalité et sécurité communautaire (2022). DOI: 10.1057/s41300-021-00134-w

Fourni par
Université de technologie du Queensland

Citation:
L’IA et les deepfakes présentent de nouveaux risques pour les relations sur Internet (2022, 6 juin).
récupéré le 7 juin 2022
à partir de https://techxplore.com/news/2022-06-ai-deepfakes-internet-relationships.html

Ce document est soumis au droit d’auteur. En dehors de toute utilisation équitable à des fins d’étude ou de recherche privée, aucune
partie ne peut être reproduite sans autorisation écrite. Le contenu est fourni à titre d’information uniquement.


Continuer la lecture
Cliquez pour commenter

Laissez un commentaire

Votre adresse e-mail ne sera pas publiée.

Tests et Avis Smartphones14 heures ago

Le nouvel iPhone SE a un punch abordable – Hitech-world

Test et Avis Wearables14 heures ago

Tout ce que Samsung a annoncé à Unpacked 2021 – Hitech-world

Test et Avis Gaming14 heures ago

Comment jouer à la prochaine suite de « Wii Sports » avec quelques mois d’avance – Hitech-world

Test et Avis Streaming15 heures ago

Les clients d’AT&T 5G bénéficient d’abonnements gratuits à des jeux en streaming – Hitech-world

Test et Avis Accessoires15 heures ago

Le prochain produit de Tesla pourrait aller sur votre tête – Hitech-world

Smartphones et Tablettes19 heures ago

Si rien ne veut que les rivaux soient ennuyeux, il faudra plus que des cloches et des sifflets.

Ordinateurs et informatique19 heures ago

Qu’est-ce que le DPI ?

Internet19 heures ago

Instagram teste l’utilisation de l’IA et d’autres outils pour la vérification de l’âge.

Gadgets20 heures ago

Pour lutter contre la chaleur de l’été, le rafraîchissement passif fonctionne réellement

Tests et Avis Smartphones2 jours ago

Ce smartphone vieux de sept ans reçoit toujours des mises à jour du système d’exploitation Android – Hitech-world

Test et Avis Wearables2 jours ago

Les tout nouveaux Galaxy Buds 2 de Samsung sont déjà en vente chez Woot – Hitech-world

Test et Avis Gaming2 jours ago

Ces 8 modèles de Rubik’s Cube sont bien plus cool que l’original – Hitech-world

Smartphones et Tablettes2 jours ago

6 grandes caractéristiques du Samsung Galaxy S22 que vous pouvez trouver sur les téléphones moins chers de Samsung

Ordinateurs et informatique2 jours ago

Un ordinateur portable a-t-il besoin d’un GPU ?

Internet2 jours ago

Netflix confirme le financement par la publicité – voici nos grandes questions

Internet4 semaines ago

Avast One Premium Review | Trusted Reviews

Test et Avis Streaming4 semaines ago

Disney+ proposera un plan moins cher financé par la publicité plus tard cette année – Hitech-world

Tests et Avis Smartphones3 semaines ago

Comment faire en sorte que votre Pixel 6 vibre plus fort pour les appels et les notifications – Hitech-world

Test et Avis Streaming2 semaines ago

La trilogie originale de « Spider-Man » est gratuite sur Plex jusqu’en février – Hitech-world

Internet2 semaines ago

Spotify prêt à s’attaquer à Amazon dans le domaine des livres audio

Test et Avis Ordinateurs4 semaines ago

Le nouveau « Guide de la confidentialité » de Chrome rend les paramètres de confidentialité moins confus – Hitech-world

Test et Avis Wearables1 semaine ago

Le casque AR d’Apple s’appuiera sur l’iPhone pour exécuter des logiciels exigeants – Hitech-world

Ordinateurs et informatique2 semaines ago

Critique du Dell P3221D | Trusted Reviews

Gadgets3 semaines ago

Apple vient d’exclure de watchOS 9 l’un de ses produits les plus populaires.

Tests et Avis Smartphones4 semaines ago

Votre prochain spam pourrait provenir de votre propre numéro – Hitech-world

Test et Avis Ordinateurs4 semaines ago

L’imprimante 3D ultra-rapide d’Anker réalise des projets d’une journée en quelques heures seulement – Hitech-world

Test et Avis Wearables4 semaines ago

La nouvelle caméra Action 2 de DJI est minuscule, magnétique et modulaire – Hitech-world

Gadgets4 semaines ago

Le matelas Philips TV et Emma Orginal a obtenu 4,5 étoiles

Test et Avis Audio4 semaines ago

L’application Android de Spotify vient d’acquérir la fonctionnalité que je souhaite le plus – Hitech-world

Ordinateurs et informatique4 semaines ago

Ctrl+Alt+Suppr : Les moniteurs 500 Hz sont un luxe inutile

ARTICLES POPULAIRES