Facebook va abandonner son système de reconnaissance faciale, mais pourquoi devrions-nous être sceptiques

Facebook a annoncé qu’il cesserait d’utiliser son système de reconnaissance faciale, le logiciel d’intelligence artificielle qui reconnaît les personnes sur les photos et les vidéos et génère des suggestions sur les personnes à « taguer ».

Les systèmes de reconnaissance faciale, comme Facebook, identifient les personnes en faisant correspondre les visages à des représentations numériques de visages stockées dans une base de données. Facebook a enregistré plus d’un milliard de ces représentations, mais dit maintenant qu’il les supprimera.

Cette annonce est intervenue à peine une semaine après que la société mère de Facebook se soit rebaptisée Facebook en Meta. Le changement de nom reflète l’accent mis par l’entreprise sur le « métavers », une vision d’Internet qui utilise des technologies telles que la réalité virtuelle pour intégrer les mondes réel et numérique.

Le changement de nom avait probablement aussi quelque chose à voir avec une volonté de détoxifier l’image de Facebook. Ces dernières années, le géant des médias sociaux a été impliqué dans un certain nombre de controverses, peut-être plus particulièrement le scandale Cambridge Analytica.

Cela a vu une application utiliser la plate-forme de Facebook pour collecter des données personnelles appartenant à des millions d’utilisateurs de Facebook, qui ont ensuite été transmises à Cambridge Analytica, une société de conseil britannique aujourd’hui disparue. En 2018, l’organisme britannique de surveillance de la protection des données, l’Information Commissioner’s Office, a infligé une amende de 500 000 £ à Facebook pour son rôle dans le scandale.

Plus récemment, nous avons entendu l’ancienne chef de produit Facebook, Frances Haugen, affirmer que la plate-forme nuit aux enfants, alimente la division et sape la démocratie à la recherche d’une croissance rapide et de « bénéfices astronomiques ».

On peut se demander si le mouvement de reconnaissance faciale n’est pas, lui aussi, une tentative de présenter une nouvelle image responsable axée sur le respect et la protection de la vie privée des utilisateurs.

Nos données sont comme de l’or

Facebook est libre d’adhérer et d’utiliser, il s’appuie donc sur un autre produit précieux pour couvrir ses dépenses : les données des personnes.

Dans le cadre des recherches de mon équipe, nous avons obtenu l’autorisation d’un groupe d’utilisateurs de Facebook et avons demandé à des robots d’exploration (bots qui naviguent systématiquement sur Internet) de collecter leurs publications et leurs images, ou les publications et les images qui les présentaient. En utilisant des algorithmes d’apprentissage automatique sur ces données, nous avons pu profiler leurs habitudes et prédire avec une grande précision des choses comme où elles seraient le lendemain.

Dans une étude connexe, nous avons examiné les publications sur le mur de Facebook et, encore une fois en utilisant l’apprentissage automatique, nous avons pu créer un profil psychologique des utilisateurs en fonction de leurs publications. C’est-à-dire que nous pouvions déterminer quand ils étaient tristes, heureux, etc.

Si je peux collecter des données de Facebook à l’aide d’un programme relativement simple et tirer des conclusions précises, imaginez ce que Facebook peut faire avec sa vaste quantité de données, y compris à partir de nos modèles de visages, et de l’intelligence artificielle.

Au milieu des problèmes de confidentialité concernant la technologie, en 2019, Facebook a activé la fonction de reconnaissance faciale. L’année dernière, Facebook a accepté de payer un règlement de 650 millions de dollars américains (environ 480 millions de livres sterling) après qu’un procès a prétendu que son système de reconnaissance faciale violait la loi de l’Illinois sur la confidentialité des informations biométriques.

Alors que beaucoup pourraient interpréter l’annonce de Meta comme un développement positif, je la vois comme une distraction pratique, ou peut-être une contre-mesure, aux témoignages de dénonciateurs présentant une entreprise qui fait passer les bénéfices avant la sécurité des utilisateurs.

Il convient également de souligner que Facebook a du mal à retenir les jeunes utilisateurs, ils cherchent donc probablement des moyens d’attirer ce groupe important sur la plate-forme.

Ce n’est pas complètement parti

L’annonce de Meta précisait que la technologie de reconnaissance faciale serait limitée à « un ensemble restreint de cas d’utilisation » à l’avenir. Cela peut inclure la vérification de l’identité d’un utilisateur afin qu’il puisse accéder à un compte verrouillé, par exemple.

En tant que tel, Meta conserverait DeepFace, l’algorithme derrière sa technologie de reconnaissance faciale. Le porte-parole de Meta, Jason Grosse, a déclaré que la société n’excluait pas l’utilisation de la technologie de reconnaissance faciale dans les futurs produits. Notamment, Grosse aurait également déclaré que l’engagement d’arrêter la reconnaissance faciale ne s’appliquait pas à ses produits métavers.

Grosse a déclaré à la publication Recode : « Nous pensons que cette technologie a le potentiel de permettre à l’avenir des cas d’utilisation positifs qui maintiennent la confidentialité, le contrôle et la transparence, et c’est une approche que nous continuerons d’explorer alors que nous considérons comment nos futures plates-formes informatiques et les appareils peuvent mieux répondre aux besoins des gens […] Pour toutes les applications futures potentielles de technologies comme celle-ci, nous continuerons à être publics sur l’utilisation prévue, comment les gens peuvent avoir le contrôle sur ces systèmes et leurs données personnelles, et comment nous respectons notre cadre d’innovation responsable. »

Il est important de comprendre que lorsqu’une personne s’engage dans un environnement de réalité virtuelle dans le métavers, elle génère une gamme de données biométriques, bien au-delà des scans faciaux. Par exemple, selon le système, il peut être possible de détecter et de collecter des mouvements oculaires, des mouvements corporels, la pression artérielle, la fréquence cardiaque et des détails sur l’environnement des utilisateurs.

En fin de compte, l’intelligence artificielle accompagnant le métaverse sera beaucoup plus sophistiquée et apportera probablement avec elle un nouvel ensemble de problèmes de confidentialité des données.

Cet article est republié à partir de The Conversation sous une licence Creative Commons. Lire l’article original.