10 raisons de s'inquiéter de la technologie de reconnaissance faciale

La technologie de reconnaissance faciale se répand rapidement. Déjà répandu en Chine, un logiciel qui identifie les personnes en comparant les images de leur visage à une base de données d'archives est en cours d'adoption dans la majeure partie du monde. Il est courant parmi les forces de police, mais a également été utilisé dans les aéroports, les gares et les centres commerciaux.

La croissance rapide de cette technologie a déclenché un débat indispensable. Des militants, des politiciens, des universitaires et même des forces de police expriment de sérieuses inquiétudes quant à l'impact que pourrait avoir la reconnaissance faciale sur une culture politique basée sur les droits et la démocratie.

Préoccupations relatives aux droits de l'homme

En tant que chercheur sur l'avenir des droits de l'homme, je partage ces préoccupations. Voici dix raisons pour lesquelles nous devrions nous inquiéter de l’utilisation de la technologie de reconnaissance faciale dans les espaces publics.

(1) Cela nous met sur la voie de la surveillance généralisée automatisée

La vidéosurveillance est déjà répandue dans le monde entier, mais pour que les gouvernements utilisent des séquences contre vous, ils doivent trouver des séquences spécifiques de vous faisant quelque chose qu'ils peuvent prétendre comme preuve. La technologie de reconnaissance faciale amène la surveillance à de nouveaux niveaux. Il permet la surveillance en direct automatisée et aveugle des personnes au cours de leurs activités quotidiennes, ce qui permet aux autorités de suivre chaque mouvement.

(2) Il fonctionne sans un cadre légal ou réglementaire clair

La plupart des pays n'ont pas de législation spécifique réglementant l'utilisation de la technologie de reconnaissance faciale, bien que certains législateurs tentent de changer cela. Ce vide juridique ouvre la porte à des abus, tels que l'obtention de nos images à notre insu ou notre consentement et leur utilisation de manière que nous n'approuverions pas.

(3) enfreint les principes de nécessité et de proportionnalité

Un principe énoncé couramment en matière de droits de l'homme, reconnu par les organisations allant des Nations Unies au comité d'éthique des services policiers de Londres, stipule que la surveillance doit être nécessaire et proportionnée. Cela signifie que la surveillance devrait être limitée à la poursuite des crimes graves au lieu de permettre l'ingérence injustifiée dans notre liberté et nos droits fondamentaux. La technologie de reconnaissance faciale est en contradiction avec ces principes. C'est une technologie de contrôle symptomatique de la méfiance de l'État à l'égard de ses citoyens.

(4) Cela viole notre droit à la vie privée

Le droit à la vie privée est important, même dans les espaces publics. Elle protège l'expression de notre identité sans intrusion injustifiée de la part de l'État ou d'entreprises privées. L'enregistrement, le stockage et l'analyse à grande échelle et sans discernement des technologies de reconnaissance faciale sapent ce droit, car il signifie que nous ne pouvons plus rien faire en public sans que l'État le sache.

(5) Cela a un effet dissuasif sur notre culture politique démocratique

Une surveillance généralisée peut dissuader les individus d'assister à des événements publics. Cela peut entraver la participation aux manifestations politiques et aux campagnes pour le changement. Et cela peut décourager les comportements non conformistes. Cet effet dissuasif constitue une violation grave du droit à la liberté de réunion, d'association et d'expression.

(6) Il refuse aux citoyens la possibilité de consentir

Il y a un manque d'informations détaillées et spécifiques sur la manière dont la reconnaissance faciale est réellement utilisée. Cela signifie que nous n'avons pas la possibilité de consentir à l'enregistrement, l'analyse et le stockage de nos images dans des bases de données. En nous refusant la possibilité de consentir, le choix et le contrôle sur l'utilisation de nos propres images nous sont refusés.

(7) Il est souvent inexact

La technologie de reconnaissance faciale promet une identification précise. Mais de nombreuses études ont montré que les algorithmes formés sur des ensembles de données à préjugés raciaux identifiaient de manière erronée les personnes de couleur, en particulier les femmes de couleur. Un tel biais algorithmique est particulièrement préoccupant s’il aboutit à des arrestations illégales ou s'il conduit les organismes publics et les entreprises privées à discriminer les femmes et les personnes issues d’ethnies minoritaires.

(8) Cela peut conduire à un biais d'automatisation

Si les personnes utilisant un logiciel de reconnaissance faciale croient à tort que la technologie est infaillible, cela peut conduire à de mauvaises décisions. Ce "biais d'automatisation" doit être évité. Les résultats générés par la machine ne devraient pas déterminer la manière dont les agences d'État ou les sociétés privées traitent les individus. Les opérateurs humains formés doivent exercer un contrôle significatif et prendre des décisions fondées sur le droit.

(9) Cela implique qu'il existe des listes de surveillance secrètes du gouvernement

Les bases de données contenant nos images faciales doivent sonner l'alarme. Ils impliquent que les entreprises privées et les forces de l'ordre partagent nos images afin de constituer des listes de surveillance de suspects potentiels à notre insu et sans notre consentement. C'est une menace sérieuse pour nos droits individuels et nos libertés civiles. La sécurité de ces bases de données et leur vulnérabilité aux actions des pirates informatiques sont également préoccupantes.

(10) Il peut être utilisé pour cibler des groupes déjà vulnérables

La technologie de reconnaissance faciale peut être utilisée pour la surveillance généralisée. Mais il peut également être déployé de manière sélective, par exemple pour identifier les migrants et les réfugiés. La vente de logiciels de reconnaissance faciale à des agences telles que le très controversé US Immigration and Customs Enforcement (ICE), très critiqué pour sa tactique dans le traitement des migrants, devrait inquiéter quiconque se soucie des droits humains. Et l'utilisation d'appareils mobiles de poche avec une application de reconnaissance faciale par les forces de police soulève le spectre d'un profilage racial amélioré au niveau de la rue.

Débat indispensable

Avec autant de préoccupations concernant la technologie de reconnaissance faciale, nous avons désespérément besoin d'une conversation plus en avant sur son impact sur nos droits et libertés civiles. Sans une réglementation appropriée de ces systèmes, nous risquons de créer des États policiers dystopiques dans des pays autrefois libres et démocratiques.

Cet article est republié de The Conversation sous une licence Creative Commons. Lire l'article original.