Amazon a interdit à la police d'utiliser son logiciel de reconnaissance faciale pendant un an.
Selon le cabinet, le moratoire sur l'utilisation d'Amazon Rekognition est conçu pour donner aux gouvernements de nombreuses possibilités d'introduire des réglementations et des cadres pour empêcher la reconnaissance faciale de contribuer à la discrimination sous toutes ses formes.
Dans l'intervalle, Amazon continuera à permettre aux organisations dédiées à la lutte contre des problèmes tels que la traite des êtres humains et les enlèvements d'enfants d'utiliser sa technologie.
Sommaire
Reconnaissance faciale Amazon
Bien que la technologie de reconnaissance faciale ait considérablement évolué au cours des dernières années et puisse contribuer à des enquêtes policières légitimes, son application a toujours été controversée.
Les inquiétudes concernant les possibilités de surveillance de masse et de notation sociale sont aggravées par la Biais AI, qui pourrait voir les individus victimes de discrimination en fonction de leurs attributs physiques.
Les méthodes d'audit des ensembles de données qui sous-tendent les modèles d'IA (y compris les logiciels de reconnaissance faciale) pour les biais restent incohérentes et non réglementées, augmentant la possibilité que la technologie puisse désavantager davantage les groupes démographiques minoritaires.
Amazon Rekognition a lui-même fait face à des accusations de parti pris racial, avec un article de 2019 co-écrit par les chercheurs Joy Buolamwini et Deborah Raji affirmant que le logiciel ne parvient pas à identifier correctement les personnes à la peau plus foncée, et confond également les femmes à la peau plus foncée avec les hommes. L'étude a également révélé que le système d'Amazon pouvait évaluer des images d'individus à la peau claire avec une précision presque parfaite.
Les résultats ont ensuite été vérifiés par un groupe de chercheurs en IA, qui ont fait écho aux préoccupations exprimées par Buolamwini selon lesquelles la technologie ne devrait pas être utilisée dans un contexte d'application de la loi.
Amazon semble être arrivé à la même conclusion, bien qu'il n'ait jamais concédé aux allégations que son logiciel Rekognition présente des préjugés raciaux.
"Nous mettons en place un moratoire d'un an sur l'utilisation par la police de la technologie de reconnaissance faciale d'Amazon", lit-on dans un communiqué publié par le cabinet.
"Nous avons préconisé que les gouvernements mettent en place des réglementations plus strictes pour régir l'utilisation éthique de la technologie de reconnaissance faciale, et ces derniers jours, le Congrès semble prêt à relever ce défi."
"Nous espérons que ce moratoire d'un an pourrait donner au Congrès suffisamment de temps pour mettre en œuvre les règles appropriées, et nous sommes prêts à aider si demandé."
On ne sait pas combien d'agences d'application de la loi ont utilisé Amazon Rekognition avant l'interdiction, bien que cette décision marque un changement radical de politique depuis 2018, lorsque le PDG d'AWS, Andy Jassy, a déclaré aux employés qu'il se sentait satisfait de la valeur que le service offre à tous les clients, y compris la police.
Via The Verge
