Dans notre hâte à le déployer, ignorons-nous les risques?

Taylor Swift l'utilise pour identifier les harceleurs. Les magasins de détail l'utilisent pour offrir une expérience sans caisse, sans caissier. Même les églises y participent pour garder une trace de leurs fidèles.

De plus en plus, les logiciels de reconnaissance faciale – une technologie qui identifie facilement les personnes en fonction de leur visage – ont trouvé leur chemin dans les coins les plus intimes de notre vie.

On nous dit que les avantages sont innombrables. Les organismes chargés de l'application des lois, les aéroports et les propriétaires d'entreprises ont rapidement adopté l'outil au nom de la sûreté et de la sécurité. Et les détaillants et les plateformes de médias sociaux vantent la commodité comme une grande raison pour laquelle ils ont sauté dans le train de la reconnaissance faciale.

Le mois dernier, le service de police de Londres a annoncé qu'il commencerait à installer des caméras dans des endroits populaires auprès des acheteurs et des touristes pour repérer les suspects criminels, faisant de Londres la dernière d'une liste croissante de villes qui ont adopté la reconnaissance faciale. La décision a suscité un débat continu parmi les défenseurs de la vie privée sur la façon d'équilibrer correctement la sécurité avec la vie privée et la liberté individuelle.

David Choffnes, professeur agrégé à Northeastern dont la recherche se concentre sur les systèmes distribués, les réseaux, la confidentialité et la sécurité, prévient qu'avec tant d'enjeux, il convient de considérer les risques potentiels de ces outils de surveillance avant de se précipiter pour les déployer.

"Je pense que nous devons vraiment comprendre les risques de ces technologies avant de les déployer à très grande échelle, où des risques inconnus pourraient se manifester à très grande échelle", explique Choffnes, qui est un membre fondateur de l'Institut de cybersécurité et de confidentialité de Northeastern.

Les avantages du point de vue de la sécurité publique sont assez faciles à comprendre, dit-il. Si quelqu'un vole une voiture ou kidnappe un enfant, la vidéosurveillance peut faire la différence entre identifier l’auteur dans les heures qui suivent le crime, lorsque les forces de l’ordre ont le plus de chances de résoudre un crime. C'est un réseau de surveillance ad hoc, après tout, qui a aidé les autorités à identifier et à trouver rapidement les suspects dans l'attentat à la bombe du marathon de Boston en 2013.

"Un grand facteur de motivation pour les déploiements que nous voyons aujourd'hui est le crime", explique Choffnes. "[The thinking goes] il y a des cas qui auraient pu être résolus si nous avions des images de surveillance à l'endroit où se trouvaient les criminels, alors mettons-les partout. "

D'un autre côté, dit-il, nous ne devons pas ignorer les cas existants d'abus, de mauvaise utilisation et d'utilisation non autorisée des données de surveillance. Cela a permis toutes sortes de comportements malveillants, y compris le harcèlement, le chantage et les emplacements de casse.

"L'essentiel, c'est que plus il y a de surveillance, plus il y a de chances que ces données soient compromises ou utilisées à mauvais escient", dit Choffnes. "Et si les données n'étaient pas là en premier lieu, il n'y aurait aucune possibilité pour cela."

À ce stade, il est difficile de connaître tous les inconvénients et les avantages de la reconnaissance faciale ou des caméras de surveillance publique, explique Choffnes. Il est profondément préoccupé par la façon dont certains gouvernements ont utilisé la reconnaissance faciale pour suivre et arrêter des manifestants pacifiques et pro-démocratiques.

"C'est le genre de chose qui m'inquiète à plus long terme: comment cela pourrait-il être utilisé contre les citoyens respectueux des lois", dit-il. "Et en fin de compte, nous n'avons pas les données pour savoir ou quantifier quels sont les avantages et si oui ou non les dommages l'emportent sur ces avantages."

Dans le cadre d'un projet de recherche l'année dernière, Choffnes a découvert que les appareils Ring, qui sont des sonnettes vidéo sans fil permettant aux gens de voir les visiteurs à leur porte, utilisaient des détecteurs de mouvement pour enregistrer les visiteurs pendant 10 secondes sans indiquer à ces visiteurs qu'ils étaient filmés.

L'entreprise, qui appartient à Amazon, a été critiquée pour son partenariat avec plus de 400 services de police. Ring a déclaré que les partenariats avaient été formés pour aider aux enquêtes policières et fournir une protection supplémentaire contre les criminels et les intrus.

Puis, le mois dernier, il a été révélé que l'application mobile de l'appareil est remplie de trackers tiers qui envoient des informations personnelles aux sociétés d'analyse et de marketing, y compris le nom du client, l'adresse IP, l'opérateur de réseau mobile et les données de capteur. Choffnes n'est pas surpris par la nouvelle.

"Je pense que lorsque certains consommateurs apprendront que des données vidéo sont partagées, ils diront bien, envoyez-les aux forces de l'ordre [and other parties]; Je n'ai rien à cacher ", dit-il." Et d'autres pourraient se rendre compte qu'ils ne veulent pas qu'un flux d'activités autour de leur domicile, y compris leurs propres activités, soit envoyé à la police et archivé indéfiniment, surtout à leur insu et sans leur consentement éclairé . "

Et pourtant, les ventes en ligne de l'appareil ont explosé. Près de 400 000 sonnettes Ring ont été vendues en décembre, ce qui en fait le plus gros mois de vente de tous les temps – au cours du même mois où la société a été critiquée pour plusieurs hacks. Choffnes présume que la commodité et la peur étaient probablement à l'origine de ces ventes.

"Il y a aussi un effet renforçant", dit-il. "Si vous voyez votre voisin poster des images de quelqu'un qui vole quelque chose de chez vous, alors vous pensez:" Hé, c'est un appareil sympa qui leur permet de savoir ce qui s'est passé, maintenant j'en veux un aussi, car cela me fait me sentir plus en sécurité si J'ai cet appareil. "Bien sûr, l'ironie est qu'il ne fournit pas de protection supplémentaire contre le vol de colis par quelqu'un."

Choffnes dit qu'il ne possède pas de sonnette vidéo Ring ou autre.

"J'ai appris suffisamment de sonnettes connectées à Internet pour les garder en toute sécurité dans mon laboratoire", dit-il.