Les fautes de confidentialité déplacent le cloud sur les assistants numériques

Une série de faux pas en matière de protection de la vie privée au cours des derniers mois a suscité de nouvelles inquiétudes quant à l'avenir des assistants numériques à commande vocale, un marché en croissance considéré par certains comme la prochaine frontière de l'informatique.

Des incidents récents impliquant des appareils Google, Apple et Amazon soulignent que, malgré la forte croissance du marché des haut-parleurs et appareils intelligents, il faut redoubler d'efforts pour rassurer les consommateurs sur le fait que leurs données sont protégées lorsqu'ils utilisent la technologie.

Apple a annoncé cette semaine suspendre son programme "Siri grading", dans lequel les gens écoutaient des extraits de conversations pour améliorer la technologie de reconnaissance vocale, après que le journal britannique Guardian a rapporté que les sous-traitants entendaient des informations médicales confidentielles, des affaires criminelles et même rencontres sexuelles.

"Nous nous engageons à fournir une expérience Siri exceptionnelle tout en protégeant la confidentialité des utilisateurs", a déclaré Apple dans un communiqué, ajoutant que cela permettrait aux consommateurs de choisir cette fonctionnalité dans une future mise à jour logicielle.

Dans le même temps, Google a annoncé une pause dans l’écoute et la transcription des conversations de son assistant Google dans l'Union européenne à la suite d'une enquête sur la protection de la vie privée en Allemagne.

Amazon, qui a également reconnu avoir recours à des assistants humains pour améliorer l'intelligence artificielle de ses appareils actionnés par Alexa, a récemment annoncé une nouvelle fonctionnalité facilitant la suppression de toutes les données enregistrées.

Les cas récents peuvent donner aux consommateurs l’impression que quelqu'un «écoute» leurs conversations, même si cela est rarement vrai.

"D'un point de vue technologique, il n'est pas surprenant que ces sociétés utilisent des humains pour annoter ces données, car la machine n'est pas assez performante pour tout comprendre", a déclaré Florian Schaub, professeur à l'Université du Michigan spécialisé dans les interactions homme-machine. assistants numériques.

"Le problème est que les gens ne s'y attendent pas et que cela n'est pas communiqué de manière transparente."

Carolina Milanesi, analyste technologique chez Creative Strategies, a convenu que les humains sont nécessaires pour améliorer la technologie.

"Les gens s'attendent un peu irréalistes à ce que ces assistants s'améliorent par magie, qu'ils apprennent à apprendre et se perfectionnent d'eux-mêmes, mais nous en sommes toujours au début de l'IA, et l'intervention humaine est toujours importante. ," dit-elle.

Selon la firme de recherche eMarketer, près de 112 millions de personnes, soit un tiers de la population américaine, utiliseront un assistant vocal au moins une fois par mois, quel que soit le type d'appareil utilisé. De nombreuses autres utilisent des dispositifs à base d'IA pour les recherches, la musique, les nouvelles ou l'information.

Une enquête menée cette année par Microsoft auprès de consommateurs de cinq pays a révélé que 80% étaient satisfaits de leur expérience avec les assistants numériques. Mais 41% des personnes interrogées ont déclaré avoir des préoccupations concernant la vie privée, la confiance et l'écoute passive.

Des peurs non fondées?

Certaines des craintes relatives à la vie privée entourant les enceintes intelligentes sont basées sur de fausses hypothèses, notent les analystes.

Les appareils n'enregistrent ni ne transmettent d'informations tant qu'ils ne sont pas "activés" avec un mot clé ou une expression telle que "Hey, Siri" ou "Alexa".

Mais "il y a toujours un risque d'activation fausse", a noté Schaub.

"Vous devez faire confiance au périphérique et à l'entreprise qui fabrique le périphérique que le microphone ne traite que localement jusqu'à ce que le mot d'activation soit entendu."

Ryan Calo, codirecteur du corps professoral du Tech Policy Lab de l'Université de Washington, a déclaré que, même si les appareils n'écoutaient pas, il restait des problèmes d'accès aux conversations.

"Si les employés entendent des choses auxquelles ils ne devraient pas avoir accès, c'est vraiment un drapeau rouge, c'est une mauvaise pratique", a déclaré Calo.

Faire bouillir la grenouille

Calo a déclaré que les préoccupations relatives à la confidentialité des assistants numériques augmenteraient probablement à mesure que les appareils étendent leurs capacités.

"Je m'inquiète d'une tendance où ces systèmes commencent à écouter plus que votre simple ordre affirmatif: ils pourraient entendre des bris de vitre, des signes de détresse ou un bébé qui pleure. Tout à coup, le système écoute toutes sortes de choses et la grenouille se fait bouillir en chauffant progressivement l'eau ", a-t-il déclaré.

Calo a également exprimé sa crainte que les périphériques puissent être allumés à distance, une menace potentielle pour les libertés civiles.

"Si les forces de l'ordre obtiennent un mandat, cela pourrait transformer votre écho en un appareil d'écoute", a-t-il déclaré.

Schaub a ajouté que les consommateurs craignaient également que les données des appareils ne soient utilisées pour le ciblage des annonces.

"Les gens veulent ces avantages mais sans permettre que leurs données soient utilisées contre eux", a-t-il déclaré.

Néanmoins, l'attrait des assistants numériques signifie que le marché continuera probablement à se développer.

Selon M. Schaub, un moyen de rassurer les consommateurs serait d'intégrer des fonctionnalités de confidentialité directement dans les commandes vocales afin que les utilisateurs puissent comprendre comment leurs données sont utilisées et faire de meilleurs choix.

"Les entreprises devraient voir cela comme une opportunité de discuter avec les clients de la manière dont ils les protègent", a-t-il déclaré.

© 2019 AFP