Le côté obscur d'Alexa, Siri et d'autres assistants numériques personnels

Il y a quelques années à peine, les assistants numériques personnels comme Alexa d'Amazon, Siri d'Apple et Google Assistant semblaient futuristes. Maintenant, l'avenir est là et cet avenir est intégré, augmenté et omniprésent.

Les assistants numériques peuvent être trouvés dans votre bureau, maison, voiture, hôtel, téléphone et bien d'autres endroits. Ils ont récemment subi une transformation massive et fonctionnent sur des systèmes d'exploitation alimentés par l'intelligence artificielle (IA). Ils observent et collectent des données en temps réel et ont la capacité d'extraire des informations de différentes sources telles que les appareils intelligents et les services cloud et de mettre les informations en contexte en utilisant l'IA pour donner un sens à la situation. Bien que nous ayons parcouru un long chemin dans la conception et l'exécution de ces technologies d'IA, il reste encore du travail à faire dans ce domaine.

Une grande partie des données que ces assistants numériques collectent et utilisent comprennent des informations personnelles, potentiellement identifiables et éventuellement sensibles. Alexa ou d'autres assistants numériques personnels peuvent-ils violer la confidentialité et la sécurité de nos données? Peut-être. Il y a un côté sombre à ces assistants virtuels.

Mon expertise concerne la confidentialité des données, la gouvernance des données et l'intelligence artificielle. J'étais auparavant agente d'information et de protection de la vie privée au Bureau du commissaire à l'information et à la protection de la vie privée de l'Ontario.

Service d'accueil

Imaginez la situation suivante.

Vous attendez quelques invités. Votre premier invité arrive, et la caméra de sécurité extérieure sur votre véranda la capture marchant jusqu'à votre maison. Une voix polie l'accueille et ouvre la porte. Une fois à l'intérieur, votre assistante numérique explique à votre invité que vous êtes en route et que vous serez bientôt à la maison. Grâce à votre système audio domestique, votre assistant numérique lit une sélection des chansons préférées de vos invités (à partir de votre réseau d'amis Spotify). Votre assistante numérique demande à votre invité si l'épice de citrouille est toujours sa saveur de café préférée ou si elle préfère les autres: vanille française ou colombienne. Peu de temps après, votre invité prend le café dans la machine à café numérique. Les tâches de bienvenue sont maintenant terminées, votre assistant numérique se tait et, en vous attendant, votre invité passe quelques coups de fil.

Il est fascinant de voir comment un assistant numérique peut valider de manière précise et autonome l'identité de votre invité, sélectionner ses chansons préférées, se souvenir de sa saveur de café préférée et gérer les appareils intelligents de votre maison.

Assistants d'hébergement

Mais le comportement de votre assistant numérique vous concerne-t-il?

Les assistants numériques peuvent enregistrer nos conversations, nos images et de nombreuses autres informations personnelles sensibles, y compris la localisation via nos smartphones. Ils utilisent nos données pour l'apprentissage automatique pour s'améliorer au fil du temps. Leurs logiciels sont développés et maintenus par des entreprises qui réfléchissent constamment à de nouvelles façons de collecter et d'utiliser nos données.

Comme pour les autres programmes informatiques, le problème fondamental de ces assistants numériques est qu'ils sont vulnérables aux défaillances techniques et de processus. Les assistants numériques peuvent également être piratés à distance, ce qui entraîne des atteintes à la vie privée des utilisateurs.

Par exemple, un couple de l'Oregon a dû débrancher son appareil Alexa, l'assistant virtuel d'Amazon, car leur conversation privée a été enregistrée et envoyée à l'un de leurs amis sur leur liste de contacts.

Dans un autre incident, un Allemand a accidentellement eu accès à 1 700 fichiers audio Alexa appartenant à un parfait inconnu. Les fichiers ont révélé le nom de la personne, ses habitudes, ses emplois et d'autres informations sensibles.

Privilège de sensibilisation

La popularité et la disponibilité croissantes des assistants numériques personnels ont entraîné un élargissement de la soi-disant fracture numérique. Le paradoxe intéressant est que les personnes qui sont conscientes et sensibles aux problèmes de confidentialité limitent généralement leur utilisation des outils numériques, tandis que les utilisateurs qui sont moins enclins à protéger leur vie privée incorporent largement des assistants personnels dans leur vie numérique.

Les assistants numériques enregistrent des données en continu ou attendent qu'un mot se "réveille" ou s'active. Ils ne limitent pas la collecte de données aux informations des propriétaires ou des utilisateurs autorisés. Les assistants numériques personnels peuvent collecter et traiter les données personnelles des utilisateurs non approuvés, comme leurs voix.

Dans la société numériquement divisée, une personne qui est avertie de la vie privée n'inviterait pas un tel équipement dans sa vie, tandis que d'autres peuvent accepter ou rationaliser de tels comportements.

Respect de la vie privée des autres

À l'ère des appareils omniprésents et de l'accès à Internet, comment gérer ce paradoxe et respecter l'espace et les choix des autres?

Revisitons notre assistant numérique personnel imaginaire. Il devait traiter différentes sources d'informations sur l'invité pour fonctionner comme un hôte intelligent. L'assistant numérique a-t-il utilisé toutes ces données pour alimenter les algorithmes ou pour envahir la vie privée de l'invité? Selon qui vous demandez, la réponse sera différente.

Notre éducation soucieuse d'étiquette nous dit que nous avons la responsabilité sociale et éthique de respecter les valeurs des autres en matière de technologies numériques. Mais les implications et la croissance de ces technologies ont été si importantes et rapides que nous n'avons pas encore pu redéfinir nos normes et attentes sociales.

Par exemple, en tant qu'hôte, avons-nous une obligation éthique envers nos clients de les informer de notre assistant numérique personnel? Est-il poli pour un visiteur à domicile de demander à l'hôte de désactiver ses outils numériques? Faut-il se renseigner sur la présence d'outils intelligents et d'assistants numériques avant d'arriver chez un ami, un hôtel ou un AirBnB?

La réponse à ces questions est oui, selon l'expert en étiquette Daniel Post Senning. Senning explique que l'étiquette est plus puissante lorsque vous l'utilisez comme outil d'auto-évaluation. Souhaiterions-nous être informés que nous sommes enregistrés lors d'une réunion d'affaires ou d'une réunion privée? Ou comment préférons-nous qu'on nous demande de désactiver les outils numériques si nous hébergeons? Les règles d'étiquette sont universelles: être prévenant, honnête et gentil.

Informez vos collègues et invités que vos appareils numériques peuvent enregistrer leurs voix, images ou autres informations. Demandez à votre hôte de désactiver les assistants numériques si vous n'êtes pas à l'aise de les avoir avec vous. Mais soyez prévenant. Vous ne voudrez peut-être pas demander à votre hôte de désactiver les assistants numériques en présence d'une personne âgée ou handicapée qui dépend de ces outils.

Maintenir notre intimité collective

La confidentialité est une norme sociale que nous devons travailler ensemble pour maintenir. Tout d'abord, nous devons nous informer sur la cybersécurité et les risques potentiels des technologies numériques. Nous devons également être proactifs pour rester à jour avec les dernières nouvelles sur les technologies et prendre des mesures en cas de besoin.

Le rôle du gouvernement dans ce paradigme complexe est essentiel. Nous avons besoin de lois plus strictes en matière de confidentialité pour résoudre les problèmes de confidentialité associés aux assistants numériques personnels. À l'heure actuelle, des sociétés comme Amazon, Google et Apple établissent les règles.

D'autres juridictions ont élaboré et mis en œuvre des réglementations telles que le règlement général européen sur la protection des données (RGPD), qui supervise la collecte de données pour une grande variété d'appareils ménagers. Le Canada devrait emboîter le pas.

Cet article est republié de The Conversation sous une licence Creative Commons. Lisez l'article original.