Etudier la confiance dans les produits autonomes

Alors qu’un certain niveau de confiance est nécessaire pour que les voitures autonomes et les technologies intelligentes atteignent leur plein potentiel, ces technologies ne sont pas infaillibles – c’est pourquoi nous sommes censés garder les mains sur le volant des voitures autonomes et respecter le code de la route, même s’ils contredisent les instructions de notre application cartographique. Reconnaissant l’importance de la confiance dans les appareils – et les dangers lorsqu’il y en a trop – Erin MacDonald, professeur adjoint de génie mécanique à l’Université de Stanford, cherche à savoir si les produits peuvent être conçus pour encourager des niveaux de confiance plus appropriés parmi les consommateurs.

Dans un article publié le mois dernier dans Le journal de la conception mécanique, MacDonald et Ting Liao, son ancienne étudiante diplômée, ont examiné comment la modification de l’humeur des gens influençait leur confiance dans un haut-parleur intelligent. Leurs résultats étaient si surprenants qu’ils ont mené l’expérience une deuxième fois et avec plus de participants, mais les résultats n’ont pas changé.

«Nous pensions vraiment que si les gens étaient tristes, ils se méfieraient davantage de l’orateur et si les gens étaient heureux, ils auraient davantage confiance», a déclaré MacDonald, auteur principal de l’article. « Ce n’était même pas aussi simple que cela. »

Dans l’ensemble, les expériences soutiennent l’idée que l’opinion d’un utilisateur sur les performances de la technologie est le plus grand facteur déterminant pour savoir s’il lui fait confiance ou non. Cependant, la confiance des utilisateurs différait également selon le groupe d’âge, le sexe et le niveau d’éducation. Le résultat le plus étrange est que, parmi les personnes qui ont déclaré que le haut-parleur intelligent répondait à leurs attentes, les participants lui faisaient davantage confiance si les chercheurs avaient essayé de les mettre dans une humeur positive ou négative – les participants du groupe d’humeur neutre ne l’ont pas montré. même élévation de confiance.

« Un point important à retenir de cette recherche est que les émotions négatives ne sont pas toujours mauvaises pour établir la confiance. Nous voulons garder cela à l’esprit car la confiance n’est pas toujours bonne », a déclaré Liao, qui est maintenant professeur adjoint au Stevens Institute of Technology en New Jersey et auteur principal de l’article.

Manipuler la confiance

Les modèles scientifiques de fiabilité interpersonnelle suggèrent que notre confiance envers les autres peut s’appuyer sur notre perception de leurs capacités, mais que nous considérons également si elles sont attentionnées, objectives, justes et honnêtes, parmi de nombreuses autres caractéristiques. Au-delà des qualités de ceux avec qui vous interagissez, il a également été démontré que nos propres qualités personnelles affectent notre confiance dans n’importe quelle situation. Mais lors de l’étude de la manière dont les gens interagissent avec la technologie, la plupart des recherches se concentrent sur l’influence des performances de la technologie, négligeant la confiance et la perception des utilisateurs.

Dans leur nouvelle étude, MacDonald et Liao ont décidé de combler cette lacune – en étudiant l’humeur – parce que des recherches antérieures ont montré que les états émotionnels peuvent affecter les perceptions qui informent la confiance interpersonnelle, les humeurs négatives réduisant généralement la confiance.

Au cours de deux expériences identiques, les chercheurs ont analysé les interactions de soixante-trois participants avec un haut-parleur intelligent simulé qui se composait d’un micro et de réponses préenregistrées cachées sous un haut-parleur intelligent désactivé. Avant d’utiliser le haut-parleur, les participants ont été interrogés sur leurs sentiments concernant leur confiance dans les machines et ont montré des images qui, selon des recherches antérieures, les mettraient de bonne ou de mauvaise humeur, ou ne modifieraient pas du tout leur humeur.

Les participants ont posé au locuteur 10 questions prédéterminées et ont reçu 10 réponses préenregistrées d’une précision ou d’une utilité variable. Après chaque question, le participant évalue sa satisfaction à l’égard de la réponse et indique si elle répond à ses attentes. À la fin de l’étude, ils ont décrit à quel point ils faisaient confiance à l’orateur.

Si les participants ne pensaient pas que l’orateur avait fourni des réponses satisfaisantes, aucune des variables mesurées ou manipulées dans l’expérience – y compris l’âge, le sexe, l’éducation et l’humeur – n’a changé d’avis. Cependant, parmi les participants qui ont déclaré que l’orateur était à la hauteur de leurs attentes, les hommes et les personnes moins scolarisées étaient plus susceptibles de faire confiance à l’orateur, tandis que les personnes de plus de 65 ans étaient beaucoup moins susceptibles de faire confiance à l’appareil. La plus grande surprise pour les chercheurs a été que, dans le groupe dont les attentes ont été satisfaites, l’amorçage de l’humeur a conduit à une confiance accrue, que les chercheurs aient essayé de les mettre de bonne ou de mauvaise humeur. Les chercheurs n’ont pas expliqué pourquoi cela s’était produit, mais ils ont noté que la théorie existante suggère que les gens peuvent devenir plus tolérants ou empathiques avec un produit lorsqu’ils sont émotifs.

«Les concepteurs de produits essaient toujours de rendre les gens heureux lorsqu’ils interagissent avec un produit», a déclaré Liao. « Ce résultat est assez puissant car il suggère que nous ne devrions pas seulement nous concentrer sur les émotions positives, mais qu’il y a tout un spectre émotionnel qui mérite d’être étudié. »

Procéder avec prudence

Cette recherche suggère qu’il existe une relation nuancée et compliquée entre qui nous sommes et ce que nous pensons de la technologie. Analyser les détails demandera plus de travail, mais les chercheurs soulignent que la question de la confiance entre les humains et les technologies autonomes mérite plus que jamais une attention accrue.

«Cela me dérange que les ingénieurs prétendent être neutres pour affecter les émotions des gens, leurs décisions et leurs jugements, mais tout ce qu’ils conçoivent dit:« Croyez-moi, j’ai tout à fait sous contrôle. Je suis la chose la plus high-tech que vous ayez jamais utilisée », a déclaré MacDonald. « Nous testons les voitures pour la sécurité, alors pourquoi ne pas tester les voitures autonomes pour déterminer si le conducteur a le bon niveau de connaissances et de confiance dans le véhicule pour le conduire? »

À titre d’exemple d’une fonctionnalité qui pourrait mieux réguler la confiance des utilisateurs, MacDonald a rappelé les avertissements plus visibles qu’elle a vus sur les applications de navigation lors du feu de verre qui a brûlé au nord de Stanford à l’automne, qui a demandé aux gens de conduire avec prudence car l’incendie pourrait avoir modifié les conditions routières. . Suite à leurs découvertes, les chercheurs aimeraient également voir des solutions basées sur la conception qui tiennent compte de l’influence de l’humeur des utilisateurs, à la fois bonne et mauvaise.

« Le but ultime est de voir si nous pouvons calibrer les émotions des gens grâce à la conception de sorte que, si un produit n’est pas assez mature ou si l’environnement est compliqué, nous pouvons ajuster leur confiance de manière appropriée », a déclaré Liao. « C’est probablement l’avenir dans cinq à dix ans. »