Les algorithmes prennent beaucoup de vos décisions, et vous pourriez être d’accord avec cela

Il y a de bonnes chances qu’au moins quelques algorithmes vous aient aidé à trouver cet article.

Après tout, les algorithmes, qui sont essentiellement des systèmes ou des processus qui aident à faire un choix, existent depuis presque toujours. Mais ils sont devenus omniprésents avec l’essor des mégadonnées et impliquent désormais généralement des formules mathématiques sous forme de code informatique.

Facebook utilise un algorithme pour diffuser son fil d’actualité à près de 3 milliards d’utilisateurs. Les algorithmes sont ce qui permet aux voitures de Tesla de se conduire elles-mêmes. Et toute recherche Google implique un algorithme qui décide de l’ordre des résultats.

Les décideurs politiques ont longtemps supposé que la plupart des gens préféreraient ne pas avoir une machine pour prendre certaines décisions au jour le jour, par exemple si quelqu’un mérite un prêt bancaire ou est passible d’une infraction au code de la route. Mais une nouvelle étude de Derek Bambauer, professeur à l’Université d’Arizona James E. Rogers College of Law, révèle que de nombreuses personnes sont parfaitement heureuses de laisser une machine prendre certaines décisions à leur place.

Bambauer, qui étudie la censure d’Internet, la cybersécurité et la propriété intellectuelle, a travaillé dans le domaine de l’informatique en tant qu’ingénieur système avant sa carrière juridique.

Sa nouvelle étude, qui sera publiée dans le Journal de droit de l’État de l’Arizona au début de 2022, vise à aider les juristes et les décideurs politiques à comprendre la perception du public des algorithmes de prise de décision afin qu’ils puissent réglementer ces algorithmes plus conformément aux points de vue des consommateurs.

« Nous sommes à un moment où les algorithmes ont du pouvoir et du potentiel, mais il y a aussi une bonne dose de peur à leur sujet », a déclaré Bambauer, co-auteur de l’étude avec Michael Risch, professeur et vice-doyen de la Charles Widger School of Law. à l’Université de Villanova.

Cette crainte, a-t-il ajouté, est probablement exagérée par les juristes et les décideurs.

« En général, je pense que Michael et moi pensons que la technologie a tendance à être plus banale – elle ne fait pas les choses formidables que nous pensions qu’elle ferait, et elle ne fait pas les choses horribles que nous pensions qu’elle ferait », a déclaré Bambauer. « Et, donc, nous pensions que les gens allaient de l’avant et disaient : « Nous devons réformer cela », avant de demander : « Comment se sentent les gens ? » »

La préférence pour les algorithmes était « vraiment surprenante »

Pour mieux comprendre ce que les gens pensent de la technologie, Bambauer et Risch ont utilisé un sondage en ligne pour demander à environ 4 000 personnes s’ils préféreraient qu’un humain ou un algorithme prenne l’une des quatre décisions hypothétiques :

• Si le participant recevrait une carte-cadeau de 10 $ à 20 $ d’un café
• Si le participant serait jugé responsable d’une infraction civile au code de la route
• Si le participant serait approuvé pour un prêt bancaire
• Si le participant serait inclus dans un essai clinique pour un traitement pour une maladie dont il souffre

Les participants à l’étude ont été assignés au hasard à l’un des quatre scénarios et à un décideur, humain ou algorithme. Les participants ont également reçu des informations sur le décideur, telles que son taux de précision, le temps qu’il faut pour prendre une décision et le coût de son utilisation. Avec ces informations, les participants pouvaient alors choisir s’ils voulaient passer à l’autre décideur.

L’étude a révélé que 52,2% de tous les participants ont choisi l’algorithme, tandis que 47,8% ont choisi un humain.

Même en sachant que la perception publique négative des algorithmes a probablement été survendue, les chercheurs ont été surpris par leurs découvertes.

« Nous pensions que si les gens étaient vraiment nerveux à propos des algorithmes, cela apparaîtrait dans cet agrégat – que le pourcentage de personnes qui choisiraient des algorithmes serait non seulement inférieur à 50%, mais qu’il serait statistiquement significativement inférieur », a déclaré Bambauer. « Mais cette différence de 4 %, même si elle n’a pas l’air de beaucoup, est statistiquement significative, et c’était vraiment surprenant. »

Les chercheurs ont également constaté que :

• Les algorithmes moins chers sont plus populaires. Dans les scénarios où l’algorithme coûte moins cher que l’humain, 61% des personnes interrogées ont choisi l’algorithme, mais seulement 43% ont choisi cette option lorsque le coût était le même.
• Si les enjeux sont élevés, les humains se tournent vers les humains. Les scénarios présentés aux participants à l’étude ont eu des conséquences allant de la réception d’une carte-cadeau pour un café au paiement de plusieurs centaines de dollars pour une contravention. Plus les enjeux sont élevés, plus les participants se tournent souvent vers les humains.
• La précision joue un rôle important dans le choix d’un décideur. Si un décideur avait un meilleur taux de précision que l’autre, 74% des répondants ont choisi l’option la plus précise. Mais les participants étaient à peu près également divisés sur leur choix de décideur lorsque l’humain et l’algorithme avaient des taux de précision presque égaux.
• Les algorithmes plus rapides sont plus attrayants pour les consommateurs. Si l’algorithme était plus rapide, les participants l’ont choisi 57% pour cent du temps. Mais si un humain était tout aussi rapide, l’humain était choisi 48% du temps.

Le « quoi » et le « comment » pour les décideurs

Bambauer a déclaré qu’il espérait que l’étude amène les décideurs à poser deux questions clés avec des réponses difficiles : « Que devraient-ils faire ? et « Comment devraient-ils le faire? »

Le « Que doivent-ils faire ? » La question est difficile, en partie parce que les algorithmes sont utilisés dans un large éventail d’industries, ce qui signifie qu’une taille unique ne peut pas convenir à tous, a déclaré Bambauer. Les algorithmes manquent également d’un certain niveau de transparence auquel les régulateurs et les consommateurs s’attendent, a-t-il ajouté, car la forme la plus tangible des algorithmes est le code informatique, qui ressemble à du charabia pour la personne moyenne.

« Si Facebook publiait son algorithme demain, personne ne saurait ce que c’est », a déclaré Bambauer. « Pour la plupart d’entre nous, cela ne ferait pas une petite différence. »

En recherchant le « Comment devraient-ils le faire? » réponse, les décideurs devraient éviter d’essayer de simplement réguler les algorithmes hors d’existence, a déclaré Bambauer. En plus de ne pas être dans l’intérêt public, interdire purement et simplement aux sociétés de médias sociaux d’utiliser des algorithmes est « littéralement impossible », a-t-il déclaré.

« Le simple affichage des choses dans l’ordre chronologique est un algorithme », a-t-il ajouté. « Il n’y a tout simplement pas moyen de contourner cela. »

Les législateurs feraient bien de se tourner vers la fin des années 1980, a déclaré Bambauer, lorsque le Congrès a promulgué une loi obligeant les sociétés émettrices de cartes de crédit à fournir un aide-mémoire résumant les coûts de leurs cartes. Les graphiques contenant ces informations, appelés boîtes de Schumer, ont été nommés d’après le représentant de l’époque. Charles Schumer de New York, qui a parrainé la législation.

Cela pourrait servir de modèle, a déclaré Bambauer, pour informer les consommateurs sur les algorithmes qu’ils utilisent pour prendre des décisions. Il a déclaré que les propriétaires d’algorithmes pourraient être tenus de fournir des faits en langage clair sur ce que font leurs algorithmes, tels que : « En utilisant un algorithme, nous vous faisons économiser de l’argent » ou, « En utilisant un algorithme, nous faisons moins d’erreurs ».

Bambauer et Risch proposent une analyse plus approfondie de leurs recommandations politiques dans un essai récent publié sur TechStream, un site Web de la Brookings Institution qui couvre la politique technologique.

Bien que les solutions politiques pour remédier aux lacunes des algorithmes ne soient pas encore claires, Bambauer a déclaré que la boîte Schumer montre que les législateurs ont déjà les outils pour élaborer de telles solutions. Il voit un avenir dans lequel les systèmes de prise de décision impliquent probablement à la fois des humains et des algorithmes.

« La bonne chose à faire », a-t-il dit, « est de trouver un endroit où nous devrions avoir la personne et de trouver l’endroit où nous devrions avoir le code. »