Le monde pèse les lois pour maîtriser les puissants algorithmes

À partir des vidéos YouTube qui nous sont recommandées pour décider qui obtient un emploi, les algorithmes exercent une influence toujours croissante sur nos vies et les décideurs politiques du monde entier veulent les maîtriser.

Alors que la Chine s’inquiète des algorithmes d’applications de livraison qui encouragent leurs chauffeurs à accélérer, les législateurs américains sont aux prises avec des systèmes de recommandation sur les réseaux sociaux qui ont envoyé certains utilisateurs dans des terriers dangereux.

conscients à quel point leur expérience sur ces plateformes est manipulée », a écrit John Thune, l’un des nombreux sénateurs américains proposant une nouvelle législation sur les médias sociaux, dans un éditorial de CNN.

Facebook a fait l’objet de vives critiques après qu’un dénonciateur a révélé que les dirigeants savaient que l’algorithme du site faisait systématiquement la promotion de messages incendiaires dans les fils d’actualité des gens, alimentant la division et les troubles de l’Inde à l’Éthiopie.

Frances Haugen, l’ancienne ingénieure Facebook à l’origine des révélations, pense que les gens méritent d’en savoir plus sur la façon dont le contenu qu’ils voient est façonné par le fouillis de données qui alimente la machine des médias sociaux.

« Je pense que si nous disons simplement » nous allons réglementer les algorithmes « , c’est tellement amorphe », a déclaré Haugen à l’AFP dans une interview la semaine dernière.

« Je pense qu’il est plus puissant de dire: » Hé Facebook, vous avez beaucoup plus de transparence que nous «  », et forcer l’entreprise à en révéler davantage sur le fonctionnement de ses systèmes, a-t-elle déclaré.

Des réseaux sociaux plus ennuyeux ?

Les militants et les législateurs peuvent convenir que les algorithmes des géants de la technologie ont besoin d’une plus grande surveillance publique, mais comment y parvenir est une autre affaire.

« Il y a des questions vraiment difficiles sans réponse », a déclaré Daphne Keller, directrice de la réglementation des plates-formes au Stanford Cyber ​​Policy Center.

Dans l’Union européenne, où les législateurs débattent de deux vastes textes législatifs sur la technologie, « certaines propositions disent que les algorithmes devraient donner la priorité aux sources d’information faisant autorité, et d’autres disent qu’ils devraient donner la priorité aux sources diverses », a noté Keller.

« Comment conciliez-vous ces deux objectifs ? »

La voie à suivre est tout aussi floue aux États-Unis, où des dizaines d’amendements juridiques ont été proposés par des législateurs déchirés par la question de savoir exactement ce qu’il faut corriger dans les médias sociaux.

« À gauche, les gens n’aiment pas toutes les choses nuisibles comme les discours de haine et la désinformation ; à droite, les gens pensent que leur liberté d’expression leur est retirée », a résumé Noah Giansiracusa, auteur de « How Algorithms Create and Prevent Fake News « .

Les politiciens et les universitaires ont suggéré divers moyens de limiter les effets secondaires néfastes des algorithmes des médias sociaux, aucun sans leurs complications.

Certains suggèrent que des plateformes comme Facebook et Twitter pourraient être légalement responsables de ce qu’elles publient, ce qui les découragerait d’amplifier les messages qui propagent la haine ou la désinformation.

Mais aux États-Unis, où sont basés la plupart des géants des médias sociaux, Giansiracusa a déclaré que cela ferait rapidement face à des défis juridiques de la part de critiques accusant cela de violer le droit à la liberté d’expression.

Alternativement, les gouvernements pourraient restreindre la capacité des réseaux sociaux à personnaliser ce que les gens voient dans leurs flux.

YouTube et Facebook ont ​​été accusés de radicaliser involontairement certaines personnes de cette manière, les alimentant poste après poste de contenu chargé de théories du complot.

Les sociétés de médias sociaux pourraient être obligées de simplement afficher les publications des personnes dans l’ordre chronologique, mais cela risque de rendre le défilement d’un flux plus ennuyeux.

Les algorithmes ne seraient plus en mesure de calculer ce qu’un utilisateur trouvera probablement intéressant – une photo d’un ami proche en train de se marier, par exemple – tout en déclassant les messages fastidieux sur ce qu’une connaissance a eu pour le déjeuner.

« Il n’y a pas de solution simple », a conclu Giansiracusa.

Les ordures dedans, les ordures dehors

Au-delà des médias sociaux, la dépendance du monde à l’égard de la technologie numérique signifie que les algorithmes affectent de plus en plus les résultats du monde réel, parfois de manière drastique.

Le chien de garde du cyberespace chinois réfléchit à une nouvelle réglementation des algorithmes des entreprises technologiques, notamment après avoir critiqué la façon dont les applications de livraison de nourriture comme Meituan et Ele.me d’Alibaba traitent les travailleurs de concert financièrement vulnérables.

De telles applications ont fait l’objet de critiques pour avoir réduit le salaire des conducteurs s’ils n’arrivent pas assez rapidement, encourageant ainsi la conduite imprudente.

Et des études ont montré comment l’intelligence artificielle peut s’avérer raciste ou sexiste, des outils d’analyse de curriculum vitae qui favorisent les candidats masculins, aux logiciels américains d’évaluation des risques qui recommandent plus fréquemment la libération conditionnelle aux prisonniers blancs que leurs homologues noirs.

Les deux sont des exemples d’un principe informatique connu sous le nom de « garbage in, garbage out » – l’idée que les algorithmes peuvent reproduire les biais humains s’ils sont alimentés par des données intégrées avec ces biais.

Les régulateurs cherchent de plus en plus des moyens d’empêcher ces résultats discriminatoires, la Federal Trade Commission des États-Unis signalant qu’elle pénalisera les entreprises qui vendent des algorithmes biaisés.

« La façon dont les algorithmes façonnent notre fil d’actualité est importante », a déclaré Keller. « Mais lorsque les algorithmes envoient des gens en prison ou leur refusent un emploi, cela n’attire pas suffisamment l’attention. »

© 2021 AFP