Existe-t-il un algorithme sûr ? Le débat sur la réglementation prend de l’ampleur

Depuis que Frances Haugen, une ancienne employée de Facebook, a fourni des informations troublantes sur les dommages de grande envergure causés par les algorithmes de l’entreprise, les discussions sur les réformes réglementaires potentielles n’ont fait que s’intensifier.

Il existe désormais un large consensus parmi les experts et les politiciens sur le fait que des modifications réglementaires sont nécessaires pour protéger les utilisateurs, en particulier les jeunes enfants et les filles, qui sont vulnérables aux problèmes de santé mentale et d’image corporelle liés aux algorithmes de la plate-forme de médias sociaux. Plusieurs changements ont été annoncés, des amendements à l’article 230 de la loi fédérale sur la décence des communications – la loi qui régit la responsabilité des fournisseurs de services, y compris Internet – aux mandats de transparence qui donneraient aux experts externes un accès au fonctionnement interne d’entreprises technologiques comme Facebook. .

Mais, étant donné l’attente de la liberté d’expression en ligne, les législateurs devront faire preuve de créativité. Une solution potentielle consiste à créer une nouvelle agence fédérale chargée de réglementer les sociétés de médias sociaux, comme cela a été fait avec le Consumer Financial Protection Bureau à la suite de la crise financière de 2008, mais cela soulève des questions sur la façon dont le processus politique et les partis différentes idées sur la vie privée et la liberté d’expression viendraient à influencer un tel effort, disent plusieurs experts du Nord-Est.

« Je me demande si les parties accepteraient un jour de créer une agence spéciale ou d’augmenter le [Federal Communications Commission] de manière à conférer plus de pouvoir réglementaire au gouvernement fédéral », a déclaré David Lazer, professeur distingué de science politique et d’informatique à l’université Northeastern.

Une nouvelle agence pourrait aider à décharger certaines des charges réglementaires auxquelles la Federal Trade Commission est confrontée, mais elle pourrait également s’avérer être une arme politique dangereuse qu’aucune des parties ne voudrait que l’autre ait, dit Lazer.

Quoi qu’il en soit, il doit y avoir « plus de mécanismes pour rendre Facebook plus transparent », dit-il.

« Le problème est qu’une fois que vous avez la transparence, tout le monde voit quelque chose de différent », explique Lazer.

Témoignant devant le Congrès la semaine dernière, Haugen a aidé à faire la lumière sur la façon dont Facebook, qui possède également Instagram et WhatsApp, a conçu des algorithmes qui ont promu un contenu haineux, dommageable et problématique aux dépens de ses utilisateurs. Les documents que Haugen a partagés avec le Wall Street Journal le mois dernier ont montré que le géant de la technologie savait que ses algorithmes étaient nuisibles à la recherche interne, mais a choisi de garder l’information secrète.

Au cours du week-end, un haut dirigeant de Facebook a déclaré que la société soutenait l’accès des régulateurs à ses algorithmes et une plus grande transparence plus largement.

Il est important de « démystifier » le fonctionnement réel de ces technologies, cachées derrière un voile de secret depuis des années, explique Woodrow Hartzog, professeur de droit et d’informatique spécialisé dans la protection des données et la vie privée.

On sait depuis des années, par exemple, que les algorithmes de Facebook amplifient ou optimisent les contenus qui suscitent l’indignation. Des révélations dans le Wall Street Journal ont montré que les propres recherches de Facebook ont ​​montré que ses algorithmes Instagram alimentent l’insécurité et contribuent aux problèmes de santé mentale, en promouvant un contenu qui glorifie les troubles de l’alimentation, par exemple, auprès des jeunes utilisatrices.

Plutôt que d’interdire l’amplification algorithmique, Hartzog dit qu’il devrait y avoir des garanties obligatoires qui surveillent les effets délétères des algorithmes de jus, ajoutant « il existe des choses telles que des algorithmes sûrs ». La vraie question, dit-il, est la suivante : pouvons-nous avoir une amplification algorithmique sûre ?

« Ils devraient être obligés d’agir d’une manière qui n’entre pas en conflit avec notre sécurité et notre bien-être », a déclaré Hartzog. « C’est une façon d’aborder ce problème qui n’interdit pas carrément l’amplification algorithmique. »

Hartzog a également suggéré que les régulateurs pourraient s’appuyer sur le concept de responsabilité fiduciaire et imposer « des devoirs de diligence, de confidentialité et de loyauté » aux entreprises technologiques, similaires aux devoirs auxquels les médecins, les avocats et les comptables sont tenus vis-à-vis de leurs les clients et les patients – seulement ici, ce serait en relation avec les utilisateurs finaux.

Le problème réside dans les incitations financières, soutient Hartzog, c’est pourquoi l’idée de transformer les entreprises technologiques en « fiduciaires de l’information » a fait son chemin. Les législateurs des États et du gouvernement fédéral examinent le modèle fiduciaire de l’information dans la législation en cours d’examen.

« Ce que j’aimerais voir sortir de cela… c’est une conversation plus profonde et plus large sur la façon de changer fondamentalement les incitations qui conduisent à toutes sortes de comportements nuisibles liés à la collecte et à l’utilisation d’informations privées », a déclaré Hartzog.