Twitter offrira une « prime » pour trouver un biais algorithmique

Twitter a déclaré vendredi qu’il offrirait une « prime » en espèces aux utilisateurs et aux chercheurs pour aider à éliminer les biais algorithmiques sur la plate-forme de médias sociaux.

La société de technologie de San Francisco a déclaré qu’il s’agirait du « premier concours de primes de biais algorithmique de l’industrie », avec des prix allant jusqu’à 3 500 $.

La compétition est basée sur les programmes de « bug bounty » que certains sites Web et plates-formes proposent pour trouver des failles de sécurité et des vulnérabilités, selon les dirigeants de Twitter Rumman Chowdhury et Jutta Williams.

« Il est difficile de trouver des biais dans les modèles d’apprentissage automatique, et parfois, les entreprises découvrent des dommages éthiques involontaires une fois qu’elles ont déjà atteint le public », ont écrit Chowdhury et Williams dans un article de blog.

« Nous voulons changer ça. »

Ils ont déclaré que le modèle de prime des pirates était prometteur pour trouver un biais algorithmique.

« Nous sommes inspirés par la façon dont les communautés de recherche et de pirates informatiques ont aidé le domaine de la sécurité à établir les meilleures pratiques pour identifier et atténuer les vulnérabilités afin de protéger le public », ont-ils écrit.

« Nous voulons cultiver une communauté similaire… pour une identification proactive et collective des dommages algorithmiques. »

Cette décision intervient dans un contexte de préoccupations croissantes concernant les systèmes algorithmiques automatisés, qui, malgré un effort de neutralité, peuvent incorporer des préjugés raciaux ou autres.

Twitter, qui a lancé plus tôt cette année une initiative d’équité algorithmique, a déclaré en mai qu’il abandonnait un système automatisé de recadrage d’images après que son examen ait révélé un biais dans l’algorithme contrôlant la fonction.

La plate-forme de messagerie a déclaré avoir trouvé que l’algorithme offrait un « traitement inégal basé sur les différences démographiques », avec les Blancs et les hommes favorisés par rapport aux Noirs et aux femmes, et un biais « d’objectivation » qui se concentrait sur la poitrine ou les jambes d’une femme, décrit comme « le regard masculin.  »

© 2021 AFP