Twitter abandonne l’algorithme de recadrage d’image après avoir trouvé un biais

Twitter a déclaré mercredi qu’il abandonnait un système de recadrage d’images automatisé après que son examen ait trouvé un biais dans l’algorithme contrôlant la fonction.

La plate-forme de messagerie a déclaré avoir trouvé que l’algorithme offrait un « traitement inégal basé sur des différences démographiques » avec les Blancs et les hommes privilégiés par rapport aux Noirs et aux femmes, et un biais d ‘ »objectivation » axé sur la poitrine ou les jambes d’une femme, décrit comme un « regard masculin ».

La nouvelle intervient un mois après que Twitter a annoncé le lancement d’une initiative d’équité algorithmique dans le cadre d’un effort visant à réduire les biais sur sa plate-forme introduits par l’automatisation.

Twitter en 2018 a introduit un algorithme dit de saillance pour recadrer les images, visant à améliorer la cohérence de la taille des photos dans sa chronologie et à se concentrer sur leurs éléments les plus importants.

Rumman Chowdhury, responsable de l’ingénierie logicielle de Twitter et spécialiste de l’éthique et de l’intelligence artificielle, a déclaré que la société avait déterminé après son examen qu’il était préférable de laisser les décisions de recadrage aux utilisateurs.

«Nous avons examiné les compromis entre la vitesse et la cohérence du recadrage automatisé avec les risques potentiels que nous avons constatés dans cette recherche», a-t-elle déclaré dans un article de blog.

« L’une de nos conclusions est que tout sur Twitter n’est pas un bon candidat pour un algorithme, et dans ce cas, comment recadrer une image est une décision qui est mieux prise par les gens. »

L’annonce intervient au milieu des préoccupations accrues concernant les algorithmes avancés qui peuvent fournir des résultats biaisés en raison d’un manque de données sur les minorités ou d’autres facteurs.

Cette semaine, Amazon a déclaré qu’il étendait l’interdiction de l’utilisation par les forces de l’ordre de sa technologie de reconnaissance faciale, craignant que ses défauts ne puissent amplifier les préjugés raciaux.

L’initiative de Twitter appelle à «prendre la responsabilité de nos décisions algorithmiques» dans le but «d’équité et de justesse des résultats», selon l’entreprise.

© 2021 AFP