Facebook s’est figé alors que les commentaires anti-vaccins envahissaient les utilisateurs

En mars, alors que les affirmations sur les dangers et l’inefficacité des vaccins contre le coronavirus se répandaient sur les réseaux sociaux et sapaient les tentatives d’arrêter la propagation du virus, certains employés de Facebook pensaient avoir trouvé un moyen d’aider.

En modifiant subtilement le classement des articles sur les vaccins dans les fils d’actualité des gens, les chercheurs de l’entreprise ont réalisé qu’ils pouvaient réduire les informations trompeuses que les individus voyaient sur les vaccins COVID-19 et offrir aux utilisateurs des articles provenant de sources légitimes comme l’Organisation mondiale de la santé.

« Compte tenu de ces résultats, je suppose que nous espérons lancer dès que possible », a écrit un employé de Facebook en mars, répondant à la note interne sur l’étude.

Au lieu de cela, Facebook a mis de côté certaines suggestions de l’étude. D’autres changements n’ont été apportés qu’en avril.

Lorsqu’un autre chercheur de Facebook a suggéré de désactiver les commentaires sur les publications sur les vaccins en mars jusqu’à ce que la plate-forme puisse faire un meilleur travail pour lutter contre les messages anti-vaccins qui s’y cachent, cette proposition a été ignorée.

Les critiques disent que Facebook a été lent à agir car il craignait que cela n’affecte les bénéfices de l’entreprise.

« Pourquoi ne supprimeriez-vous pas les commentaires ? Parce que l’engagement est la seule chose qui compte », a déclaré Imran Ahmed, PDG du Center for Countering Digital Hate, un groupe de surveillance d’Internet. « Cela attire l’attention et l’attention est égale aux globes oculaires et les globes oculaires sont égaux aux revenus publicitaires. »

Dans un communiqué envoyé par e-mail, Facebook a déclaré avoir fait des « progrès considérables » cette année en réduisant la désinformation sur les vaccins dans les flux des utilisateurs.

Les discussions internes de Facebook ont ​​été révélées dans des divulgations faites à la Securities and Exchange Commission et fournies au Congrès sous une forme rédigée par le conseiller juridique de l’ancienne employée de Facebook devenue dénonciatrice, Frances Haugen. Les versions rédigées reçues par le Congrès ont été obtenues par un consortium d’organisations de presse, dont l’Associated Press.

La mine de documents montre qu’au milieu de la pandémie de COVID-19, Facebook a soigneusement enquêté sur la façon dont ses plateformes ont diffusé des informations erronées sur les vaccins salvateurs. Ils révèlent également que des employés de base ont régulièrement suggéré des solutions pour contrer la désinformation anti-vaccin sur le site, en vain. Le Wall Street Journal a rendu compte de certains des efforts de Facebook pour faire face aux commentaires anti-vaccins le mois dernier.

L’inaction soulève des questions quant à savoir si Facebook a priorisé la controverse et la division sur la santé de ses utilisateurs.

« Ces personnes vendent la peur et l’indignation », a déclaré Roger McNamee, un investisseur en capital-risque de la Silicon Valley et un des premiers investisseurs de Facebook, qui est désormais un critique virulent. « Ce n’est pas un coup de chance. C’est un modèle commercial. »

En règle générale, Facebook classe les publications par engagement, c’est-à-dire le nombre total de likes, d’aversions, de commentaires et de partages. Ce système de classement peut bien fonctionner pour des sujets inoffensifs comme des recettes, des photos de chiens ou les derniers chants viraux. Mais les propres documents de Facebook montrent que lorsqu’il s’agit de questions controversées et controversées comme les vaccins, le classement basé sur l’engagement ne fait que souligner la polarisation, le désaccord et le doute.

Pour étudier les moyens de réduire la désinformation sur les vaccins, les chercheurs de Facebook ont ​​modifié le classement des publications pour plus de 6 000 utilisateurs aux États-Unis, au Mexique, au Brésil et aux Philippines. Au lieu de voir des articles sur les vaccins choisis en fonction de leur engagement, ces utilisateurs ont vu des articles sélectionnés pour leur fiabilité.

Les résultats ont été frappants : une diminution de près de 12 % du contenu faisant intervenir des allégations démystifiées par les vérificateurs des faits et une augmentation de 8 % du contenu provenant d’organisations de santé publique faisant autorité telles que l’OMS ou les Centers for Disease Control des États-Unis.

Les salariés de l’entreprise ont réagi avec exubérance, selon des échanges internes.

« Y a-t-il une raison pour laquelle nous ne ferions pas cela ? un employé de Facebook a écrit en réponse.

Facebook a déclaré avoir mis en œuvre bon nombre des conclusions de l’étude, mais pas avant un mois, un retard qui est intervenu à une étape cruciale du déploiement mondial du vaccin.

Dans un communiqué, la porte-parole de l’entreprise, Dani Lever, a déclaré que les documents internes « ne représentent pas les progrès considérables que nous avons réalisés depuis lors dans la promotion d’informations fiables sur COVID-19 et l’élargissement de nos politiques pour éliminer les COVID-19 plus nocifs et la désinformation sur les vaccins ».

La société a également déclaré qu’il avait fallu du temps pour examiner et mettre en œuvre les changements.

Pourtant, la nécessité d’agir de toute urgence n’aurait pas pu être plus claire : à cette époque, les États des États-Unis déployaient des vaccins pour leurs plus vulnérables, les personnes âgées et les malades. Et les responsables de la santé publique étaient inquiets. Seulement 10 % de la population avait reçu sa première dose d’un vaccin COVID-19. Et un tiers des Américains pensaient à sauter complètement le coup, selon un sondage de l’Associated Press-NORC Center for Public Affairs Research.

Malgré cela, les employés de Facebook ont ​​reconnu qu’ils n’avaient « aucune idée » à quel point le sentiment anti-vaccin était mauvais dans les sections de commentaires sur les publications Facebook. Mais les recherches de l’entreprise en février ont révélé que jusqu’à 60% des commentaires sur les publications sur les vaccins étaient anti-vaccins ou réticents aux vaccins.

Pire encore, les employés de l’entreprise ont admis qu’ils n’avaient pas la possibilité de capter ces commentaires, ni de politique en place pour les supprimer.

« Notre capacité à détecter (l’hésitation au vaccin) dans les commentaires est mauvaise en anglais – et pratiquement inexistante ailleurs », a déclaré une autre note interne publiée le 2 mars.

Derek Beres, un résident de Los Angeles, auteur et instructeur de fitness, voit le contenu anti-vaccin prospérer dans les commentaires chaque fois qu’il fait la promotion des vaccinations sur ses comptes sur Instagram, qui appartient à Facebook. L’année dernière, Beres a commencé à héberger un podcast après avoir remarqué des théories du complot sur COVID-19 et des vaccins tourbillonnaient sur les flux de médias sociaux des influenceurs de la santé et du bien-être.

Plus tôt cette année, lorsque Beres a publié une photo de lui recevant le tir COVID-19, certains sur les réseaux sociaux lui ont dit qu’il tomberait probablement mort dans six mois.

« La section des commentaires est un incendie de poubelle pour tant de gens », a déclaré Beres.

Certains employés de Facebook ont ​​suggéré de désactiver tous les commentaires sur les publications sur les vaccins pendant que l’entreprise travaillait sur une solution.

« Très intéressé par votre proposition de supprimer TOUS les commentaires en ligne pour les publications sur les vaccins comme solution provisoire jusqu’à ce que nous puissions détecter suffisamment l’hésitation vaccinale dans les commentaires pour affiner notre suppression », a écrit un employé de Facebook le 2 mars.

La suggestion n’est allée nulle part.

Au lieu de cela, le PDG de Facebook, Mark Zuckerberg, a annoncé le 15 mars que la société commencerait à étiqueter les publications sur les vaccins les décrivant comme sûrs.

Cette décision a permis à Facebook de continuer à obtenir un engagement élevé et, en fin de compte, à tirer profit des commentaires anti-vaccins, a déclaré Ahmed du Center for Countering Digital Hate.

« Facebook a pris des décisions qui ont conduit des personnes à recevoir des informations erronées et à mourir », a déclaré Ahmed. « À ce stade, il devrait y avoir une enquête pour meurtre. »

© 2021 La Presse Associée. Tous les droits sont réservés. Ce matériel ne peut pas être publié, diffusé, réécrit ou redistribué sans autorisation.