Les biais dans les algorithmes blessent ceux qui recherchent des informations sur la santé

Le Health Information National Trends Survey signale que 75% des Américains vont d'abord sur Internet lorsqu'ils recherchent des informations sur des sujets médicaux ou de santé. YouTube est l'une des plateformes en ligne les plus populaires, avec des milliards de vues chaque jour, et est devenue une source importante d'informations sur la santé.

Plusieurs agences de santé publique, telles que les services de santé de l'État, ont investi des ressources dans YouTube comme canal de communication sur la santé. Les patients souffrant de problèmes de santé chroniques s'appuient en particulier sur les médias sociaux, y compris les vidéos YouTube, pour en savoir plus sur la gestion de leur état.

Mais les recommandations vidéo sur ces sites pourraient exacerber les disparités préexistantes en matière de santé.

On estime qu'une fraction importante de la population américaine a une connaissance limitée de la santé ou la capacité d'obtenir, de traiter et de comprendre des informations de base sur la santé, telles que la capacité de lire et de comprendre des bouteilles de prescription, des bons de rendez-vous ou des instructions de sortie de dispensaires.

Des études sur la littératie en santé, comme l'Évaluation nationale de la littératie des adultes réalisée en 2003, estimaient que seulement 12% des adultes possédaient des compétences en littératie en santé. Cela a été corroboré dans des études ultérieures.

Je suis professeur de systèmes d'information et mes propres recherches ont examiné comment les plateformes de médias sociaux telles que YouTube élargissent ces disparités en matière de littératie en santé en orientant les utilisateurs vers un contenu douteux.

Sur Youtube

En extrayant des milliers de vidéos prétendument sur le diabète, j'ai vérifié si les informations affichées étaient conformes aux directives médicales en vigueur.

J'ai trouvé que les vidéos les plus populaires et les plus engageantes sont beaucoup moins susceptibles d'avoir des informations médicalement valides.

Les utilisateurs rencontrent généralement des vidéos sur les conditions de santé grâce à des recherches de mots clés sur YouTube. YouTube fournit ensuite des liens vers des informations médicales authentifiées, telles que les résultats les mieux classés. Plusieurs d'entre eux sont produits par des organismes de santé réputés.

Récemment, YouTube a ajusté la façon dont les résultats de recherche sont affichés, permettant aux résultats d'être classés par «pertinence» et fournissant des liens vers des informations médicales vérifiées.

Cependant, lorsque j'ai recruté des médecins pour regarder les vidéos et les évaluer si elles seraient considérées comme valides et compréhensibles du point de vue de l'éducation des patients, ils ont mal évalué les recommandations de YouTube.

J'ai trouvé que les vidéos les plus populaires sont celles qui ont tendance à contenir des informations facilement compréhensibles mais qui ne sont pas toujours médicalement valables. Une étude sur les vidéos les plus populaires sur COVID-19 a également révélé qu'un quart des vidéos ne contenaient pas d'informations médicalement valables.

Le fossé de la littératie en santé

En effet, les algorithmes qui sous-tendent les recommandations sur les plateformes de médias sociaux sont biaisés vers l'engagement et la popularité.

Sur la base de la façon dont les plateformes numériques fournissent des informations pour rechercher des requêtes, un utilisateur ayant une plus grande connaissance de la santé est plus susceptible de découvrir des conseils médicaux utilisables d'un fournisseur de soins de santé réputé, comme la clinique Mayo. Le même algorithme orientera un utilisateur moins instruit vers de faux traitements ou des conseils médicaux trompeurs.

Cela pourrait être particulièrement nocif pour les groupes minoritaires. Des études sur la littératie en santé aux États-Unis ont révélé que l'impact d'une littératie en santé limitée affecte de façon disproportionnée les minorités.

Nous n'avons pas suffisamment d'études sur l'état de la littératie en santé parmi les populations minoritaires, en particulier dans les zones urbaines. Il est donc difficile de concevoir une communication sur la santé destinée aux minorités et des interventions pour améliorer l'utilisation des ressources de santé existantes.

Il peut également y avoir des barrières culturelles concernant les soins de santé dans les populations minoritaires qui aggravent les barrières à l'alphabétisation. L'éducation insuffisante et le manque d'autogestion des soins chroniques ont également été soulignés comme des défis pour les minorités.

Biais algorithmiques

Corriger les biais algorithmiques et fournir de meilleures informations aux utilisateurs des plates-formes technologiques contribuerait grandement à promouvoir l'équité.

Par exemple, une étude pionnière du projet Gender Shades a examiné les disparités dans l'identification du sexe et du type de peau entre les différentes sociétés qui fournissent des logiciels commerciaux de reconnaissance faciale. Il a conclu que les entreprises pouvaient progresser dans la réduction de ces disparités une fois les problèmes signalés.

Selon certaines estimations, Google reçoit quotidiennement plus d'un milliard de questions de santé. En particulier, ceux qui ont peu de connaissances en santé ont un risque important de rencontrer des informations médicalement non fondées, telles que des mythes populaires ou des théories du complot actives qui ne sont pas fondées sur des preuves scientifiques.

Le Forum économique mondial a qualifié la désinformation liée à la santé d '"infodémique". Les plateformes numériques où tout le monde peut s'engager les rendent également vulnérables à la désinformation, accentuant les disparités en matière de littératie en santé, comme le montre mon propre travail.

Les médias sociaux et les sociétés de recherche se sont associés à des organisations de santé telles que la Mayo Clinic pour fournir des informations validées et réduire la propagation de la désinformation. Pour rendre les informations sur la santé sur YouTube plus équitables, ceux qui conçoivent des algorithmes de recommandation devraient intégrer les commentaires des cliniciens et des patients ainsi que des utilisateurs finaux.

Cet article est republié de The Conversation sous une licence Creative Commons. Lisez l'article original.