Comment les moteurs de recherche diffusent la désinformation

Les moteurs de recherche sont l’une des principales portes d’accès de la société à l’information et aux personnes, mais ils sont également des vecteurs de désinformation. Semblables aux algorithmes problématiques des réseaux sociaux, les moteurs de recherche apprennent à vous servir ce sur quoi vous et les autres avez cliqué auparavant. Parce que les gens sont attirés par le sensationnel, cette danse entre algorithmes et nature humaine peut favoriser la propagation de la désinformation.

Les sociétés de moteurs de recherche, comme la plupart des services en ligne, gagnent de l’argent non seulement en vendant des publicités, mais également en suivant les utilisateurs et en vendant leurs données via des enchères en temps réel. Les gens sont souvent amenés à la désinformation par leur désir de nouvelles sensationnelles et divertissantes ainsi que d’informations qui sont soit controversées, soit confirment leurs opinions. Une étude a révélé que les vidéos YouTube les plus populaires sur le diabète sont moins susceptibles de contenir des informations médicalement valides que les vidéos moins populaires sur le sujet, par exemple.

Les moteurs de recherche axés sur les publicités, comme les plateformes de médias sociaux, sont conçus pour récompenser les clics sur des liens attrayants, car ils aident les sociétés de recherche à améliorer leurs statistiques commerciales. En tant que chercheur qui étudie les systèmes de recherche et de recommandation, mes collègues et moi-même montrons que cette combinaison dangereuse de motivation commerciale et de vulnérabilité individuelle rend le problème difficile à résoudre.

Comment les résultats de recherche tournent mal

Lorsque vous cliquez sur un résultat de recherche, l’algorithme de recherche apprend que le lien sur lequel vous avez cliqué est pertinent pour votre requête de recherche. C’est ce qu’on appelle le retour d’information sur la pertinence. Ces commentaires aident le moteur de recherche à donner plus de poids à ce lien pour cette requête à l’avenir. Si suffisamment de personnes cliquent sur ce lien suffisamment de fois, donnant ainsi des commentaires forts sur la pertinence, ce site Web commence à apparaître plus haut dans les résultats de recherche pour cela et les requêtes associées.

Les gens sont plus susceptibles de cliquer sur les liens affichés plus haut dans la liste des résultats de recherche. Cela crée une boucle de rétroaction positive: plus un site Web apparaît haut, plus il y a de clics, ce qui, à son tour, fait évoluer ce site Web ou le maintenir plus haut. Les techniques d’optimisation des moteurs de recherche utilisent ces connaissances pour augmenter la visibilité des sites Web.

Il y a deux aspects à ce problème de désinformation: comment un algorithme de recherche est évalué et comment les humains réagissent aux titres, aux titres et aux extraits. Les moteurs de recherche, comme la plupart des services en ligne, sont évalués à l’aide d’un éventail de paramètres, dont l’un est l’engagement des utilisateurs. Il est dans le meilleur intérêt des sociétés de moteurs de recherche de vous donner des choses que vous souhaitez lire, regarder ou simplement cliquer. Par conséquent, lorsqu’un moteur de recherche ou tout système de recommandation crée une liste d’éléments à présenter, il calcule la probabilité que vous cliquiez sur les éléments.

Traditionnellement, cela visait à faire ressortir les informations les plus pertinentes. Cependant, la notion de pertinence est devenue floue parce que les gens utilisent la recherche pour trouver des résultats de recherche divertissants ainsi que des informations vraiment pertinentes.

Imaginez que vous recherchez un accordeur de piano. Si quelqu’un vous montre une vidéo d’un chat jouant du piano, cliqueriez-vous dessus? Beaucoup le feraient, même si cela n’a rien à voir avec l’accord de piano. Le service de recherche se sent validé avec des commentaires positifs sur la pertinence et apprend qu’il est acceptable de montrer un chat jouant du piano lorsque les gens recherchent des accordeurs de piano.

En fait, c’est encore mieux que de montrer les résultats pertinents dans de nombreux cas. Les gens aiment regarder des vidéos amusantes de chats, et le système de recherche obtient plus de clics et d’engagement des utilisateurs.

Cela peut sembler inoffensif. Alors, que faire si les gens sont distraits de temps en temps et cliquent sur des résultats qui ne sont pas pertinents pour la requête de recherche? Le problème est que les gens sont attirés par des images passionnantes et des titres sensationnels. Ils ont tendance à cliquer sur les théories du complot et les nouvelles sensationnalistes, pas seulement les chats jouant du piano, et le font plus que de cliquer sur de vraies nouvelles ou des informations pertinentes.

Araignées célèbres mais fausses

En 2018, les recherches de « nouvelle araignée mortelle » ont augmenté sur Google à la suite d’un message Facebook affirmant qu’une nouvelle araignée mortelle avait tué plusieurs personnes dans plusieurs États. Mes collègues et moi avons analysé les 100 premiers résultats de la recherche Google pour « nouvelle araignée mortelle » au cours de la première semaine de cette requête sur les tendances.

Il s’est avéré que cette histoire était fausse, mais les personnes qui la recherchaient ont été largement exposées à la désinformation liée au faux post original. Alors que les gens continuaient de cliquer et de partager ces informations erronées, Google a continué à diffuser ces pages en haut des résultats de recherche.

Ce modèle d’histoires passionnantes et non vérifiées émergeant et les gens qui cliquent dessus se poursuit, les gens étant apparemment indifférents à la vérité ou croyant que si un service de confiance tel que Google Search leur montre ces histoires, les histoires doivent être vraies. Plus récemment, un rapport réfuté affirmant que la Chine a laissé le coronavirus fuir d’un laboratoire a gagné du terrain sur les moteurs de recherche en raison de ce cercle vicieux.

Repérez la désinformation

Pour tester dans quelle mesure les gens font la distinction entre des informations exactes et des informations erronées, nous avons conçu un jeu simple appelé « Google Or Not ». Ce jeu en ligne montre deux ensembles de résultats pour la même requête. L’objectif est simple: choisissez l’ensemble qui est fiable, digne de confiance ou le plus pertinent.

L’un de ces deux ensembles a un ou deux résultats qui sont soit vérifiés et étiquetés comme de la désinformation, soit comme une histoire démystifiée. Nous avons rendu le jeu accessible au public et annoncé via divers canaux de médias sociaux. Dans l’ensemble, nous avons recueilli 2 100 réponses de plus de 30 pays.

Lorsque nous avons analysé les résultats, nous avons constaté qu’environ la moitié du temps, les gens choisissaient par erreur comme digne de confiance l’ensemble avec un ou deux résultats de désinformation. Nos expériences avec des centaines d’autres utilisateurs sur de nombreuses itérations ont abouti à des résultats similaires. En d’autres termes, environ la moitié du temps, les gens choisissent des résultats contenant des théories du complot et de fausses nouvelles. Au fur et à mesure que de plus en plus de gens choisissent ces résultats inexacts et trompeurs, les moteurs de recherche apprennent que c’est ce que les gens veulent.

Outre les questions de régulation et d’autorégulation des Big Tech, il est important que les gens comprennent comment ces systèmes fonctionnent et comment ils gagnent de l’argent. Sinon, les économies de marché et la propension naturelle des gens à être attirés par des liens accrocheurs maintiendront le cercle vicieux.

Cet article est republié à partir de The Conversation sous une licence Creative Commons. Lisez l’article original.