Parcourir les livres recommandés sur Amazon peut conduire à un terrier de lapin extrémiste

Les algorithmes de recommandation de livres d’Amazon qui aident les clients à découvrir de nouveaux titres peuvent avoir un côté sombre.

Un nouveau rapport de l’Institute for Strategic Dialogue indique que ces algorithmes orientent les gens vers des livres sur les théories du complot et l’extrémisme, leur présentant parfois le travail de théoriciens du complot qui ont été interdits par d’autres plates-formes en ligne.

Les personnes qui parcourent un livre sur un complot sur Amazon sont susceptibles d’obtenir des suggestions pour plus de livres sur ce sujet ainsi que des livres sur d’autres théories du complot sur tout, du vaccin QAnon au vaccin COVID-19, selon le rapport.

D’autres fonctionnalités, telles que la saisie automatique dans la barre de recherche et les suggestions de contenu pour l’auteur ou des auteurs similaires, peuvent également conduire les utilisateurs dans un terrier extrémiste, a déclaré Chloe Colliver, responsable de la politique et de la stratégie numériques chez ISD.

Le schéma est similaire aux problèmes observés sur d’autres grandes plates-formes en ligne comme YouTube de Google, dont les algorithmes ont été trouvés pour diriger les utilisateurs vers des contenus extrêmes, les aspirant dans des idéologies violentes.

« Etant donné que les vaccinations et les problèmes de COVID-19 sont actuellement au cœur des préoccupations de beaucoup, le potentiel de recommandation d’informations fausses ou extrémistes sur ces sujets est certainement préoccupant », a déclaré Colliver à US TODAY. «Le type de fausses informations recommandées par les algorithmes d’Amazon a été démontré dans le monde entier comme contribuant aux préjudices du monde réel.

Colliver dit que l’ampleur de la menace est difficile à évaluer sans plus de transparence d’Amazon, qui domine le secteur de la vente de livres.

« Cependant, ces systèmes de recommandation sont un rouage central du modèle commercial d’Amazon, de sorte que leurs effets négatifs ou dangereux potentiels doivent être mieux compris à la fois par l’entreprise elle-même et par les chercheurs et autorités indépendants », a-t-elle déclaré. « Étant donné à quel point les systèmes de recommandation sont vitaux pour les fonctions de vente d’Amazon, il est prudent de supposer que les recommandations de contenu extrémiste dangereux ou conspirationniste pourraient être extrêmement omniprésentes. »

Dans une déclaration à US TODAY, Amazon a déclaré: « Nous prenons au sérieux les préoccupations de l’Institute for Strategic Dialogue et nous nous engageons à offrir une expérience positive à nos clients. À l’instar d’autres magasins qui vendent des livres, nous fournissons à nos clients un accès à une variété des points de vue et nos outils de shopping et de découverte ne sont pas conçus pour générer des résultats orientés vers un point de vue spécifique. « 

Les médias sociaux et d’autres entreprises technologiques ont pris des mesures de plus en plus agressives pour éliminer les recommandations de désinformation ou de contenu extrémiste qui constituent une menace publique.

Sur les pages de livres, Amazon recommande d’autres livres aux utilisateurs de plusieurs manières, y compris « les clients qui ont acheté cet article ont également acheté », « les clients qui ont consulté cet article ont également consulté » et « quels autres articles les clients voient-ils après avoir vu cet article? » Des annonces payantes apparaissent parfois également pour promouvoir des « produits liés à cet article ».

« Pour la plupart des utilisateurs, ces recommandations sont au mieux un moyen utile de trouver de nouveaux contenus qui les intéressent, et au pire une irritation à ignorer sans danger », indique le rapport. «Pour les théoriciens du complot, les nationalistes blancs et les utilisateurs plongeant peut-être curieusement leurs orteils dans les eaux troubles du contenu extrémiste ou conspirateur, ces recommandations pourraient servir de porte d’entrée dans un univers plus large de théories du complot et de désinformation, ou vers un univers de plus en plus radical. contenu nationaliste droit et blanc. « 

Par exemple, les personnes qui parcourent un livre affirmant que les vaccins ne sont pas sûrs sont poussées vers d’autres titres anti-vaccins et vers le contenu de conspiration COVID-19, y compris un livre de Judy Mikovits, auteur de la vidéo largement démentie « Plandemic » qui a allégué que le Dr Anthony Fauci, le plus grand expert des maladies infectieuses du pays, avait fabriqué le virus responsable du COVID-19 et l’avait expédié en Chine.

« Une librairie n’a pas à héberger du contenu qu’elle juge être en dehors des intérêts de la plupart de ses clients. Il est également dans le pouvoir d’Amazon de définir des directives claires sur le type de contenu dont il s’agit et dont il n’est pas à l’aise de tirer profit », a déclaré Colliver mentionné. « Même sans supprimer complètement ce contenu, Amazon serait en mesure de réduire l’accessibilité du contenu potentiellement dangereux sur son site. »

© 2021 USA Today. Distribué par Tribune Content Agency, LLC.