Assurer la sécurité des jeunes nécessite une réponse mature, pas une panique morale

Vous avez peut-être lu récemment que TikTok aurait « servi » des vidéos de sexe et de drogue à des mineurs. Les médias ont décrit la plate-forme de partage de vidéos, conçue principalement pour les jeunes, comme une « machine à dépendance » qui promeut des contenus préjudiciables.

Dans une enquête, des journalistes du Wall Street Journal ont créé 31 comptes de robots sur TikTok, chacun programmé pour interagir uniquement avec des thèmes de contenu particuliers. De nombreux robots ont été enregistrés comme étant âgés de 13 à 15 ans, dont un programmé avec un intérêt pour les « drogues et la consommation de drogues », qui a finalement montré 569 vidéos liées aux drogues.

L’enquête visait à mieux comprendre comment l’algorithme de l’application sélectionne les vidéos pour les utilisateurs. Le fonctionnement de ces types d’algorithmes est un secret de l’industrie, mais on a beaucoup parlé de la capacité apparente de l’application à « savoir » ce que les utilisateurs veulent voir, et si les créateurs de contenu peuvent jouer avec le système et recueillir plus de vues.

L’article concluait que l’algorithme de TikTok « servait » activement du contenu de drogue aux mineurs, qui « n’avaient peut-être pas la capacité d’arrêter de regarder et n’avaient pas d’adultes de soutien autour d’eux » pour aider à modérer leurs opinions. Mais est-ce une conclusion raisonnable, et si oui, les parents devraient-ils s’inquiéter du contenu de drogue sur TikTok ?

L’article du Wall Street Journal ne fournit pas assez de détails pour nous permettre d’évaluer la rigueur de ses méthodes et la validité de ses conclusions. Cependant, il y a des raisons de soupçonner que la méthodologie est intrinsèquement imparfaite.

Un problème est qu’un bot conçu pour s’engager uniquement avec du contenu lié à un ensemble d’intérêts spécifique n’est pas un modèle très réaliste d’un utilisateur typique de médias sociaux. Les vrais humains n’ont pas une liste fixe d’intérêts en dehors desquels ils ne s’éloignent jamais – ils ont un large éventail d’intérêts et de curiosités.

Panique morale

L’anxiété et la panique morale autour des technologies appréciées des jeunes ne datent pas d’hier. Les craintes concernant les effets néfastes des médias sociaux existent depuis au moins un quart de siècle, depuis l’avènement de MySpace et même des plateformes antérieures dans les années 1990.

À leur tour, ces craintes concernant les préjudices causés aux enfants contribuent à alimenter les appels à une surveillance et à une censure accrues. Plusieurs pays comme l’Inde, le Pakistan et les États-Unis ont temporairement interdit TikTok ou envisagent de le faire. Les parents ont été encouragés à empêcher leurs enfants de l’utiliser et l’application a été invitée à censurer entièrement le contenu de la drogue.

TikTok propose la recette parfaite pour une technopanique. Le fonctionnement mystérieux de son algorithme et la nature spontanée dans laquelle les utilisateurs se voient proposer des vidéos dans leur flux « Pour vous », ont fait craindre la circulation de contenus inappropriés qui facilitent le toilettage sexuel ou une alimentation désordonnée. Ceci est exacerbé par le fait que la plate-forme est explicitement conçue pour attirer une jeune base d’utilisateurs.

Les jeunes, bien qu’étant des « natifs du numérique » et très habiles dans l’utilisation de la technologie, sont souvent considérés comme manquant de contrôle de leurs impulsions et vulnérables aux influences dangereuses. Pourtant, leurs voix sont largement exclues de ces conversations. Malgré leur expertise dans la navigation sur ces plateformes, les jeunes font parler d’eux plutôt que de leur parler.

Au lieu de supposer que les jeunes sont intrinsèquement déficients dans leur jugement, prendre leurs expériences et leur expertise au sérieux pourrait découvrir de nouvelles façons d’aborder les anciens problèmes. L’un des auteurs de cet article (Isabelle Volpe) étudie cela dans son doctorat en cours. recherche.

Contenu sur les drogues sur les réseaux sociaux

Un autre problème avec le cadrage de ces préoccupations morales est que tous les contenus liés à la drogue sur TikTok ne tolèrent pas nécessairement la consommation de drogue. TikTok fournit un forum pour toutes sortes de créateurs de contenu, dont certains consomment ouvertement des drogues et d’autres parlent de la consommation de drogues, de ses méfaits et risques potentiels.

Alors que la couverture médiatique traditionnelle et l’éducation aux drogues se concentrent généralement sur la criminalité, la toxicomanie ou la détresse, ces cadrages ne trouvent souvent pas écho auprès des jeunes, ce qui peut conduire à ce que les messages voulus ne soient pas pris au sérieux. En comparaison, les plateformes de médias sociaux offrent une exposition à un plus large éventail de points de vue sur la consommation de drogues.

Certains créateurs de contenu parlent de guérison de la dépendance (y compris des professionnels de la santé décrivant leur travail et des personnes donnant des témoignages de première main), tandis que d’autres donnent des conseils visant à réduire les méfaits potentiels pour les personnes qui consomment des drogues.

Il est aussi indéniable que certains créateurs rendent compte des plaisirs de la consommation de drogues récréatives. La consommation de drogue est complexe et évaluer le contenu de la drogue sur TikTok implique de brosser un tableau complexe.

Que devons-nous faire à propos de la drogue et de TikTok ?

Il est compréhensible que les parents considèrent TikTok comme un endroit dangereux. Mais il est important de se rappeler que toute plate-forme de médias sociaux peut proposer du contenu lié à la drogue. Les parents et les tuteurs peuvent aider les jeunes à naviguer dans ces espaces en ayant des conversations ouvertes et honnêtes sur les drogues, afin que les jeunes se sentent en sécurité et en confiance pour soulever des questions ou s’inquiéter de tout ce qu’ils voient en ligne.

TikTok offre également la possibilité de fournir des informations sur la santé fondées sur des preuves aux personnes qui consomment des drogues ou envisagent de le faire. Ces publics sont souvent considérés comme « difficiles à atteindre », en partie à cause de la stigmatisation sociale liée à la recherche d’informations sur les drogues.

Un algorithme capable d’identifier les personnes susceptibles de bénéficier d’informations factuelles sur les médicaments et de les leur fournir sans qu’elles les demandent explicitement, pourrait être un outil puissant pour la santé publique. Les professionnels de la santé utilisent déjà TikTok comme un moyen nouveau et engageant de partager des messages de santé publique, et TikTok a déjà introduit des avertissements de contenu de « vérification des faits » pour lutter contre la désinformation liée au COVID.

Une approche similaire pourrait être appliquée au contenu lié aux drogues, en dirigeant peut-être les utilisateurs vers des informations fiables sur la santé. Il n’y a pas de solution miracle au problème complexe de la désinformation ; nous devons utiliser une gamme de stratégies pour offrir des informations fiables à ceux qui en ont besoin.

Interdire tout contenu médicamenteux de TikTok pourrait être un cas pour jeter le bébé avec l’eau du bain, en supprimant également le contenu axé sur les informations sur la santé et la réduction des risques. Si nous voulons vraiment protéger les jeunes en ligne, nous devons être guidés par des preuves et non par la peur.

Cet article est republié à partir de The Conversation sous une licence Creative Commons. Lire l’article original.