Pourquoi les entreprises de médias sociaux doivent être freinées

En septembre, le le journal Wall Street a publié les fichiers Facebook. S’appuyant sur des milliers de documents divulgués par la dénonciatrice et ancienne employée Frances Haugen, les fichiers Facebook montrent que l’entreprise sait que leurs pratiques nuisent aux jeunes, mais n’agit pas, préférant le profit de l’entreprise au bien public.

Les fichiers Facebook sont accablants pour l’entreprise, qui possède également Instagram et WhatsApp. Cependant, ce n’est pas la seule entreprise de médias sociaux qui compromet les droits et le bien-être des jeunes protégés au niveau international en privilégiant les profits.

En tant que chercheurs et experts sur les droits des enfants, la confidentialité et l’égalité en ligne et les risques, préjudices et récompenses en ligne auxquels les jeunes sont confrontés, les nouvelles des dernières semaines ne nous ont pas surpris.

Données personnelles collectées

La collecte et la marchandisation des données personnelles (y compris les données des enfants) sous-tendent le modèle financier d’Internet, un modèle que la psychologue sociale et philosophe Shoshana Zuboff a surnommé le capitalisme de surveillance.

Les sociétés de médias sociaux gagnent de l’argent selon ce modèle en collectant, analysant et vendant les informations personnelles des utilisateurs. Pour augmenter le flux de ces données précieuses, ils s’efforcent d’engager plus de personnes, pendant plus de temps, grâce à plus d’interactions.

En fin de compte, la valeur des données personnelles collectées réside dans les profils personnels détaillés pris en charge par les données – des profils qui sont utilisés pour alimenter les algorithmes qui façonnent nos flux d’actualités, personnalisent nos résultats de recherche, nous aident à trouver un emploi (ou entravent) et déterminent les publicités que nous recevoir.

Dans un virage auto-renforcé, ces mêmes données sont utilisées pour façonner nos environnements en ligne afin d’encourager la divulgation d’encore plus de données, et le processus se répète.

Le capitalisme de surveillance

Des recherches récentes confirment que la conception délibérée, les choix algorithmiques et politiques faits par les sociétés de médias sociaux (qui sont au cœur du capitalisme de surveillance) exposent directement les jeunes à des contenus préjudiciables. Cependant, les méfaits du capitalisme de surveillance s’étendent bien au-delà.

Nos recherches au Canada et au Royaume-Uni ont révélé à maintes reprises l’inquiétude des jeunes quant à la façon dont les entreprises de médias sociaux et les décideurs politiques leur font défaut. Plutôt que de respecter les droits des jeunes à s’exprimer, à ne pas subir de discrimination et à participer aux décisions qui les concernent, les sociétés de médias sociaux surveillent les jeunes pour les bombarder de contenus non sollicités au service des profits des entreprises.

En conséquence, les jeunes nous ont souvent rapporté qu’ils se sentent contraints de se conformer à des profils stéréotypés utilisés pour orienter leur comportement et façonner leur environnement à des fins lucratives.

Par exemple, des adolescentes nous ont dit que même si l’utilisation d’Instagram et de Snapchat créait de l’anxiété et de l’insécurité à propos de leur corps, il leur était presque impossible de « désactiver » les plateformes. Ils nous ont également expliqué comment la protection limitée fournie par les paramètres de confidentialité par défaut les rend vulnérables aux « photos de bite » indésirables et aux demandes d’envoi d’images intimes à des hommes qu’ils ne connaissent pas.

Plusieurs filles et leurs parents nous ont dit que cela peut parfois conduire à des résultats extrêmes, notamment le refus de l’école, l’automutilation et, dans quelques cas, des tentatives de suicide.

Le modèle financier du capitalisme de surveillance qui sous-tend les médias sociaux garantit que les entreprises font tout leur possible pour maintenir l’engagement des jeunes.

Les jeunes nous ont dit qu’ils voulaient plus de liberté et de contrôle lors de l’utilisation de ces espaces – ils sont donc aussi publics ou privés qu’ils le souhaitent, sans craindre d’être surveillés ou profilés, ou que leurs données soient cédées à des entreprises.

Les adolescents nous ont également expliqué qu’ils prenaient rarement la peine de signaler du contenu préjudiciable aux plateformes. Ce n’est pas parce qu’ils ne savent pas comment, mais plutôt parce qu’ils ont appris par expérience que cela n’aide pas. Certaines plates-formes ont été trop lentes à répondre, d’autres n’ont pas répondu du tout et certaines ont déclaré que ce qui avait été signalé n’enfreignait pas les normes de la communauté, elles n’étaient donc pas disposées à aider.

Supprimer le contenu toxique nuit aux résultats

Ces réponses ne sont pas surprenantes. Depuis des années, nous connaissons le manque de ressources pour modérer le contenu et lutter contre le harcèlement en ligne.

Le récent témoignage de Haugen lors d’une audience du Comité sénatorial du commerce, des sciences et des transports et des rapports antérieurs sur d’autres plateformes de médias sociaux mettent en évidence une motivation encore plus profonde en matière de profit. Le profit dépend d’un engagement social significatif, et le contenu nocif, toxique et source de division stimule l’engagement.

Fondamentalement, la suppression du contenu toxique nuirait au résultat net de l’entreprise.

Principes directeurs centrés sur les droits des enfants

Alors, que faut-il faire à la lumière des révélations récentes, mais pas sans précédent, dans les fichiers Facebook ? Les problèmes sont sans aucun doute complexes, mais nous avons dressé une liste de principes directeurs qui mettent l’accent sur les droits des enfants et donnent la priorité à ce que les jeunes nous ont dit sur ce dont ils ont besoin :

Les jeunes doivent être directement impliqués dans l’élaboration de politiques pertinentes.

Toutes les initiatives politiques connexes devraient être évaluées de façon continue à l’aide d’un cadre d’évaluation des droits de l’enfant.

Les sociétés de médias sociaux devraient être empêchées de lancer des produits pour enfants et de collecter leurs données à des fins de profilage.

Les gouvernements devraient investir davantage de ressources pour fournir des réponses informelles rapides, gratuites et faciles d’accès et un soutien aux personnes ciblées par les méfaits en ligne (apprendre des modèles existants comme le eSafety Commissioner d’Australie et l’unité CyberScan de la Nouvelle-Écosse).

Nous avons besoin de lois qui garantissent que les sociétés de médias sociaux sont à la fois transparentes et responsables, en particulier en ce qui concerne la modération du contenu.

Les agences gouvernementales (y compris la police) doivent appliquer les lois existantes contre les contenus haineux, sexuellement violents et harcelants. Il faudrait penser à étendre la responsabilité de la plate-forme pour provoquer et perpétuer ce type de contenu.

Les initiatives éducatives devraient privilégier la familiarisation des jeunes, des adultes qui les soutiennent et des entreprises avec les droits de l’enfant, plutôt que de se concentrer sur un discours de « sécurité » qui rend les jeunes responsables de leur propre protection. De cette façon, nous pouvons travailler ensemble pour perturber le modèle de capitalisme de surveillance qui les met en danger en premier lieu.

Cet article est republié à partir de The Conversation sous une licence Creative Commons. Lire l’article original.