Une nouvelle recherche sur la fonction de sécurité des enfants d’Apple montre que les avertissements peuvent augmenter le partage à risque

Le projet d’Apple de déployer des outils pour limiter la diffusion de matériel pédopornographique a été salué par certains experts en confidentialité et sécurité ainsi que par des groupes de défense de la protection de l’enfance. Il y a également eu un tollé au sujet des atteintes à la vie privée.

Ces préoccupations ont occulté un autre problème encore plus gênant qui a reçu très peu d’attention : la nouvelle fonctionnalité d’Apple utilise des éléments de conception démontrés par la recherche pour se retourner contre eux.

L’une de ces nouvelles fonctionnalités ajoute une option de contrôle parental aux messages qui bloque la visualisation d’images sexuellement explicites. On s’attend à ce que la surveillance parentale du comportement de l’enfant diminue le visionnage ou l’envoi de photos sexuellement explicites, mais cela est très discutable.

Nous sommes deux psychologues et un informaticien. Nous avons mené des recherches approfondies sur les raisons pour lesquelles les gens partagent des images à risque en ligne. Nos recherches récentes révèlent que les avertissements concernant la confidentialité sur les réseaux sociaux ne réduisent pas le partage de photos et n’augmentent pas les préoccupations concernant la confidentialité. En fait, ces avertissements, y compris les nouvelles fonctionnalités de sécurité pour les enfants d’Apple, peuvent augmenter plutôt que réduire le partage risqué de photos.

Fonctionnalités de sécurité pour enfants d’Apple

Apple a annoncé le 5 août 2021 qu’il prévoyait d’introduire de nouvelles fonctionnalités de sécurité pour les enfants dans trois domaines. La première caractéristique, relativement peu controversée, est que l’application de recherche d’Apple et l’assistant virtuel Siri fourniront aux parents et aux enfants des ressources et de l’aide s’ils rencontrent du matériel potentiellement dangereux.

La deuxième fonctionnalité numérisera les images sur les appareils des personnes qui sont également stockées dans iCloud Photos pour rechercher des correspondances dans une base de données d’images d’abus sexuels sur des enfants fournie par le Centre national pour les enfants disparus et exploités et d’autres organisations de sécurité des enfants. Une fois qu’un seuil pour ces correspondances est atteint, Apple examine manuellement chaque correspondance de machine pour confirmer le contenu de la photo, puis désactive le compte de l’utilisateur et envoie un rapport au centre. Cette fonctionnalité a suscité de nombreuses controverses.

La dernière fonctionnalité ajoute une option de contrôle parental à Messages, l’application de SMS d’Apple, qui brouille les images sexuellement explicites lorsque les enfants tentent de les voir. Il avertit également les enfants du contenu, présente des ressources utiles et leur assure qu’il n’y a pas de problème s’ils ne veulent pas voir la photo. Si l’enfant a 12 ans ou moins, les parents recevront un message si l’enfant voit ou partage une photo à risque.

Il y a eu peu de discussions publiques sur cette fonctionnalité, peut-être parce que la sagesse conventionnelle veut que le contrôle parental soit nécessaire et efficace. Ce n’est pas toujours le cas, cependant, et de tels avertissements peuvent se retourner contre eux.

Quand les avertissements se retournent

En général, les gens sont plus susceptibles qu’improbables d’éviter le partage risqué, mais il est important de réduire le partage qui se produit. Une analyse de 39 études a révélé que 12% des jeunes ont transmis un sexto, ou une image ou une vidéo sexuellement explicite, sans consentement, et 8,4% avaient un sexto d’eux-mêmes transmis sans consentement. Les avertissements peuvent sembler être un moyen approprié de le faire. Contrairement aux attentes, nous avons constaté que les avertissements concernant les violations de la vie privée se retournent souvent contre eux.

Dans une série d’expériences, nous avons essayé de réduire la probabilité de partager des photos embarrassantes ou dégradantes sur les réseaux sociaux en rappelant aux participants qu’ils devraient tenir compte de la vie privée et de la sécurité des autres. Dans plusieurs études, nous avons essayé différents rappels sur les conséquences du partage de photos, similaires aux avertissements à introduire dans les nouveaux outils de sécurité pour enfants d’Apple.

Remarquablement, nos recherches révèlent souvent des effets paradoxaux. Les participants qui ont reçu des avertissements aussi simples que de déclarer qu’ils devraient tenir compte de la vie privée des autres étaient plus susceptibles de partager des photos que les participants qui n’ont pas reçu cet avertissement. Lorsque nous avons commencé cette recherche, nous étions sûrs que ces mesures de confidentialité réduiraient le partage de photos à risque, mais ce n’est pas le cas.

Les résultats sont cohérents depuis que nos deux premières études ont montré que les avertissements se sont retournés contre eux. Nous avons maintenant observé cet effet à plusieurs reprises et avons constaté que plusieurs facteurs, tels que le style d’humour d’une personne ou son expérience de partage de photos sur les réseaux sociaux, influencent sa volonté de partager des photos et la manière dont elle peut réagir aux avertissements.

Bien qu’il ne soit pas clair pourquoi les avertissements se retournent contre eux, une possibilité est que les préoccupations des individus concernant la vie privée soient atténuées lorsqu’elles sous-estiment les risques de partage. Une autre possibilité est la réactance, ou la tendance des règles ou des incitations apparemment inutiles à provoquer l’effet inverse de ce qui était prévu. Tout comme un fruit défendu devient plus sucré, les rappels constants sur les problèmes de confidentialité peuvent rendre le partage de photos risqué plus attrayant.

Les avertissements d’Apple fonctionneront-ils ?

Il est possible que certains enfants soient plus enclins à envoyer ou à recevoir des photos sexuellement explicites après avoir reçu un avertissement d’Apple. Il existe de nombreuses raisons pour lesquelles ce comportement peut se produire, allant de la curiosité (les adolescents apprennent souvent le sexe grâce à leurs pairs) à la remise en cause de l’autorité des parents et des problèmes de réputation, comme être perçu comme cool en partageant des photos apparemment risquées. À une étape de la vie où la prise de risque a tendance à culminer, il n’est pas difficile de voir comment les adolescents pourraient trouver qu’un avertissement d’Apple est un insigne d’honneur plutôt qu’une véritable source de préoccupation.

Apple a annoncé le 3 septembre 2021 qu’il retardait le déploiement de ces nouveaux outils CSAM en raison des préoccupations exprimées par la communauté de la confidentialité et de la sécurité. La société prévoit de prendre plus de temps au cours des prochains mois pour recueillir des commentaires et apporter des améliorations avant de publier ces fonctionnalités de sécurité pour les enfants.

Ce plan n’est cependant pas suffisant sans savoir également si les nouvelles fonctionnalités d’Apple auront l’effet souhaité sur le comportement des enfants. Nous encourageons Apple à collaborer avec les chercheurs pour s’assurer que leurs nouveaux outils réduiront plutôt qu’encourageront le partage de photos problématique.

Cet article est republié à partir de The Conversation sous une licence Creative Commons. Lire l’article original.