Le développement technologique doit passer de la convivialité à la sécurité

Facebook a annoncé l’arrêt du développement de son projet Instagram Kids. Cela fait suite à des informations selon lesquelles le géant des médias sociaux avait commandé – et gardé secret – des recherches internes qui ont révélé qu’Instagram était préjudiciable à la santé mentale des jeunes.

Les conclusions de l’étude, sans parler du fait qu’elles ont été retenues, n’ont fait que renforcer les vives critiques à l’origine du projet. « Instagram pour les enfants », titrait un titre au début, « le site de médias sociaux que personne n’avait demandé ».

Qui a demandé quoi, dans le développement des technologies de l’information, est une question intéressante. À la fin des années 1980, des recherches avaient déjà mis en évidence que l’histoire des ordinateurs était sans doute celle de la création de la demande plutôt que de la réponse aux besoins. Et les médias sociaux ne sont pas différents : ils sont passés de ce que nous ne savions pas que nous voulions être intégrés dans tout ce que nous faisons. La recherche confirme de plus en plus que cela peut aussi être une source de préjudice.

Les enfants sont au cœur de cette bataille entre utilité et sécurité. Ce sont les futurs concepteurs de notre technologie – ils hériteront de nos dégâts – mais ils l’utilisent également en ce moment. Et ce sont les futurs clients des entreprises technologiques. Le responsable d’Instagram, Adam Mosseri, a rapidement défendu la valeur et l’importance d’une version pour enfants de l’application. Mais pouvons-nous faire confiance aux grandes technologies pour nous donner ce dont nous avons réellement besoin au lieu de nous manipuler pour consommer ce dont elles ont besoin pour vendre ?

L’avènement de la convivialité

Le concept d’expérience utilisateur domine désormais la réflexion sur les technologies de l’information. Mais les premiers ordinateurs personnels étaient tout sauf utiles, ou utilisables, pour la personne moyenne. C’est principalement parce qu’ils étaient encore conçus pour des spécialistes formés : ils assumaient la compétence de celui qui les mettait en marche.

Dès le début des années 1980, les parents ont été encouragés à embrasser le potentiel éducatif de l’informatique à domicile. Ils considéraient les appareils comme un stimulant pour l’apprentissage et l’employabilité future de leurs enfants. Mais cette adoption dans les premiers appareils était encore plus conceptuelle que pratique.

À la fin des années 1980, cependant, l’idée de convivialité a commencé à faire son chemin. La conception informatique a commencé à se concentrer davantage sur la façon dont les gens moyens pourraient utiliser leurs produits de manière efficace et efficiente, les informaticiens se concentrant sur l’interaction homme-machine et la conception centrée sur l’utilisateur.

De l’expérience utilisateur à la sécurité des utilisateurs

La technologie, bien sûr, permet désormais de savoir comment nous vivons, comment nous communiquons, comment nous interagissons, comment nous travaillons. Les ménages sont remplis d’appareils et d’applications utilisables, utiles et en cours d’utilisation. En effet, garder les appareils et tout ce qu’ils contiennent en service est au cœur de la conception informatique : l’utilisateur est un client et la technologie est conçue pour nourrir, voire solliciter, cette coutume.

Déterminer comment fournir une expérience significative et pertinente à une personne utilisant un produit ou un service numérique, des appareils aux plateformes de médias sociaux, est ce que l’on appelle la conception de l’expérience utilisateur. Les géants de la technologie parlent de répondre à nos attentes avant même que nous les connaissions nous-mêmes. Et la façon dont les concepteurs savent ce que nous voulons avant que nous le voulions dépend des données qu’ils collectent sur nous et sur nos enfants.

Une rafale de poursuites judiciaires récentes, cependant, souligne la ligne, en termes de préjudice pour l’utilisateur, qu’une telle innovation numérique motivée par le profit et façonnée par nos données personnelles a franchie. Il s’agit notamment de l’affaire lancée par l’ancienne commissaire à l’enfance pour l’Angleterre, Anne Longfield, contre TikTok.

L’affaire Longfield allègue que la plate-forme de partage de vidéos collecte les informations personnelles de ses utilisateurs mineurs à des fins publicitaires ciblées : de la date de naissance, de l’adresse e-mail et du numéro de téléphone aux données de localisation, aux convictions religieuses ou politiques et à l’historique de navigation.

La préoccupation de nos jours est que la vie privée est menacée parce que les profits priment sur la sécurité.

Le mouvement de l’utilisabilité qui a débuté à la fin des années 1980 doit donc maintenant faire place à ce que les informaticiens appellent la sécurité utilisable : une conception centrée sur l’humain, où la sécurité prime. Nos recherches montrent que de nombreuses applications en ligne ne sont pas adaptées à l’utilisation. Ils ne parviennent pas à trouver l’équilibre entre la convivialité et la sécurité (et la confidentialité).

Nous devons explorer davantage le potentiel des conceptions open source, celles qui ne sont pas motivées par le profit, en tant qu’alternatives. Et nous devons favoriser une prise de conscience éthique autour de la technologie chez les jeunes esprits : ce sont les programmeurs de demain. Aussi important que d’apprendre à coder est de comprendre les implications éthiques de ce qui est codé.

Cet article est republié à partir de The Conversation sous une licence Creative Commons. Lire l’article original.