Comment les mégadonnées peuvent affecter votre compte bancaire

Mustafa aime le bon café. Dans ses temps libres, il consulte souvent des machines à café haut de gamme qu'il ne peut se permettre mais qu'il économise. Un jour, se rendant au mariage d'un ami à l'étranger, il s'assoit à côté d'un autre ami dans l'avion. Quand Mustafa se plaint du prix qu’il a payé pour son billet, il s'avère que son ami a payé moins de la moitié de ce qu’il a payé, bien qu’ils aient réservé à peu près au même moment.

Il examine les raisons possibles de cette situation et conclut que cela doit être lié à sa navigation dans des machines à café et des équipements coûteux. Il est très fâché à ce sujet et se plaint à la compagnie aérienne, qui lui envoie des excuses tièdes faisant référence à des modèles de tarification personnalisés. Mustafa pense que c'est injuste mais ne le conteste pas. La poursuivre plus loin lui coûterait temps et argent.

Cette histoire – qui est hypothétique, mais peut et doit se produire – démontre le risque que des données soient utilisées pour nuire à des personnes au cours de l’ère actuelle du "big data". L'analyse de données volumineuses implique l'utilisation de grandes quantités de données provenant de nombreuses sources, qui sont liées et analysées pour trouver des modèles permettant de prévoir le comportement humain. Une telle analyse, même parfaitement légale, peut être préjudiciable.

Mustafa, par exemple, a probablement été affecté par des pratiques de tarification personnalisées selon lesquelles sa recherche de machines à café haut de gamme a été utilisée pour émettre certaines hypothèses sur sa volonté de payer ou son pouvoir d'achat. Cela a peut-être conduit à son billet d'avion plus cher. Bien que cela n'ait pas entraîné de préjudice grave dans le cas de Mustafa, les cas de préjudice émotionnel et financier grave ne sont malheureusement pas rares, y compris le refus d'hypothèque pour des particuliers et les risques pour la solvabilité générale d'une personne sur la base d'associations avec d'autres personnes. Cela peut se produire si une personne partage des caractéristiques similaires à celles d'autres personnes dont l'historique de remboursement est médiocre.

Des cas de préjudice émotionnel peuvent également se produire. Imaginez un couple qui apprend qu'il attend un enfant très désiré, mais qui subit une fausse couche à cinq mois. Il se peut que le couple continue de recevoir des annonces de magasins spécialisés dans les produits pour bébés, des mois plus tard, célébrant ce qui aurait dû être des "jalons" clés, provoquant une détresse. Ceci est un autre scénario hypothétique mais tout à fait possible.

La loi ou son absence

Dans nombre de ces cas, étant donné que la pratique préjudiciable n'a enfreint aucune loi, les personnes qui ont subi des dommages en raison de l'utilisation de données ne disposent que de peu d'options juridiques, voire d'aucune option légale. Ce qui est arrivé à Mustafa, par exemple, était parfaitement légal, car il n’existe actuellement aucune loi interdisant la tarification personnalisée en tant que telle. Nos systèmes juridiques actuels ne protègent pas de manière adéquate les personnes contre les préjudices découlant du Big Data.

En effet, il est très difficile de déterminer comment nos données sont liées et utilisées. Même si la compagnie aérienne avait agi de manière illégale, comme enfreindre des lois sur la protection des données, il serait presque impossible à Mustafa de le savoir. Les personnes qui se sentent lésées par l'utilisation des données peuvent avoir du mal à montrer comment leurs données ont été utilisées pour causer ce préjudice, quelles données étaient en cause ou quel contrôleur de données les utilisait. Et ainsi, ils n'auront peut-être pas la preuve dont ils auraient besoin pour obtenir un recours juridique.

En outre, même s’ils montrent comment une personne a été lésée avec leurs données, cette utilisation particulière des informations sur les clients, par exemple pour ajuster les prix, n’est peut-être pas illégale.

De même, le préjudice peut être causé non pas par vos propres données, mais par l'utilisation des données d'autres personnes (données de tiers). Par exemple, dans le cas de Mustafa, il se peut que d’autres personnes également intéressées par des cafetières coûteuses aient des revenus très élevés ou achètent des articles coûteux. Cela a peut-être été utilisé pour suggérer que Mustafa faisait également partie de cette catégorie, ce qui aurait pu entraîner une hausse des prix pour lui pour d'autres produits. Une personne lésée par l'utilisation de données tierces n'aura souvent pas de recours en vertu des lois en vigueur sur la protection des données.

Un nouveau système

Pour aider à résoudre ces problèmes, nous affirmons que nous devons accepter le fait que certains risques liés à l'utilisation des données ne peuvent être évités. Plutôt que d’essayer de minimiser ou d’éviter de tels risques, nous devons également trouver des moyens d’aider davantage les personnes qui subissent des dommages résultant de l’utilisation des données, par exemple en surveillant activement les dommages causés par leur utilisation, y compris leur utilisation légale.

Nous pensons que dans le cadre de ce système, un nouveau type d’institution devrait être mis en place. Nous les appelons des organismes d'atténuation des méfaits. Celles-ci seraient mises en place au niveau national et les personnes qui estimaient avoir été lésées par l'utilisation de données, mais ne pouvant prétendre à aucun recours juridique, pourraient s'adresser à elles pour signaler le préjudice qu'elles pensaient être causées par l'utilisation de données. Contrairement aux remèdes traditionnels, les organismes d'atténuation des préjudices pourraient fournir un soutien même dans les cas où aucune loi n'a été violée. Ils seraient faciles à utiliser et flexibles, de manière à pouvoir aider les utilisateurs là où ils en ont le plus besoin, en donnant plus de pouvoir aux individus et en renforçant la responsabilité collective pour l'utilisation des données.

Les organismes proposés collecteraient des informations sur les types de dommages causés: il n’existe actuellement aucun organisme national ou international qui collecte systématiquement des informations sur les dommages causés aux données. Ils seraient également en mesure de transmettre des informations aux décideurs et aux utilisateurs de données afin d'améliorer la façon dont les choses se font. Et dans les cas où des personnes subissent des préjudices financiers mais n’ont pas accès à une assistance juridique, elles peuvent également apporter un soutien financier.

Le Big Data Analytics est loué à juste titre pour les nombreuses nouvelles opportunités qu’il offre. Mais il sera inévitable que certaines personnes soient blessées. En tant que société, nous devons faire face à cette vérité et fournir une meilleure assistance à ceux qui subissent des dommages, de sorte que ceux qui supportent les coûts de ces nouvelles pratiques ne soient pas laissés pour compte.

Cet article est republié de The Conversation sous une licence Creative Commons. Lire l'article original.