Nouvelles préoccupations concernant la technologie et le consentement

En attendant de monter à bord d’un avion lors d’un récent voyage hors de la ville, un membre du personnel de la compagnie aérienne m’a demandé de retirer momentanément mon masque facial pour permettre à la technologie de reconnaissance faciale de m’enregistrer afin d’accélérer mon processus d’embarquement. J’ai été surpris par la brutalité de la demande – je ne voulais pas enlever mon masque dans un espace aussi encombré et je n’avais pas donné la permission de faire scanner mon visage.

Si cette rencontre a été ressentie comme une atteinte à ma vie privée, elle m’a aussi fait penser à d’autres dispositifs de reconnaissance biométrique qui, pour le meilleur ou pour le pire, sont déjà intégrés à notre quotidien.

Il y a des exemples évidents : les scanners d’empreintes digitales qui déverrouillent les portes et la reconnaissance faciale qui permet le paiement via un téléphone. Mais il existe d’autres appareils qui font plus que lire une image : ils peuvent littéralement lire dans l’esprit des gens.

Humains et machines

Mon travail explore la dynamique de la façon dont les humains interagissent avec les machines, et comment ces interactions affectent l’état cognitif de l’opérateur humain.

Les chercheurs en ingénierie des facteurs humains ont récemment concentré leur attention sur le développement de systèmes de vision artificielle. Ces systèmes détectent des signaux biologiques manifestes, par exemple la direction du regard ou la fréquence cardiaque, pour estimer des états cognitifs tels que la distraction ou la fatigue.

On peut affirmer que ces appareils présentent des avantages indéniables dans certaines situations, comme la conduite. Des facteurs humains tels que la distraction au volant, qui figure parmi les principales causes de décès sur la route, pourraient être pratiquement éliminés après une introduction adéquate de ces systèmes. Des propositions visant à imposer l’utilisation de ces dispositifs sont introduites dans le monde entier.

Une application différente mais tout aussi importante est celle proposée par nul autre que la société Neuralink d’Elon Musk. Lors d’une apparition en décembre 2021 au le journal Wall Street‘s CEO Council Summit, Musk a décrit un avenir très proche où les implants cérébraux aideront les patients souffrant de paralysie à reprendre le contrôle de leurs membres grâce à un implant cérébral.

Alors que le concept et, de fait, la réalité des interfaces cerveau-ordinateur existent depuis les années 1960, l’idée d’un dispositif implanté ayant un accès direct au cerveau est pour le moins déconcertante.

Ce n’est pas seulement la capacité de ces appareils à créer un pont direct entre le cerveau humain et le monde extérieur qui m’effraie : qu’adviendra-t-il des données récoltées et qui y aura accès ?

Liberté cognitive

Cela ouvre la question de savoir ce que l’on appelle, en neuroéthique – l’ensemble des études interdisciplinaires explorant les questions éthiques liées aux neurosciences – la liberté cognitive.

Le cognitiviste italien Andrea Lavazza définit la liberté cognitive comme « la possibilité d’élaborer ses propres pensées de manière autonome, sans interférence, et de les révéler totalement, partiellement ou pas du tout sur la base d’une décision personnelle ». La liberté cognitive est mise au premier plan lorsque la technologie a atteint un point où elle peut surveiller ou même manipuler les états mentaux comme moyen d’amélioration cognitive pour les professionnels comme les médecins ou les pilotes.

Ou le contrôle de l’esprit pour les criminels condamnés – Lavazza suggère qu ‘«il ne serait pas si étrange que le système pénal oblige une personne reconnue coupable d’un crime violent à subir [a brain implant] afin de contrôler toute nouvelle impulsion agressive. »

Les ramifications que le développement et le déploiement de capteurs et d’appareils biologiques comme les interfaces cerveau-ordinateur ont sur nos vies sont au centre du débat. Non seulement en neuroéthique, qui assiste à la formation d’initiatives de neuro-droits dans le monde entier, mais aussi dans le spectre civil plus large où l’on débat de la question de savoir si les actions entreprises avec un implant doivent être régies par les mêmes lois régissant les mouvements corporels conventionnels.

Personnellement, je devrai prendre un peu plus de temps pour peser le pour et le contre des capteurs et appareils biologiques dans ma vie de tous les jours. Et si on me demande la permission de me faire scanner le visage pour accélérer l’embarquement dans un avion, je répondrai par : « Faisons-le à l’ancienne, ça ne me dérange pas d’attendre.

Cet article est republié de The Conversation sous une licence Creative Commons. Lire l’article d’origine.