Réguler Facebook, Google et Amazon est difficile en raison de leur complexité déroutante

Dans les années 1990 – il y a très longtemps, Internet – le sociologue espagnol Manuel Castells a publié plusieurs ouvrages décrivant l'essor des réseaux d'information. Il a prédit qu'à l'ère des réseaux, le contrôle des flux d'informations aurait plus de valeur que le contrôle du contenu lui-même.

En d’autres termes, ceux qui se positionneraient en tant que concentrateurs de réseau – les routeurs et les commutateurs d’informations – deviendraient les gardiens de l’alimentation à l’ère du numérique.

Avec la montée des poids lourds de l'internet Google, Facebook, Amazon et d'autres, cette idée semble évidente maintenant. Mais au cours des deux dernières décennies, un modèle d'entreprise fondamentalement nouveau a émergé que même Castells n'avait pas prévu: un modèle dans lequel attirer les utilisateurs sur des plateformes numériques priment sur tout le reste, y compris ce que l'utilisateur peut dire, faire ou acheter sur cette plateforme.

La collecte d'informations est devenue l'impératif dominant des géants de la technologie, aidés volontiers par des utilisateurs séduits d'abord par la nouveauté, puis par la commodité et l'expression de soi offertes par le fait d'être en ligne. Le résultat a été une explosion d'informations que les géants en ligne peuvent rassembler et utiliser à des fins lucratives.

L’ampleur de cette entreprise signifie qu’une grande partie de celle-ci est invisible pour l’utilisateur quotidien. Les grandes plates-formes sont maintenant si complexes que leurs rouages ​​internes sont devenus opaques, même pour leurs ingénieurs et leurs administrateurs. Si le système est maintenant si gigantesque que même ceux qui y travaillent ne peuvent pas avoir une vue d'ensemble, alors quel espoir ont les régulateurs ou le public?

Bien sûr, les gouvernements tentent de riposter. Les lois GDPR en Europe, le rapport sur les plates-formes numériques de l'ACCC en Australie et la loi DETOUR présentée au Congrès américain en avril – sont toutes des tentatives importantes pour récupérer certaines agences. Dans le même temps, il est évident pour les sociétés du monde entier que ces efforts, bien que cruciaux, ne suffisent pas.

Les portiers règnent en maître

Si vous considérez Internet comme une gigantesque machine à partager et à copier des informations, il devient alors évident que les systèmes de tri de ces informations sont d’une importance capitale. Ne pensez pas seulement à l'outil de recherche de Google, mais également à la manière dont Google et Amazon dominent l'informatique en nuage – les systèmes en grande partie invisibles qui rendent Internet utilisable.

Au fil du temps, ces plates-formes ont eu de plus en plus de contrôle sur la manière dont l'information les traverse. Mais il s'agit d'un type de contrôle inconnu, impliquant de plus en plus des systèmes d'autoapprentissage autonomes, de plus en plus impénétrables pour l'homme.

Le contrôle d'accès aux informations est primordial, c'est pourquoi des plates-formes telles que Google, Amazon et Facebook ont ​​atteint le stade de la suprématie. Mais cela ne signifie pas que ces plates-formes doivent nécessairement se faire concurrence ou s'entendre les unes avec les autres. Internet est vraiment énorme, un fait qui a permis à chaque plate-forme de devenir l’empereur d’un créneau en pleine expansion: Google pour la recherche, Facebook pour les réseaux sociaux, Amazon pour le commerce de détail, etc. Dans chaque domaine, ils ont joué à la fois le rôle de titulaire, de perturbateur et d'innovateur.

Maintenant, personne ne leur fait concurrence. Que vous soyez un particulier, une entreprise ou un gouvernement, si vous avez besoin d'Internet, vous avez besoin de leurs services. Les mastodontes de l'ère du réseau sont structurels.

Les algorithmes sont en cours d'exécution

Pour que ces plateformes restent au top, l’innovation est une exigence constante. Au fur et à mesure que le travail de tri grandit et se complexifie, nous assistons au développement d'algorithmes tellement avancé que leurs créateurs humains ont perdu la capacité de comprendre leur fonctionnement interne. Et si le résultat satisfait la tâche à accomplir, le fonctionnement interne du système est considéré comme ayant une importance mineure.

Pendant ce temps, la litanie d'effets indésirables est indéniable. Ce nouveau monde courageux dirigé par des machines érode notre capacité à identifier, localiser et faire confiance à des informations faisant autorité, en faveur de la rapidité.

C'est vrai que le patient était déjà malade; les sociétés ont été creusées par trois décennies de fondamentalisme de marché. Mais comme l’avait récemment averti l’historien américain des technologies George Dyson, le code auto-répliquant s’apparente désormais au cyber-écosystème. Ce qui a commencé comme un moyen pour les humains de persuader les autres d'adopter les comportements souhaités menace maintenant de se transformer en rien de moins que la manipulation des humains par des machines.

L'ère numérique a entraîné une croissance énorme dans des disciplines de recherche telles que la psychologie sociale, l'économie comportementale et les neurosciences. Ils ont fourni des informations stupéfiantes sur la cognition et le comportement humains, avec des utilisations potentielles qui sont loin d’être bénignes.

Même si cet effort avait été fondé avec les meilleures intentions du monde, les accidents abondent lorsque des humains faillibles interviennent dans des systèmes complexes fondés sur des principes éthiques et juridiques naissants. Ajoutez à cela des intentions malveillantes – ingérence électorale, guerre de l'information, extrémisme en ligne – et les défis ne font que s'accroître.

Si vous envisagez toujours les technologies numériques en tant qu'outils (ce qui implique que vous, l'utilisateur, avez le contrôle total), vous devez réfléchir à nouveau. La vérité est que personne ne sait vraiment où le code numérique à réplication automatique nous mènera. Vous êtes le feedback, pas l'instruction.

Les régulateurs ne savent pas par où commencer

On s'accorde de plus en plus à penser qu'une intervention réglementaire s'impose de toute urgence pour éviter de nouvelles perturbations sociales et instaurer un contrôle démocratique et juridique sur les pratiques des plus grands monopoles du monde. Mais, si Dyson est correct, le génie est déjà sorti de la bouteille.

Passionnés par la nouveauté et la commodité de la vie en ligne, nous avons inconsciemment permis à Silicon Valley de réaliser un "coup d'en haut". Il est plus que temps que l’idéologie qui a inspiré ce coup d’Etat et qui régit à présent tant d’activités humaines quotidiennes soit soumise à un examen minutieux.

Les défis de l'ère de l'information numérique vont au-delà des monopoles et de la vie privée. Ce régime de technologies a été construit à dessein sans se soucier d’exploitation. Ces vulnérabilités sont considérables et continueront à être utilisées de manière abusive. Maintenant que cette technologie fait partie intégrante de la vie quotidienne, il convient de remédier à ce problème sans crainte ni favoritisme.

Cependant, une intervention législative et réglementaire ne peut être efficace que si l’industrie, les gouvernements et la société civile s’associent pour créer, à dessein, une ère de l’information numérique digne de ce nom, qui ne nous laisse pas tous exposés à l’exploitation.

Cet article est republié de The Conversation sous une licence Creative Commons. Lire l'article original.