Un nouveau système d'intelligence artificielle évolue automatiquement pour échapper à la censure sur Internet

La censure d'Internet par des gouvernements autoritaires interdit un accès libre et ouvert à l'information pour des millions de personnes dans le monde. Les tentatives pour échapper à une telle censure se sont transformées en une course sans cesse croissante pour suivre le rythme de la censure sur Internet, en constante évolution et de plus en plus sophistiquée. Les régimes de censure ont eu l'avantage dans cette course, car les chercheurs doivent rechercher manuellement des moyens de contourner la censure, processus qui prend beaucoup de temps.

De nouveaux travaux dirigés par des informaticiens de l'Université du Maryland pourraient modifier l'équilibre de la course à la censure. Les chercheurs ont développé un outil appelé Geneva (abréviation de Genetic Evasion), qui apprend automatiquement à contourner la censure. Testée en Chine, en Inde et au Kazakhstan, Genève a trouvé des dizaines de façons de contourner la censure en exploitant les failles dans la logique de la censure et en trouvant des bogues que les chercheurs auraient été pratiquement impossibles à trouver manuellement.

Les chercheurs présenteront Genève lors d'une conférence à comité de lecture à la 26e conférence sur la sécurité des ordinateurs et des communications de l'Association for Computing Machinery, qui se tiendra à Londres le 14 novembre 2019.

"Avec Genève, nous avons, pour la première fois, un avantage majeur dans la course aux armements de la censure", a déclaré Dave Levin, professeur assistant en informatique à l'UMD et auteur principal du journal. "Genève représente le premier pas vers une nouvelle course aux armements dans laquelle les systèmes d'intelligence artificielle des censeurs et des évadés se font concurrence. En fin de compte, gagner cette course signifie permettre la liberté de parole et une communication ouverte à des millions d'utilisateurs à travers le monde qui ne le font pas actuellement. les avoir."

Toutes les informations sur Internet sont décomposées en paquets de données par l'ordinateur de l'expéditeur et réassemblées par l'ordinateur de destination. Une forme répandue de censure sur Internet utilisée par les régimes autoritaires fonctionne en surveillant les paquets de données envoyés lors d'une recherche sur Internet. Le censeur bloque les demandes contenant des mots clés marqués (tels que "Place Tiananmen" en Chine) ou des noms de domaine interdits (tels que "Wikipedia" dans de nombreux pays).

Lorsque Genève fonctionne sur un ordinateur qui envoie des requêtes Web via un censeur, Genève modifie la manière dont les données sont fractionnées et envoyées, de sorte que le censeur ne reconnaisse pas les contenus interdits ou ne puisse pas censurer la connexion.

Connu sous le nom d'algorithme génétique, Geneva est un type d'intelligence artificielle d'inspiration biologique que Levin et son équipe ont développé pour fonctionner en tâche de fond lorsqu'un utilisateur navigue sur le Web à partir d'un navigateur Internet standard. Comme les systèmes biologiques, Genève forme des ensembles d’instructions à partir de blocs constitutifs génétiques. Mais plutôt que d'utiliser l'ADN comme blocs de construction, Genève utilise de petits morceaux de code. Individuellement, les bits de code font très peu, mais lorsqu'ils sont composés d'instructions, ils peuvent exécuter des stratégies d'évasion sophistiquées pour décomposer, organiser ou envoyer des paquets de données.

Genève évolue son code génétique au fil de tentatives successives (ou de générations). À chaque génération, Genève conserve les consignes qui échappent le plus à la censure et rejette le reste. Geneva transforme et croise ses stratégies en supprimant des instructions au hasard, en ajoutant de nouvelles instructions ou en combinant des instructions réussies et en testant à nouveau la stratégie. Grâce à ce processus évolutif, Genève est en mesure d'identifier très rapidement de multiples stratégies d'évasion.

"Cela inverse complètement la manière dont les chercheurs abordent généralement le problème de la censure", a déclaré Levin, qui occupe un poste conjoint à l'Institut des hautes connaissances en informatique de l'Université du Maryland. "D'ordinaire, nous identifions le fonctionnement d'une stratégie de censure, puis nous élaborons des stratégies pour l'éviter. Mais maintenant, nous laissons Genève déterminer comment échapper à la censure. Nous apprenons ensuite quelles stratégies de censure sont utilisées pour voir comment Genève les a vaincues."

L'équipe a testé Genève en laboratoire contre des simulacres de censure et dans le monde réel contre de vrais censeurs. Dans le laboratoire, les chercheurs ont mis au point des censeurs qui fonctionnent comme ceux que des recherches antérieures avaient été déployés par des régimes autocratiques. En quelques jours, Genève identifia pratiquement toutes les stratégies de manipulation de paquets découvertes dans des travaux publiés antérieurement.

Pour démontrer que Genève travaillait dans le monde réel contre des stratégies de censure non découvertes, l'équipe a exécuté Genève sur un ordinateur en Chine avec un navigateur Google Chrome non modifié installé. En déployant des stratégies identifiées par Genève, l'utilisateur a pu naviguer sans censure des mots clés. Les chercheurs ont également réussi à échapper à la censure en Inde, qui bloque les URL interdites, et au Kazakhstan, qui écoutait à l'époque certains sites de médias sociaux. Dans tous les cas, Genève a réussi à contourner la censure.

"Actuellement, le cycle d'évasion-détection nécessite de nombreuses mesures manuelles, une ingénierie inverse et de la créativité pour développer de nouveaux moyens d'évasion de la censure", a déclaré Kevin Bock (B.S. '17, M.S. '18, informatique), un doctorat en informatique. étudiant à l'UMD et auteur principal de l'article. "Avec cette recherche, Genève représente une première étape importante dans l’automatisation de l’évasion de la censure."

Les chercheurs envisagent de publier leurs données et leur code dans l’espoir que cela fournira un accès ouvert à l’information dans les pays où l’Internet est restreint. L'équipe reconnaît qu'il peut y avoir de nombreuses raisons pour lesquelles les personnes vivant sous des régimes autocratiques pourraient ne pas vouloir ou ne pas être capables d'installer l'outil sur leur ordinateur. Cependant, ils ne sont pas découragés. Les chercheurs étudient la possibilité de déployer Geneva sur l'ordinateur fournissant le contenu bloqué (appelé serveur) plutôt que sur l'ordinateur à la recherche d'un contenu bloqué (appelé client). Cela signifierait que des sites Web tels que Wikipedia ou la BBC pourraient être accessibles à quiconque se trouvant dans des pays qui les bloquent actuellement, tels que la Chine et l'Iran, sans exiger que les utilisateurs configurent quoi que ce soit sur leur ordinateur.

"Si Geneva peut être déployé côté serveur et fonctionner aussi bien que côté client, cela pourrait potentiellement ouvrir la communication à des millions de personnes", a déclaré Levin. "C'est une possibilité incroyable, et c'est une direction que nous poursuivons."

Plus d'information:
Kevin Bock, George Hughey, Xiao Qian et Dave Levin participeront à la 26e conférence de l’Association for Computing Machinery sur la sécurité des ordinateurs et des communications à Londres, le 14 novembre 2019.