De la course aux armements de l'IA à l'IA contradictoire

0
8

La course aux armements de l'IA est lancée, et c'est un jeu de chat et de souris que nous voyons tous les jours dans notre travail de renseignement sur les menaces. À mesure que les nouvelles technologies évoluent, nos vies deviennent plus pratiques, mais les cybercriminels voient de nouvelles opportunités d'attaquer les utilisateurs. Qu'il s'agisse de contourner un logiciel antivirus, ou d'installer un logiciel malveillant ou un rançongiciel sur la machine d'un utilisateur, d'abuser des appareils piratés pour créer un botnet ou de supprimer des sites Web et des infrastructures de serveur importantes, devancer les méchants est la priorité des fournisseurs de sécurité. L'IA a accru la sophistication des attaques, ce qui la rend de plus en plus imprévisible et difficile à atténuer.

A propos de l'auteur

Michal Pěchouček, directeur technique, Avast.

Augmentation des attaques systématiques

L'IA a réduit les effectifs nécessaires pour mener une cyberattaque. Contrairement au développement manuel de code malveillant, ce processus est devenu automatisé, ce qui réduit le temps, les efforts et les dépenses nécessaires à ces attaques. Résultat: les attaques deviennent de plus en plus systématiques et peuvent être menées à plus grande échelle.

Changement sociétal et nouvelles normes

De même que services de cloud computing, la croissance de l'IA a apporté de nombreux progrès technologiques, mais à moins d'être soigneusement réglementée, elle risque de changer certains aspects de la société. Un bon exemple de cela est l'utilisation de la technologie de reconnaissance faciale par la police et les autorités gouvernementales locales. San Francisco a défrayé la chronique cette année lorsqu'elle est devenue la première ville américaine à interdire la technologie.

Cela a été considéré comme une énorme victoire – la technologie comportait beaucoup plus de risques que d'avantages et des points d'interrogation sur l'inexactitude et les préjugés raciaux ont été soulevés. La technologie de l'IA n'est pas parfaite et n'est aussi fiable et précise que les données qui l'alimentent. Alors que nous entrons dans une nouvelle décennie, les entreprises technologiques et les législateurs doivent travailler ensemble pour s'assurer que ces développements sont convenablement réglementés et utilisés de manière responsable.

Changer notre façon de voir les informations

Nous sommes maintenant à l'ère des fausses nouvelles, de la désinformation et des contrefaçons profondes. L'IA a rendu encore plus facile la création et la diffusion d'informations trompeuses et fausses. Ce problème est exacerbé par le fait que nous consommons de plus en plus d'informations dans les chambres d'écho numériques, ce qui rend plus difficile l'accès à des informations impartiales.

Bien que la responsabilité incombe aux entreprises technologiques qui hébergent et partagent ce contenu, l'éducation à la maîtrise des données deviendra plus importante en 2020 et au-delà. Il sera essentiel de se concentrer de plus en plus sur l'enseignement au public de la manière d'examiner les informations et les données.

Plus de partenariats pour combattre l'IA contradictoire

Afin de lutter contre la menace de l'IA contradictoire, nous espérons voir des partenariats encore plus importants entre les entreprises technologiques et les établissements universitaires. C'est précisément la raison pour laquelle Avast s'est associé à l'Université technique tchèque de Prague pour faire avancer la recherche dans le domaine de l'intelligence artificielle.

Les riches données sur les menaces d'Avast provenant de plus de 400 millions d'appareils dans le monde ont été combinées à l'étude de la CTU sur les menaces complexes et évasives afin de prévenir et d'inhiber les attaques de cybercriminels. Les objectifs du laboratoire incluent la publication de recherches révolutionnaires dans ce domaine et l'amélioration du moteur de détection des logiciels malveillants d'Avast, y compris ses algorithmes de détection basés sur l'IA.

Alors que nous entrons dans une nouvelle décennie, l'IA continuera à avoir un impact et à changer la technologie et la société qui nous entourent, en particulier avec l'augmentation des appareils domestiques intelligents. Cependant, malgré les associations négatives, il y a beaucoup plus de bien à gagner de l'intelligence artificielle que de mauvais.

Les outils ne sont aussi utiles que ceux qui les manient. La plus grande priorité dans les années à venir sera la collaboration intersectorielle et gouvernementale, pour utiliser l'IA pour de bon et interdire à ceux qui tentent d'en abuser.

Les offres de produits Hi-tech en rapport avec cet article

Laisser un commentaire