Les véhicules autonomes promettent de rendre la conduite plus sûre pour tous en supprimant la cause la plus courante d’accidents de la route, les conducteurs humains. Cependant, ces véhicules peuvent présenter un type de risque complètement différent pour les conducteurs, les passagers et même les piétons.
Pour conduire par eux-mêmes, les véhicules autonomes utilisent des systèmes d’IA qui utilisent des techniques d’apprentissage automatique pour collecter, analyser et transférer des données afin de prendre des décisions sur la route qui sont normalement prises par des conducteurs humains. Cependant, comme tous les systèmes informatiques, ces systèmes sont vulnérables aux attaques qui pourraient compromettre le fonctionnement des véhicules autonomes.
L’Agence de l’Union européenne pour la cybersécurité (ENISA) et le Centre commun de recherche (JRC) ont publié un nouveau rapport intitulé «Défis de la cybersécurité dans l’adoption de l’intelligence artificielle dans la conduite autonome»Qui met en lumière les risques posés par l’utilisation de l’IA dans les véhicules autonomes et fournit des recommandations sur la manière de les atténuer.
Le Directeur général du CCR, Stephen Quest, a donné un aperçu supplémentaire du rapport et de ses conclusions dans un communiqué de presse:
«Il est important que les réglementations européennes garantissent que les avantages de la conduite autonome ne seront pas contrebalancés par des risques pour la sécurité. Pour soutenir la prise de décision au niveau de l’UE, notre rapport vise à améliorer la compréhension des techniques d’IA utilisées pour la conduite autonome ainsi que des risques de cybersécurité qui y sont liés, afin que des mesures puissent être prises pour garantir la sécurité de l’IA dans la conduite autonome.
Sommaire
Sécuriser l’IA dans les véhicules autonomes
Les systèmes d’IA utilisés par les véhicules autonomes doivent fonctionner en permanence pour reconnaître les panneaux de signalisation, les marquages routiers et autres véhicules tout en estimant leur vitesse et en planifiant leur trajet.
En plus des menaces involontaires telles que des dysfonctionnements soudains, ces systèmes sont également vulnérables aux attaques intentionnelles dans le but d’interférer avec leurs systèmes d’IA. Par exemple, ajouter de la peinture sur une route ou des autocollants sur un panneau d’arrêt pourrait empêcher le système d’IA d’un véhicule autonome de fonctionner correctement, ce qui pourrait l’amener à classer les objets de manière incorrecte d’une manière qui pourrait rendre le véhicule se comporter dangereusement.
Afin d’améliorer la sécurité de l’IA dans les véhicules autonomes, le rapport recommande que des évaluations de sécurité régulières des composants de l’IA soient menées tout au long de leur cycle de vie. Le rapport suggère également que des évaluations des risques soient entreprises pour identifier les risques potentiels d’IA.
Ces problèmes de sécurité devront être résolus avant que les véhicules autonomes puissent devenir une vue commune sur les routes dans l’UE et dans le monde entier.
Via Enisa
