Alors que les robots s'appuient de plus en plus sur l'IA pour percevoir, décider et agir dans le monde physique, un nouvel article d'IEEE Spectrum soutient que la manière dont l'industrie envisage la sécurité des robots doit évoluer. L'ingénierie de la sécurité traditionnelle se concentre sur des machines prévisibles, qui opèrent dans des zones clôturées et des environnements strictement délimités. Les robots pilotés par l'IA sont différents : ils apprennent, s'adaptent et sont souvent connectés à des réseaux, à des services cloud et à des logiciels tiers, ce qui élargit le champ des défaillances possibles.
L'article, qui semble s'appuyer sur le point de vue de VicOne, spécialiste de la cybersécurité automobile et des systèmes embarqués, présente la cybersécurité et la sécurité physique comme deux enjeux étroitement liés. Un système d'IA compromis ou manipulé dans un robot ne représente pas seulement un risque pour les données : il peut aussi mettre en danger les personnes et les biens à proximité. La cybersécurité devient ainsi un pilier de la conception de la sécurité fonctionnelle, et non une couche à ajouter plus tard.
C'est une leçon bien connue dans le domaine des véhicules connectés, où les mises à jour logicielles, les capteurs et l'IA embarquée ont conduit les constructeurs à considérer la cyber-résilience comme une exigence de sécurité. À mesure que les robots humanoïdes, les manipulateurs mobiles et d'autres machines polyvalentes font leur entrée dans les entrepôts, les usines et les espaces publics, cette approche devrait probablement se diffuser dans toute la robotique. Pour les concepteurs comme pour les exploitants, le message est clair : il faut aborder les menaces et la sécurité ensemble, dès le début de la conception.