Alors que l'intelligence artificielle passe des interfaces numériques au monde physique, les enjeux augmentent considérablement. Une nouvelle étude publiée dans la revue Machine Intelligence Research examine les risques de sécurité et éthiques lorsque des modèles vision-langage (VLM) et des modèles vision-langage-action (VLA) guident des systèmes incarnés tels que les véhicules autonomes, les drones, les robots de service et les machines industrielles. Ces systèmes peuvent percevoir, raisonner et agir, mais ils introduisent également des vulnérabilités où les erreurs peuvent se traduire par des dommages physiques.
L'examen, mené par des chercheurs de l'Institut d'automatisation de l'Académie chinoise des sciences, de l'University College London, de l'Université Minzu de Chine et de l'Académie chinoise de l'électronique et des technologies de l'information, cartographie les points de défaillance dans la perception, la planification, le suivi des instructions et l'interaction homme-robot. Il identifie des risques tels que les hallucinations, les faux synthétiques, les attaques adversariales, les fuites de confidentialité et l'exécution dangereuse. Par exemple, un modèle peut décrire des objets qui n'existent pas en raison de données d'entraînement biaisées ou d'un alignement intermodal faible, conduisant un robot à prendre de mauvaises décisions. Des entrées malveillantes, telles que des panneaux de signalisation falsifiés ou des voix clonées, peuvent manipuler la perception et la planification, tandis que de minuscules perturbations adversariales ou des portes dérobées cachées peuvent contourner les contrôles de sécurité.
Les auteurs soulignent que ces risques ne sont pas isolés. Dans un chatbot, les erreurs peuvent entraîner une désinformation ; dans un véhicule autonome ou un robot industriel, elles peuvent provoquer des collisions, des dommages matériels ou des missions échouées. Les mesures de sécurité existantes sont souvent spécifiques à des référentiels, fragmentées ou trop lourdes pour une utilisation en temps réel. L'étude appelle à des défenses unifiées et adaptatives couvrant l'ensemble du pipeline, de l'entrée sensorielle à l'action physique.
Pour contrer ces menaces, les chercheurs organisent les stratégies défensives en couches connectées. Cela inclut le filtrage des hallucinations et l'alignement ancré sur la vision pour améliorer la précision de la perception ; la détection de faux intermodaux, le filigrane et le traçage de provenance pour vérifier l'authenticité ; les défenses contre les perturbations adversariales, les portes dérobées et les jailbreaks ; les techniques de préservation de la vie privée telles que la confidentialité différentielle, le calcul multipartite sécurisé et le chiffrement homomorphe ; et des garanties pour la navigation, les communications et le contrôle physique. De plus, ils proposent d'utiliser des explications causales, l'alignement des intentions et l'évaluation des risques pour aider les robots à interpréter des instructions ambiguës, anticiper les dangers et corriger les actions.
L'idée centrale est qu'aucun filtre unique ne peut sécuriser un agent incarné. La protection doit suivre tout le chemin, de l'entrée sensorielle au raisonnement du modèle, à l'architecture du système et à l'exécution physique. Les auteurs soutiennent que le défi ne consiste pas seulement à rendre les modèles plus précis, mais à garantir que les systèmes restent sûrs lorsque les capteurs, les entrées linguistiques et les conditions opérationnelles sont imparfaits. Ils préconisent de combiner les défenses plutôt que de déployer des correctifs isolés, avec des métriques de risque transparentes, une surveillance continue et une supervision humaine pour les décisions critiques.
Pour les développeurs et les régulateurs, l'étude fournit une liste de contrôle pratique pour évaluer les systèmes incarnés avant un déploiement à grande échelle. Les futures plates-formes pourraient intégrer un raisonnement interprétable, la détection d'attaques, le calcul préservant la confidentialité et des contrôles de sécurité dynamiques dans le cadre de protocoles d'évaluation ouverts et reproductibles. Les auteurs appellent à des conceptions qui abordent quatre dimensions ensemble : la robustesse technique, l'alignement réglementaire, l'équité sociale et la durabilité environnementale.
Une telle approche pourrait soutenir les transports autonomes, l'assistance médicale, l'automatisation des entrepôts, l'inspection industrielle et la robotique collaborative, tout en rendant la responsabilité plus facile à tracer en cas de défaillance. Cependant, l'examen avertit que les résultats de laboratoire solides peuvent ne pas se transférer proprement à des environnements bruyants, culturellement divers et à ressources limitées. Les progrès dépendent d'une coopération interdisciplinaire et de tests qui mesurent non seulement la réussite des tâches, mais aussi un comportement sûr sous stress.
L'étude est publiée avec le DOI 10.1007/s11633-025-1626-x et apparaît dans un numéro spécial sur la sécurité et l'éthique de l'IA générative. La recherche a été partiellement soutenue par la Fondation nationale des sciences naturelles de Chine, le programme de recherche prioritaire stratégique de l'Académie chinoise des sciences et le Conseil de recherche en ingénierie et en sciences physiques (EPSRC) du Royaume-Uni.
