Cet article étudie les vulnérabilités de sécurité des systèmes robotiques basés sur des modèles de langage à grande échelle (LLM). Nous soulignons que la vulnérabilité des LLM aux attaques de jailbreak, qui transforment les commandes robotiques en politiques exécutables, pose un risque de sécurité sérieux, du numérique au physique. Nous étudions l'applicabilité des attaques de jailbreak LLM existantes aux systèmes robotiques et proposons une nouvelle technique d'attaque, POlicy Executable (POEX). POEX utilise l'optimisation du gradient de couche cachée et un évaluateur multi-agents pour dériver des politiques nuisibles exécutables, et son efficacité est vérifiée par des systèmes robotiques et des simulations réelles. Enfin, nous proposons des techniques de défense basées sur des invites et des modèles pour atténuer les attaques de jailbreak.
