Daily Arxiv

Cette page résume et organise les publications en intelligence artificielle du monde entier.
Les contenus sont synthétisés grâce à Google Gemini et le service est proposé à but non lucratif.
Les droits d'auteur des articles appartiennent à leurs auteurs ou institutions respectives ; en cas de partage, il suffit d'en mentionner la source.

Injection de contrôle rapide de la couche logique (LPCI) : une nouvelle classe de vulnérabilité de sécurité dans les systèmes agentiques

Created by
  • Haebom

Auteur

Hammad Atta, Ken Huang, Manish Bhatt, Kamal Ahmed, Muhammad Aziz Ul Haq, Yasir Mehmood

Contour

Cet article aborde un nouveau type de vulnérabilité de sécurité cachée résultant de l'intégration de modèles de langage à grande échelle (LLM) dans les systèmes d'entreprise, notamment les vulnérabilités au niveau de la couche d'exécution logique et du contexte de mémoire persistante. Nous présentons l'injection de contrôle d'invite de la couche logique (LPCI), un nouveau type d'attaque impliquant des charges utiles codées, retardées et déclenchées conditionnellement en mémoire, dans le stockage vectoriel ou dans la sortie d'outils. Ces charges utiles peuvent contourner les filtres d'entrée existants et déclencher des actions non autorisées lors des sessions.

Takeaways, Limitations

Takeaways: En améliorant la compréhension des attaques LPCI, une nouvelle menace pour la sécurité des systèmes basés sur LLM, cette étude peut contribuer à renforcer la sécurité des systèmes d'entreprise. En soulignant que les filtres d'entrée existants ne suffisent pas à eux seuls à se défendre contre les attaques LPCI, cette étude souligne la nécessité de développer de nouvelles stratégies de défense.
Limitations : Actuellement, aucune technique de défense ni stratégie d'atténuation spécifique n'a été proposée contre les attaques LPCI. Il manque une analyse quantitative du niveau de menace réel et de la probabilité des attaques LPCI. Des recherches supplémentaires sont nécessaires pour déterminer la généralisabilité des attaques LPCI à différents environnements LLM et systèmes.
👍