Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Progent: Programmable Privilege Control for LLM Agents

Created by
  • Haebom

저자

Tianneng Shi, Jingxuan He, Zhun Wang, Linyu Wu, Hongwei Li, Wenbo Guo, Dawn Song

개요

본 논문은 대규모 언어 모델(LLM) 에이전트의 보안 위협을 해결하기 위해, 권한 제어 메커니즘인 Progent를 제안한다. Progent는 도메인 특화 언어(DSL)을 사용하여 에이전트 실행 중 권한 제어 정책을 유연하게 표현하고, 도구 호출에 대한 세분화된 제약을 제공한다. 필요한 동작만 허용하고 불필요한 동작은 차단하여 보안과 유용성을 모두 유지한다. 모듈식 설계로 에이전트 내부 변경을 최소화하며, LLM을 활용하여 사용자 질의에 기반한 정책을 자동 생성하고 동적으로 업데이트한다. AgentDojo, ASB, AgentPoison 세 가지 시나리오에서 강력한 보안과 높은 유용성을 보여주는 광범위한 평가를 수행했으며, 핵심 구성 요소의 효과와 적응형 공격에 대한 자동 정책 생성의 탄력성을 분석했다.

시사점, 한계점

•
시사점:
◦
LLM 에이전트의 보안 위협에 대한 효과적인 해결책 제시.
◦
Progent을 통해 보안과 유용성을 동시에 달성.
◦
모듈식 설계로 에이전트 구현 변경을 최소화하여 실용성 증대.
◦
LLM 기반 자동 정책 생성으로 사용 편의성 향상.
◦
다양한 시나리오에서의 성능 검증을 통한 신뢰성 확보.
•
한계점:
◦
DSL의 복잡성 및 사용자 친화성에 대한 추가 연구 필요.
◦
자동 정책 생성의 완벽성 및 적응형 공격에 대한 완전한 면역성 보장 어려움.
◦
실제 환경에서의 장기간 성능 및 안정성에 대한 추가적인 검증 필요.
◦
다양한 종류의 LLM 에이전트 및 도구에 대한 호환성 검증 필요.
👍
Made with Slashpage