본 논문은 대규모 언어 모델(LLM) 에이전트의 보안 위협을 해결하기 위한 새로운 프레임워크인 Progent를 제안합니다. LLM 에이전트는 다양한 외부 도구와 상호 작용하며 사용자 작업을 수행하지만, 간접 프롬프트 주입, 메모리/지식 기반 오염, 악성 도구 등을 통한 공격에 취약합니다. Progent는 과도한 도구 접근 권한이 공격 성공의 주요 원인이라는 점을 인지하고, 도구 수준에서 권한을 제어하여 필요한 도구 호출만 허용하고 악성 호출을 차단함으로써 에이전트를 보호합니다. 도메인 특화 언어(DSL)를 통해 세분화된 권한 정책, 호출 차단 시 대체 동작, 동적 정책 업데이트 등을 지원하며, 결정론적 실행을 통해 검증 가능한 보안을 제공합니다. 모듈식 설계 덕분에 에이전트 내부 변경 없이도 적용 가능하며, AgentDojo, ASB, AgentPoison 등의 벤치마크를 사용한 평가 결과 공격 성공률 0%를 달성하면서 에이전트의 유용성과 속도를 유지하는 것으로 나타났습니다. 또한, LLM이 효과적인 정책을 자동 생성할 수 있음을 보여주어 정책 작성 자동화의 가능성을 제시합니다.
