본 논문은 플러그인과 결합된 대규모 언어 모델(LLM) 에이전트의 보안 취약성을 다룹니다. LLM 에이전트는 사용자 또는 플러그인 데이터의 자연어 프롬프트에 의해 동적으로 동작이 결정되므로, 기존 소프트웨어와 달리 권한 상승 공격에 취약합니다. 본 논문에서는 LLM 에이전트에서 권한 상승을 방지하기 위한 시스템 보안 솔루션인 프롬프트 흐름 무결성(PFI)을 제안합니다. PFI는 신뢰할 수 없는 데이터 식별, LLM 에이전트에 대한 최소 권한 적용, 안전하지 않은 데이터 흐름 검증이라는 세 가지 완화 기법을 특징으로 합니다. 평가 결과, PFI는 LLM 에이전트의 유용성을 유지하면서 권한 상승 공격을 효과적으로 완화하는 것으로 나타났습니다.
