MUZZLE: Adaptive Agentic Red-Teaming of Web Agents Against Indirect Prompt Injection Attacks

Created by

Haebom

저자

Georgios Syros, Evan Rose, Brian Grinstead, Christoph Kerschbaumer, William Robertson, Cristina Nita-Rotaru, Alina Oprea

💡 개요

본 논문은 LLM 기반 웹 에이전트가 비신뢰할 수 있는 웹 콘텐츠에 포함된 간접 프롬프트 주입 공격에 취약하다는 문제를 해결하기 위해 MUZZLE이라는 자동화된 에이전트 기반 평가 프레임워크를 제안한다. MUZZLE은 에이전트의 실행 궤적을 활용하여 자동으로 공격 표면을 식별하고, 에이전트의 행동을 조종하여 기밀성, 무결성, 가용성을 침해하는 적응형 공격을 생성한다. 이를 통해 인간의 개입을 최소화하면서 웹 에이전트의 보안을 효과적으로 평가할 수 있다.

🔑 시사점 및 한계

•

기존의 고정된 공격 템플릿이나 수동적인 평가 방식의 한계를 극복하고, 실제 환경에서 발생할 수 있는 적응적이고 복잡한 공격을 탐지할 수 있는 자동화된 평가 방법론을 제시한다.

•

MUZZLE은 에이전트의 실행 궤적에 기반한 적응형 공격 생성 및 반복적인 공격 정제 과정을 통해 기존 방법론으로는 발견하기 어려운 새로운 공격 벡터(예: 교차 애플리케이션 공격, 맞춤형 피싱 시나리오)를 성공적으로 발견한다.

•

현재 MUZZLE의 공격 범위는 기밀성, 가용성, 프라이버시 침해에 초점을 맞추고 있으며, 향후에는 더 광범위한 보안 속성(예: 에이전트의 신뢰성, 윤리적 행동)에 대한 공격 탐지로 확장될 필요가 있다.

PDF 보기

Made with Slashpage