Xilong Wang, John Bloch, Zedian Shao, Yuepeng Hu, Shuyan Zhou, Neil Zhenqiang Gong
개요
본 논문은 다중 모달 대규모 언어 모델(MLLM) 기반 웹 에이전트에 대한 새로운 공격 기법인 WebInject를 제안합니다. WebInject는 웹 페이지의 픽셀 값에 미세한 변화(perturbation)를 주어 웹 에이전트가 공격자가 원하는 행동을 수행하도록 유도하는 프롬프트 주입 공격입니다. 원본 픽셀 값과 스크린샷 간의 매핑이 미분 불가능하다는 어려움을 극복하기 위해, 해당 매핑을 근사하는 신경망을 학습하고 투영된 경사 하강법을 사용하여 최적화 문제를 해결합니다. 다양한 데이터셋에서의 실험 결과, WebInject가 기존 방법보다 훨씬 효과적임을 보여줍니다.
시사점, 한계점
•
시사점:
◦
MLLM 기반 웹 에이전트의 취약성을 보여줌으로써, 웹 에이전트 보안에 대한 중요성을 강조합니다.
◦
WebInject는 웹 에이전트에 대한 새로운 유형의 공격 방법을 제시하며, 향후 보안 연구에 중요한 기여를 할 수 있습니다.
◦
픽셀 값 변조를 통한 공격 방식은 기존의 프롬프트 엔지니어링과는 다른 접근 방식으로, 다양한 공격 기법 연구에 영감을 줄 수 있습니다.
•
한계점:
◦
현재는 특정 유형의 웹 에이전트에 대한 공격에 집중되어 있으며, 다양한 웹 에이전트 아키텍처에 대한 일반화 가능성은 추가 연구가 필요합니다.
