MRAG(Multimodal Retrieval-Augmented Generation) 시스템의 안전성 문제를 다루는 논문으로, 특히 이미지 입력에 대한 미세한 변조를 통해 MRAG 시스템을 공격하는 새로운 방법을 제시한다. 기존 연구와 달리, 이 논문은 다른 구성 요소를 조작하지 않고, 이미지 입력에만 시각적 공격을 가하는 방법을 연구한다. 이를 위해, 계층적 시각 공격(Hierarchical Visual Attack)을 제안하여, MRAG의 제너레이터에 입력되는 다중 모달 쿼리와 보강된 지식 간의 정렬을 깨뜨려 생성 결과에 혼란을 야도한다. CLIP 기반 리트리버와 BLIP-2, LLaVA를 제너레이터로 사용하여 OK-VQA 및 InfoSeek 데이터셋에서 실험을 진행했으며, 리트리벌 및 생성 성능 저하를 통해 공격의 유효성을 입증했다.
