Universal Adversarial Attacks against Closed-Source MLLMs via Target-View Routed Meta Optimization

Created by

Haebom

저자

Hui Lu, Yi Yu, Yiming Yang, Chenyu Yi, Xueyi Ke, Qixing Zhang, Bingquan Shen, Alex Kot, Xudong Jiang

💡 개요

본 논문은 상용으로 공개되지 않은 멀티모달 대형 언어 모델(MLLM)을 대상으로, 단 하나의 적대적 공격이 다양한 입력에 대해 특정 목표를 달성하도록 하는 범용 목표 기반 공격(UTTAA) 방법을 제안합니다. 기존 공격 방식은 입력마다 개별적으로 생성되어 재사용성이 낮다는 한계가 있었으나, 제안된 MCRMO-Attack은 다중 크롭 영상과 어텐션 메커니즘을 활용하여 학습의 불안정성을 줄이고, 토큰 라우팅 기법으로 영상 특징과 텍스트 간의 연관성을 강화했습니다. 이를 통해 GPT-4o와 Gemini-2.0과 같은 상용 MLLM에 대해 이전보다 훨씬 높은 공격 성공률을 달성했습니다.

🔑 시사점 및 한계

•

** 범용 공격의 가능성 제시**: 입력에 독립적으로 적용 가능한 단일 적대적 공격 방법론을 통해 MLLM 보안의 새로운 가능성을 보여줍니다.

•

** 상용 MLLM 보안 취약점 시사**: 공개되지 않은 상용 MLLM 또한 범용적인 공격에 취약할 수 있음을 시사하며, 이에 대한 방어 전략 마련의 필요성을 강조합니다.

•

** 공격 성공률 증대**: 제안된 MCRMO-Attack은 기존 범용 공격 방식 대비 상당한 공격 성공률 향상을 보여주어, MLLM 보안 연구에 중요한 진전을 이루었습니다.

•

** 한계점**: 제안된 방법론이 특정 유형의 MLLM에만 효과적이거나, 공격이 생성되는 데 상당한 계산 자원이 소요될 수 있습니다. 또한, 실제 환경에서의 공격 효과 및 방어 방법에 대한 추가적인 연구가 필요합니다.

PDF 보기

Made with Slashpage