Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

AnyAttack: Towards Large-scale Self-supervised Adversarial Attacks on Vision-language Models

Created by
  • Haebom

저자

Jiaming Zhang, Junhong Ye, Xingjun Ma, Yige Li, Yunfan Yang, Yunhao Chen, Jitao Sang, Dit-Yan Yeung

개요

본 논문은 비전-언어 모델(VLMs)의 이미지 기반 적대적 공격 취약성을 다룹니다. 기존의 표적 적대적 공격은 특정 목표와 레이블을 필요로 하지만, 본 논문에서 제시하는 AnyAttack은 LAION-400M 데이터셋을 이용한 자기 지도 학습 기반의 새로운 프레임워크로, 레이블 없이 사전 훈련되어 어떤 이미지든 다양한 VLMs에서 원하는 출력을 목표로 하는 공격 벡터로 변환할 수 있는 유연성을 제공합니다. AnyAttack는 CLIP, BLIP, BLIP2, InstructBLIP, MiniGPT-4 등 오픈소스 VLMs뿐만 아니라 Google Gemini, Claude Sonnet, Microsoft Copilot, OpenAI GPT 등 상용 시스템에서도 효과적으로 작동함을 보여줍니다.

시사점, 한계점

•
시사점:
◦
기존의 표적 공격의 한계를 뛰어넘는 자기 지도 학습 기반의 새로운 적대적 공격 프레임워크 AnyAttack 제시.
◦
AnyAttack의 광범위한 VLMs 및 상용 시스템 적용 가능성을 통해 VLMs의 전반적인 취약성을 드러냄.
◦
대규모 데이터셋을 이용한 사전 훈련을 통해 다양한 공격 벡터 생성 가능.
◦
상용 시스템의 취약성을 보여줌으로써 시스템 보안에 대한 긴급한 대응 필요성을 강조.
•
한계점:
◦
AnyAttack의 공격 성공률 및 효율성에 대한 더욱 심층적인 분석 필요.
◦
다양한 유형의 VLMs에 대한 일반화 가능성에 대한 추가 연구 필요.
◦
AnyAttack에 대한 방어 기법 개발 및 연구 필요.
👍
Made with Slashpage