Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

MF-CLIP: Leveraging CLIP as Surrogate Models for No-box Adversarial Attacks

Created by
  • Haebom
Category
Empty

저자

Jiaming Zhang, Lingyu Qiu, Qi Yi, Yige Li, Jitao Sang, Changsheng Xu, Dit-Yan Yeung

개요

본 논문은 심층 신경망(DNN)의 적대적 공격 취약성에 대한 문제를 다루며, 특히 훈련 데이터 접근 없이 공격하는 'no-box attack' 설정에 초점을 맞춥니다. 기존 연구에서 상대적으로 덜 연구된 no-box attack에서 비전-언어 모델(VLM), 특히 CLIP을 대리 모델로 활용하는 방법을 제시합니다. CLIP을 직접 사용하는 데에는 판별 능력의 한계가 있음을 밝히고, 이를 해결하기 위해 margin-aware feature space optimization을 활용한 MF-CLIP 프레임워크를 제안합니다. 다양한 아키텍처와 데이터셋에 대한 실험 결과, MF-CLIP이 기존 방법보다 성능이 훨씬 우수하며, 표준 모델에서는 15.23%, 적대적 훈련된 모델에서는 9.52% 향상을 보임을 보여줍니다.

시사점, 한계점

시사점:
no-box attack에 대한 체계적인 연구를 수행하고, CLIP 기반의 효과적인 공격 프레임워크인 MF-CLIP을 제시.
MF-CLIP을 통해 no-box attack의 성능을 크게 향상시켜 기존 기술의 한계를 극복.
공개된 코드를 통해 재현성을 높이고, 향후 연구를 위한 기반 마련.
한계점:
CLIP의 판별 능력 한계를 MF-CLIP으로 어느 정도 해결했지만, CLIP 자체의 성능 한계는 여전히 존재할 수 있음.
다양한 아키텍처와 데이터셋에 대한 실험을 수행했지만, 모든 가능한 시나리오를 포괄하지는 못했을 가능성 존재.
MF-CLIP의 일반화 성능에 대한 추가적인 검증이 필요할 수 있음.
👍