Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Prompt-Driven Contrastive Learning for Transferable Adversarial Attacks

Created by
  • Haebom
Category
Empty

저자

Hunmin Yang, Jongoh Jeong, Kuk-Jin Yoon

개요

본 논문은 CLIP과 같은 비전-언어 기반 모델의 우수한 전이 학습 능력을 활용하여, 다양한 하위 작업 및 도메인에 적용 가능한 적대적 예제를 생성하는 새로운 방법인 PDCL-Attack을 제안합니다. 기존의 생성 모델 기반 공격 프레임워크에, 정답 클래스 레이블의 의미론적 표현력을 활용한 프롬프트 기반 특징 유도를 통합하여 적대적 섭동의 전이성을 향상시킵니다. 다양한 교차 도메인 및 교차 모델 환경에서의 실험을 통해 기존 최고 성능 방법보다 우수함을 실증적으로 검증합니다. 특히, 프롬프트 학습을 전이 가능한 생성적 공격에 도입한 최초의 연구라고 주장합니다.

시사점, 한계점

시사점:
CLIP과 같은 비전-언어 모델의 전이 학습 능력을 적대적 예제 생성에 효과적으로 활용하는 새로운 방법 제시.
프롬프트 학습을 통해 적대적 섭동의 전이성을 향상시키는 효과적인 전략 제시.
다양한 교차 도메인 및 교차 모델 환경에서 기존 방법보다 우수한 성능을 입증.
한계점:
제안된 방법의 일반화 성능에 대한 추가적인 분석 필요.
특정한 비전-언어 모델(CLIP)에 의존적인 부분이 존재할 수 있음.
프롬프트 디자인의 효율성 및 최적화에 대한 추가적인 연구 필요.
👍