Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

MAGIC: Mastering Physical Adversarial Generation in Context through Collaborative LLM Agents

Created by
  • Haebom

저자

Yun Xing, Nhat Chung, Jie Zhang, Yue Cao, Ivor Tsang, Yang Liu, Lei Ma, Qing Guo

개요

본 논문은 자율주행 환경에서의 물리적 적대적 공격에 대한 취약성을 다룬다. 기존의 어려움인 다양한 실제 환경과 시각적 자연스러움 유지를 극복하기 위해, 본 논문은 적대적 패치 생성 문제를 one-shot 문제로 재정의한다. 특정 장면 맥락을 고려하는 심층 생성 모델을 통해 적대적 패치를 생성하고, 다중 모달 LLM 에이전트 기반의 MAGIC(Mastering Physical Adversarial Generation In Context) 프레임워크를 제안한다. MAGIC은 세 개의 전문화된 LLM 에이전트(GAgent, DAgent, EAgent)를 조정하여 적대적 패치 생성, 배치 전략 결정, 그리고 반복적 개선을 수행한다. nuImage와 실제 장면에서 YOLO 및 DETR 계열의 객체 탐지 시스템에 대한 효과를 검증한다.

시사점, 한계점

시사점:
물리적 적대적 공격에 대한 새로운 접근 방식 제시 (one-shot patch generation)
다중 모달 LLM 에이전트 활용을 통한 효율적인 적대적 패치 생성 및 배치 전략 수립
실제 환경에서의 효과적인 공격 가능성을 실험적으로 검증
자율주행 시스템의 보안 취약성을 보여주는 실질적인 사례 제시
한계점:
LLM 에이전트의 성능에 대한 의존도가 높음
다양한 환경과 객체 탐지 시스템에 대한 일반화 성능 검증 필요
실제 세계 적용 시 예측 불가능한 변수에 대한 고려 부족 가능성
윤리적 문제 고려 필요 (악의적인 사용 가능성)
👍