AdvNav: Behavior-Guided Black-Box Adversarial Attacks on Vision-Language Navigation
Author
- Haebom
Category
Empty
저자
Chenyang Li, Kaige Li, Zeyu Jiang, Changhao Chen
💡 개요
본 논문은 실제 환경에서 적용하기 어려운 화이트박스 방식의 적대적 공격 대신, 블랙박스 환경에서 Vision-Language Navigation (VLN) 시스템의 취약점을 공격하는 AdvNav 프레임워크를 제안합니다. AdvNav는 에이전트의 1인칭 시점에 시각적 교란을 적용하며, 궤적 및 행동 수준의 피드백을 활용한 듀얼-그래뉠러티 행동 기반 피드백과 유전 알고리즘을 결합한 하이브리드 최적화 전략을 통해 효과적인 공격 방법을 탐색합니다.
🔑 시사점 및 한계
•
블랙박스 환경에서 VLN 시스템의 다단계 순차적 인지-행동 루프를 효과적으로 교란할 수 있는 새로운 공격 방법론을 제시합니다.
•
에이전트의 행동 자체에서 추출한 정보를 활용하여 적대적 공격의 효율성을 높이고, 실제 시스템에 대한 적용 가능성을 확대합니다.
•
제안된 AdvNav는 다양한 VLN 모델에 대해 높은 공격 성공률을 보이며, 향후 견고한 VLN 모델 설계를 위한 중요한 시사점을 제공합니다.
•
현재 연구는 특정 환경 및 데이터셋(R2R)에 국한되어 있으며, 실제 환경의 복잡성과 다양성을 반영한 추가적인 검증이 필요합니다.
