Shedding Light on VLN Robustness: A Black-box Framework for Indoor Lighting-based Adversarial Attack
Created by
Haebom
Category
Empty
저자
Chenyang Li, Wenbing Tang, Yihao Huang, Sinong Simon Zhan, Ming Hu, Xiaojun Jia, Yang Liu
개요
본 논문은 Vision-and-Language Navigation (VLN) 에이전트의 견고성 부족 문제를 해결하기 위해, 실내 조명을 조작하여 VLN 에이전트를 공격하는 블랙박스 프레임워크인 Indoor Lighting-based Adversarial Attack (ILA)를 제안합니다. ILA는 Static (SILA) 및 Dynamic (DILA) 두 가지 공격 모드를 사용하여 조명의 강도를 조절하거나 켜고 끄는 방식으로 실내 조명 변화를 시뮬레이션합니다. 두 가지 최첨단 VLN 모델에 대한 실험 결과, ILA가 실패율을 증가시키고 궤적 효율성을 감소시켜, VLN 에이전트가 현실적인 실내 조명 변화에 취약하다는 것을 보여줍니다.
시사점, 한계점
•
시사점:
◦
VLN 에이전트의 실내 조명 변화에 대한 취약성을 처음으로 밝힘.
◦
실제 환경에서 발생할 수 있는 공격 방식을 제시하여, VLN 에이전트의 견고성 연구에 기여.
◦
SILA 및 DILA와 같은 구체적인 공격 모드를 통해, 실제 환경에서의 취약점을 보다 정확하게 모의 실험.
