Same Answer, Different Representations: Hidden instability in VLMs

Created by

Haebom

저자

Farooq Ahmad Wani, Alessandro Suglia, Rohit Saxena, Aryo Pradipta Gema, Wai-Chung Kwan, Fazl Barez, Maria Sofia Bucarelli, Fabrizio Silvestri, Pasquale Minervini

💡 개요

본 논문은 기존 비전-언어 모델(VLM)의 강건성 평가 방식이 출력 결과의 안정성에만 집중하여 내부 처리 과정의 불안정성을 간과할 수 있다는 점을 지적합니다. 이에 저자들은 내부 임베딩 드리프트, 스펙트럼 민감도, 구조적 부드러움 등을 측정하는 새로운 평가 프레임워크를 제안하고, 이를 통해 VLM에서 발생하는 세 가지 주요 실패 모드를 발견했습니다.

🔑 시사점 및 한계

•

VLM은 동일한 답을 출력하더라도 내부 표현은 크게 변화할 수 있으며, 이는 모델의 실제 강건성에 대한 오해를 불러일으킬 수 있습니다.

•

모델 규모가 커질수록 정확도는 향상되지만, 내부 표현의 민감도 역시 증가하여 오히려 더 취약해질 수 있습니다.

•

시각적 단서의 조합을 방해하는 섭동은 추론 능력을 저하시키는 반면, 환각 벤치마크에서는 보수적인 응답을 유도하여 오류를 줄이는 데 기여하기도 합니다.

PDF 보기

Made with Slashpage