Value-Guided Iterative Refinement and the DIQ-H Benchmark for Evaluating VLM Robustness

Thu, 30 Apr 2026 07:42:28 GMT

### 저자

Hanwen Wan, Zexin Lin, Yixuan Deng, Xiaoqiang Ji

### 💡 개요

본 논문은 로보틱스 및 자율 시스템과 같은 안전 필수 응용 분야에서 중요한 비전-언어 모델(VLM)의 강건성 평가를 위한 새로운 프레임워크와 벤치마크를 제안합니다. 기존 벤치마크의 한계를 극복하기 위해, 동적이고 열악한 시각적 조건에서 VLM의 오염으로 인한 오류 전파 및 장기적 가치 불일치를 측정하는 DIQ-H 벤치마크를 개발했습니다. 또한, 고품질의 윤리적으로 정렬된 정답 주석 생성을 자동화하는 Value-Guided Iterative Refinement (VIR) 프레임워크를 도입하여 VLM 평가의 확장성과 비용 효율성을 높였습니다.

### 🔑 시사점 및 한계

- DIQ-H 벤치마크는 실제 세계의 열악한 시각적 조건 하에서 VLM의 강건성을 체계적으로 평가할 수 있는 최초의 벤치마크를 제공합니다.

- VIR 프레임워크는 경량 VLM을 활용하여 가치 불일치를 탐지하고 개선함으로써, 기존 방식 대비 상당한 성능 향상을 달성하며 안전 필수 VLM 평가의 효율성을 증대시킵니다.

- 본 연구는 VLM의 오류 복구 능력, 윤리적 일관성, 시간적 가치 정렬에서의 취약점을 발견했으며, 이는 향후 VLM 개발 및 배포에 중요한 고려 사항이 될 것입니다.

- 향후 과제로는 더 다양한 실제 환경의 스트레스 요인과 더 복잡한 윤리적 가치 체계를 통합하여 벤치마크를 확장하는 것이 필요합니다.

---

[PDF 보기](https://arxiv.org/pdf/2512.03992)