PairBench: A Systematic Framework for Selecting Reliable Judge VLMs

Tue, 25 Feb 2025 07:02:58 GMT

### 저자

Aarash Feizi, Sai Rajeswar, Adriana Romero-Soriano, Reihaneh Rabbany, Spandana Gella, Valentina Zantedeschi, Joao Monteiro

### 개요

본 논문은 대규모 비전 언어 모델(VLMs)을 자동 평가자로 사용하는 경우가 증가함에 따라, 프롬프트에 따라 데이터 쌍을 효과적으로 비교하는 VLMs의 능력을 이해하는 것이 중요함을 강조합니다. 이를 위해 다양한 모드와 시나리오에서 VLMs를 사용자 지정 가능한 유사성 도구로 체계적으로 평가하는 저비용 프레임워크인 PairBench를 제시합니다. PairBench를 통해 인간 주석과의 일치성, 순서에 관계없는 데이터 쌍에 대한 일관성, 유사성 분포의 부드러움, 프롬프팅을 통한 제어 가능성이라는 네 가지 핵심적인 유사성 점수 기준을 제시합니다. 분석 결과, 오픈소스이든 클로즈드소스이든 모든 지표에서 우수한 모델은 없으며, 최적의 선택은 자동 평가자의 원하는 동작(예: 부드러운 판단 vs. 날카로운 판단)에 따라 달라짐을 보여줍니다. 이는 철저한 평가 없이 VLMs를 평가자로 광범위하게 채택하는 데 따른 위험성을 강조합니다. 예를 들어, 대부분의 VLMs는 순서에 관계없이 대칭적인 유사성 점수를 유지하는 데 어려움을 겪습니다. 또한 PairBench의 지표에 대한 VLMs의 성능은 인기 있는 벤치마크와 밀접하게 상관관계가 있음을 보여주어 모델 순위 지정에 대한 예측력을 보여줍니다.

### 시사점, 한계점

- **시사점:**

- PairBench는 VLMs의 유사성 비교 능력을 평가하는 저비용 효율적인 프레임워크를 제공합니다.

- VLMs의 자동 평가자로서의 사용에 대한 위험성과 한계를 명확히 제시합니다. (대칭성 유지 어려움 등)

- PairBench의 평가 결과는 기존 벤치마크와 상관관계가 높아 모델 성능 예측에 활용 가능합니다.

- 모델 선택은 사용 목적에 따른 최적의 지표 선택을 필요로 함을 시사합니다. (부드러운 판단 vs. 날카로운 판단)

- **한계점:**

- PairBench가 모든 유형의 VLM과 모든 유형의 데이터 쌍에 대해 일반화될 수 있는지에 대한 추가 연구가 필요합니다.

- 제시된 네 가지 지표 외에도 다른 중요한 평가 기준이 존재할 수 있습니다.

- 특정 프롬프트 디자인에 대한 의존성이 존재할 수 있습니다.

[PDF 보기](https://arxiv.org/pdf/2502.15210)

![https://i.imgur.com/gRKpTxm.jpeg](https://i.imgur.com/gRKpTxm.jpeg)