본 논문은 대규모 시각 언어 모델(VLMs)의 환각 현상을 줄이기 위해 객체 인식 기반의 리스트와이 선호도 최적화 기법인 LPOI를 제안합니다. 기존의 RLHF나 DPO와 같은 방법들은 텍스트 정보에 과적합되거나 환각 현상을 악화시키는 문제가 있었는데, LPOI는 이미지에서 중요한 객체를 식별하고 마스크 처리한 후, 양성 및 음성 이미지 간의 보간을 통해 객체의 가시성이 점진적으로 증가하는 이미지 시퀀스를 생성합니다. 모델은 이 이미지들을 객체 가시성 순서대로 순위를 매기도록 학습되며, 이를 통해 환각 현상을 줄이면서 시각적 충실도를 유지합니다. LPOI는 기존의 쌍방향 선호도 데이터만으로도 작동하며 추가적인 어노테이션이 필요 없습니다. MMHalBench, AMBER, Object HalBench에 대한 실험 결과, LPOI는 기존의 선호도 최적화 방법보다 환각 현상 감소 및 VLM 성능 향상에 효과적인 것으로 나타났습니다.
