Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

FiVL: A Framework for Improved Vision-Language Alignment through the Lens of Training, Evaluation and Explainability

Created by
  • Haebom
Category
Empty

저자

Estelle Aflalo, Gabriela Ben Melech Stan, Tiep Le, Man Luo, Shachar Rosenman, Sayak Paul, Shao-Yen Tseng, Vasudev Lal

개요

본 논문은 대규모 비전 언어 모델(LVLMs)이 시각 및 언어 정보를 통합하여 다중 모달 추론을 수행하는 데 있어, 시각 정보를 언어 정보만큼 효과적으로 활용하지 못하는 문제점을 다룹니다. 이러한 문제는 시각적 근거(visual grounding) 부족으로 인한 환각(hallucination) 현상으로 이어진다는 가설을 제시합니다. 기존의 비전-언어 벤치마크가 이미지 정보의 필수성을 제대로 평가하지 못하는 한계를 지적하며, 향상된 시각적 근거를 위한 데이터셋 생성 방법인 FiVL을 제안합니다. FiVL을 통해 생성된 데이터셋을 이용한 새로운 훈련 방식, 이미지를 실질적인 증거로 사용하는 모델의 능력을 평가하는 벤치마크, 그리고 시각 기반 환각에 대한 설명 가능성을 제공하는 주목 메커니즘 분석 등 세 가지 접근 방식을 제시합니다.

시사점, 한계점

•
시사점:
◦
시각적 근거 부족으로 인한 LVLMs의 환각 문제를 해결하기 위한 새로운 방법론 제시.
◦
FiVL을 통해 생성된 데이터셋은 LVLMs의 시각적 근거 능력 향상에 기여.
◦
이미지 사용의 필수성을 평가하는 새로운 벤치마크 제공.
◦
시각 기반 환각에 대한 설명 가능성 향상.
•
한계점:
◦
FiVL 데이터셋의 일반화 성능에 대한 추가적인 검증 필요.
◦
제안된 방법론의 다른 LVLMs 및 다양한 작업에 대한 적용성 연구 필요.
◦
주목 메커니즘 분석을 통한 설명 가능성은 여전히 제한적일 수 있음.
👍
Made with Slashpage