Multimodal Fact-Level Attribution for Verifiable Reasoning

Created by

Haebom

저자

David Wan, Han Wang, Ziyang Wang, Elias Stengel-Eskin, Hyunji Lee, Mohit Bansal

💡 개요

본 논문은 멀티모달 대규모 언어 모델(MLLMs)의 복잡한 다단계 추론 시 발생하는 사실적 주장을 각 근거 자료(비디오, 오디오 등)의 정확한 부분까지 추적하고 검증하는 능력 평가의 필요성을 제기합니다. 이를 위해 추론 과정에서 각 사실 주장에 대해 특정 모달리티와 시간 구간을 명시하는 인용을 요구하는 새로운 벤치마크인 MuRGAt를 제안합니다. MuRGAt 벤치마킹 결과, 최신 MLLMs조차도 정확한 추론과 별개로 잘못된 인용을 생성하는 경우가 많으며, 추론의 깊이나 구조화된 근거 제시 요구는 정확도를 저하시키는 경향이 있음을 보여줍니다.

🔑 시사점 및 한계

•

MLLMs의 복잡한 멀티모달 추론에서 사실 기반의 정확한 인용 능력은 아직 부족하며, 이는 모델의 신뢰성 확보에 중요한 장애물입니다.

•

현재 MLLMs는 추론 자체는 수행할 수 있으나, 그 결과가 실제 입력 데이터에 얼마나 정확하게 근거하는지를 명확히 제시하는 데 어려움을 겪습니다.

•

추론의 복잡성이나 구조화된 근거 제시 요구는 모델의 정확도를 희생시킬 수 있으며, 이는 향후 모델 설계 시 고려해야 할 균형점입니다.

•

제안된 벤치마크 MuRGAt는 향후 MLLMs의 사실적 근거 기반 추론 능력 평가 및 개선에 기여할 것으로 기대됩니다.

•

자동 평가 프레임워크가 인간 평가와 높은 상관관계를 보이지만, 복잡한 추론 시나리오에서 모든 환각(hallucination) 사례를 완벽하게 포착하는 데는 한계가 있을 수 있습니다.

PDF 보기

Made with Slashpage