Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

MoReVQA: Exploring Modular Reasoning Models for Video Question Answering

Created by
  • Haebom
Category
Empty

저자

Juhong Min, Shyamal Buch, Arsha Nagrani, Minsu Cho, Cordelia Schmid

개요

본 논문은 분해된 다단계 모듈형 추론 프레임워크를 통해 비디오 질의응답(videoQA) 과제를 다룹니다. 기존의 모듈형 방법들은 시각적 콘텐츠에 근거하지 않은 단일 계획 단계에서 효과를 보였지만, 본 논문에서는 간단하고 효과적인 기준선을 통해 이러한 시스템이 어려운 videoQA 설정에서 취약한 동작으로 이어질 수 있음을 발견했습니다. 따라서 기존의 단일 단계 계획 방법과 달리, 이벤트 파서, 근거 단계, 최종 추론 단계와 외부 메모리를 결합한 다단계 시스템을 제안합니다. 모든 단계는 훈련이 필요 없으며, 대규모 모델의 몇 번의 프롬프팅을 사용하여 수행되어 각 단계에서 해석 가능한 중간 출력을 생성합니다. 기본 계획 및 작업 복잡성을 분해함으로써, MoReVQA라는 제안하는 방법은 표준 videoQA 벤치마크(NExT-QA, iVQA, EgoSchema, ActivityNet-QA)에서 기존 연구보다 우수한 성능을 보이며, 관련 작업(근거 기반 videoQA, 단락 캡션 생성)으로 확장됩니다.

시사점, 한계점

시사점:
다단계 모듈형 추론 프레임워크를 통해 videoQA 성능 향상 및 최첨단 결과 달성.
훈련이 필요 없는, 대규모 모델의 몇 번의 프롬프팅을 사용한 해석 가능한 중간 출력 생성.
기존 단일 단계 계획 방법의 취약성을 극복하고, 다양한 videoQA 벤치마크 및 관련 작업에서 우수한 성능을 보임.
한계점:
제시된 방법의 일반화 성능에 대한 추가적인 검증 필요.
다단계 시스템의 각 단계 간 상호작용 및 의존성에 대한 상세한 분석 부족.
특정 대규모 모델에 대한 의존성으로 인한 확장성 및 일반화능력 제한 가능성.
👍