Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

SMART: Shot-Aware Multimodal Video Moment Retrieval with Audio-Enhanced MLLM

Created by
  • Haebom
Category
Empty

저자

An Yu, Weiheng Lu, Jian Li, Zhenfei Zhang, Yunhang Shen, Felix X. -F. Ye, Ming-Ching Chang

개요

자연어 쿼리를 기반으로 비디오 내 특정 시간적 세그먼트를 찾는 비디오 모멘트 검색 작업에 대한 연구. 기존 방법들의 한계를 극복하기 위해, 오디오 신호를 통합하고 샷 레벨 시간 구조를 활용하는 MLLM 기반 프레임워크인 SMART를 제안. SMART는 오디오-시각적 특징을 결합하여 멀티모달 표현을 풍부하게 하고, 샷 단위 토큰 압축을 적용하여 중복성을 줄이면서 세밀한 시간적 세부 정보를 보존. Charades-STA 및 QVHighlights 데이터셋에서 SOTA 성능을 달성.

시사점, 한계점

시사점:
오디오 신호 통합을 통한 멀티모달 비디오 이해 성능 향상.
샷 단위 시간 구조 활용을 통한 세밀한 시간적 디테일 보존.
SOTA 달성을 통한 SMART 프레임워크의 효과 입증.
한계점:
구체적인 한계점은 논문 요약에 명시되지 않음. (논문의 추가적인 내용을 확인해야 함)
👍