Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

ROVER: Recursive Reasoning Over Videos with Vision-Language Models for Embodied Tasks

Created by
  • Haebom
Category
Empty

저자

Philip Schroeder, Ondrej Biza, Thomas Weng, Hongyin Luo, James Glass

개요

Vision-language 모델(VLM)이 긴 비디오 시퀀스에 대한 추론에 어려움을 겪는 문제를 해결하기 위해, ROVER(Reasoning Over VidEo Recursively) 프레임워크를 제안합니다. ROVER는 긴 비디오 궤적을 짧은 하위 작업에 해당하는 세그먼트로 재귀적으로 분해하여, 시간적으로 국한된 프레임 시퀀스에 대한 집중적이고 정확한 추론을 가능하게 합니다. OpenX Embodiment 비디오 및 RoboCasa에서 파생된 새로운 데이터 세트를 사용하여 ROVER를 평가하며, 작업 진행 추정, 프레임 수준 자연어 추론, 비디오 질의 응답의 세 가지 비디오 추론 작업에서 강력한 기반 모델보다 뛰어난 성능을 보입니다. ROVER는 모델이 각 타임스텝에서 추론하는 프레임 수를 줄여 환각을 완화하고, 하위 작업별 슬라이딩 컨텍스트 창을 구현하여 시간 복잡성을 비디오 길이에 따라 선형적으로 확장합니다.

시사점, 한계점

ROVER는 긴 비디오 궤적을 하위 작업으로 분해하여 VLM의 비디오 추론 능력을 향상시킵니다.
ROVER는 환각을 줄이고 시간 복잡성을 개선합니다.
ROVER는 in-context learning 접근 방식을 사용하여 구현되었습니다.
평가는 다양한 데이터 세트와 세 가지 비디오 추론 작업을 통해 이루어졌습니다.
한계점은 구체적으로 명시되지 않았습니다.
👍