Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

B-VLLM: A Vision Large Language Model with Balanced Spatio-Temporal Tokens

Created by
  • Haebom

저자

Zhuqiang Lu, Zhenfei Yin, Mengwei He, Zhihui Wang, Zicheng Liu, Zhiyong Wang, Kun Hu

개요

본 논문은 비전 대규모 언어 모델(VLLM)을 이용한 장시간 영상 이해의 어려움을 해결하기 위해, 텍스트 조건부 적응적 프레임 선택 모듈과 시간적 프레임 토큰 병합 기법, 공간적 토큰 샘플링 모듈 및 병합 전략을 활용한 Balanced-VLLM (B-VLLM) 프레임워크를 제시합니다. 기존 VLLM들이 영상 다운샘플링 또는 각 프레임의 시각 토큰 수 감소로 인해 시간적 또는 공간적 정보 손실이 발생하는 문제점을 해결하고자, 과제 관련 시공간적 단서를 효과적으로 활용하면서 VLLM의 컨텍스트 창 길이 내에서 시각 토큰 수를 제한하는 방법을 제안합니다. 실험 결과, B-VLLM이 다양한 영상 이해 벤치마크에서 우수한 성능을 보임을 확인했습니다.

시사점, 한계점

시사점:
VLLM 기반 장시간 영상 이해의 효율성을 크게 향상시켰습니다.
텍스트 조건부 적응적 프레임 선택 및 토큰 병합 전략을 통해 과제 관련 정보 손실을 최소화했습니다.
다양한 영상 이해 벤치마크에서 기존 방법보다 우수한 성능을 달성했습니다.
공개된 코드를 통해 재현성을 높였습니다.
한계점:
제안된 방법의 계산 복잡도에 대한 자세한 분석이 부족합니다.
특정 유형의 영상 데이터에 대한 성능 편향 가능성이 존재합니다.
더욱 다양하고 복잡한 영상 이해 과제에 대한 추가적인 실험이 필요합니다.
👍