Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

AdaTP: Attention-Debiased Token Pruning for Video Large Language Models

Created by
  • Haebom

저자

Fengyuan Sun, Leqi Shen, Hui Chen, Sicheng Zhao, Jungong Han, Guiguang Ding

개요

본 논문은 비디오 대규모 언어 모델(Video LLMs)의 높은 계산 비용 문제를 해결하기 위해, 주의 메커니즘의 편향을 해소하는 새로운 토큰 가지치기 기법인 AdaTP를 제안합니다. AdaTP는 전역적 및 지역적 주의 편향을 각각 해결하는 두 개의 모듈을 통합하여, 추가적인 훈련 없이도 Video LLMs의 계산 비용을 크게 줄이면서 성능을 유지합니다. 다양한 비디오 이해 벤치마크에서 SOTA 성능을 달성하며, 특히 LLaVA-OneVision-7B 모델에서 기존 모델 대비 최대 27.3%의 FLOPs만 사용하면서 성능 저하 없이 동작함을 보였습니다.

시사점, 한계점

시사점:
Video LLMs의 계산 비용 문제를 효과적으로 해결하는 새로운 토큰 가지치기 기법 AdaTP 제시.
추가 훈련 없이 주의 메커니즘의 편향을 해소하여 성능 저하 없이 계산 효율 향상.
다양한 비디오 이해 벤치마크에서 SOTA 성능 달성.
LLaVA-OneVision-7B 모델에서 72.7% 이상의 FLOPs 감소 달성.
한계점:
아직 코드가 공개되지 않음.
제안된 방법의 일반화 성능에 대한 추가적인 연구 필요.
다른 유형의 Video LLMs에 대한 적용성 검증 필요.
👍