Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Optical-Flow Guided Prompt Optimization for Coherent Video Generation

Created by
  • Haebom
Category
Empty

저자

Hyelin Nam, Jaemin Kim, Dohun Lee, Jong Chul Ye

개요

본 논문은 시간적 일관성이 부족한 텍스트-비디오 확산 모델의 문제점을 해결하기 위해, 옵티컬 플로우를 이용한 새로운 프레임워크인 MotionPrompt를 제안합니다. MotionPrompt는 실제 비디오와 생성 비디오의 프레임 쌍 간 옵티컬 플로우를 구분하도록 학습된 판별기를 사용합니다. 판별기의 그래디언트를 역방향 샘플링 단계에서 학습 가능한 토큰 임베딩을 최적화하는 데 사용하여, 자연스러운 움직임 역학을 반영하면서도 생성 콘텐츠의 충실도를 유지하는 시각적으로 일관된 비디오 시퀀스를 생성합니다. 다양한 모델에서 본 방법의 효과를 보여줍니다.

시사점, 한계점

시사점:
옵티컬 플로우 기반의 새로운 가이드 기술을 통해 텍스트-비디오 확산 모델의 시간적 일관성 문제 개선.
생성 비디오의 시각적 일관성과 충실도를 동시에 향상시키는 효과적인 방법 제시.
다양한 모델에 적용 가능한 일반적인 프레임워크 제공.
한계점:
제안된 방법의 계산 비용 및 효율성에 대한 자세한 분석 부족.
다양한 종류의 비디오 데이터셋에 대한 일반화 성능 평가 부족.
긴 비디오 시퀀스 생성 시 발생할 수 있는 누적 오류에 대한 고찰 부족.
👍