Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Transfer-learning for video classification: Video Swin Transformer on multiple domains

Created by
  • Haebom

저자

Daniel A. P. Oliveira, David Martins de Matos

개요

본 논문은 비디오 분류를 위한 순수 트랜스포머 모델인 Video Swin Transformer (VST)의 도메인 외 일반화 성능을 평가한다. Kinetics-400 데이터셋으로 사전 훈련된 VST를 FCVID와 Something-Something 데이터셋에 적용하여 전이 학습을 진행하고, 그 결과를 분석하여 VST의 강점과 약점을 파악한다. 실험 결과, Kinetics-400 (주로 물체 중심)에서 FCVID (주로 물체 중심)로의 전이 학습은 85%의 top-1 정확도를 달성하여 최첨단 성능과 유사한 결과를 보였으나, Kinetics-400에서 Something-Something (주로 행동 중심)으로의 전이 학습은 21%의 낮은 정확도를 기록했다. 비디오 지속 시간이 증가할수록 성능이 저하되는 경향도 확인되었다. 결론적으로 VST는 동일한 종류의 클래스(예: 물체 중심) 간 전이 학습에서는 우수한 일반화 성능을 보이지만, 서로 다른 종류의 클래스(예: 물체 vs. 행동) 간에는 성능이 저하됨을 확인했다.

시사점, 한계점

시사점:
사전 훈련된 VST를 이용한 전이 학습은 데이터 및 계산 자원을 크게 절약하면서 우수한 성능을 달성할 수 있다 (Kinetics-400 에서 FCVID 로의 전이 학습).
VST는 동일한 유형의 클래스(예: 물체)에 대해서는 도메인 외 일반화 성능이 우수하다.
비디오 지속 시간과 모델 성능 간의 상관관계를 제시하여 모델 개선 방향을 제시한다.
한계점:
서로 다른 유형의 클래스(예: 물체 vs. 행동) 간 전이 학습 성능이 저조하다.
비디오 지속 시간 증가에 따른 성능 저하 문제가 존재한다.
실험 데이터셋의 제한으로 일반화 가능성에 대한 추가 연구가 필요하다.
👍