CM3AE: A Unified RGB Frame and Event-Voxel/-Frame Pre-training Framework
Created by
Haebom
저자
Wentao Wu, Xiao Wang, Chenglong Li, Bo Jiang, Jin Tang, Bin Luo, Qi Liu
개요
본 논문은 이벤트 카메라의 장점(높은 다이나믹 레인지, 높은 시간 분해능, 낮은 전력 소모, 낮은 지연 시간)을 활용하여 RGB-이벤트 지각을 위한 새로운 사전 학습 프레임워크인 CM3AE를 제안합니다. CM3AE는 RGB 이미지, 이벤트 이미지, 이벤트 복셀 등 다양한 모달리티의 데이터를 입력으로 받아 이벤트 기반 및 RGB-이벤트 융합 기반의 다운스트림 작업을 지원합니다. 다모달 융합 재구축 모듈을 통해 융합된 다모달 특징으로부터 원본 이미지를 재구축하여 상호 모달 정보 집계 능력을 향상시키고, 다모달 대조 학습 전략을 사용하여 공유 잠재 공간에서 상호 모달 특징 표현을 정렬하여 다모달 이해 및 전역 의존성 포착 능력을 향상시킵니다. 2,535,759개의 RGB-이벤트 데이터 쌍을 포함하는 대규모 데이터셋을 구축하여 사전 학습을 진행하며, 다섯 가지 다운스트림 작업에 대한 실험을 통해 CM3AE의 효과를 입증합니다. 소스 코드와 사전 학습된 모델은 https://github.com/Event-AHU/CM3AE 에서 공개될 예정입니다.