edgeVLM: Cloud-edge Collaborative Real-time VLM based on Context Transfer
Created by
Haebom
Category
Empty
저자
Chen Qian, Xinran Yu, Zewen Huang, Danyang Li, Qiang Ma, Fan Dang, Xuan Ding, Guangyong Shang, Zheng Yang
개요
Vision-Language Model (VLM)을 위한 새로운 클라우드-엣지 협업 패러다임인 Context Transfer를 제안합니다. 이 방법은 지연된 Large VLM (LVLM)의 출력을 Small VLM (SVLM) 추론에 대한 실시간 지침으로 활용합니다. edgeVLM이라는 새로운 프레임워크를 설계하여 context replacement 및 visual focus 모듈을 통합하여 텍스트 입력을 개선하고 시각적 일관성을 향상시킵니다.
시사점, 한계점
•
시사점:
◦
LVLM의 지연된 출력을 SVLM 추론에 활용하여 실시간 성능을 향상시키는 새로운 패러다임 제시.
◦
Context Transfer 패러다임 기반의 edgeVLM 프레임워크 설계 및 성능 입증.