WAM-Diff2: Hierarchical AR-to-Diffusion Distillation for Highly Efficient Autonomous Driving VLA
작성자
카테고리
Empty
저자
Zhihao Zhu, Hanlin Shang, Mingwang Xu, Feipeng Cai, Zhuolin He, Yaoyi Li, Jianhua Han, Hang Xu, Siyu Zhu
💡 개요
본 논문은 자율 주행을 위한 Vision-Language-Action (VLA) 모델의 효율적인 배포 문제를 해결하기 위해 WAM-Diff2라는 계층적 증류 기반의 이산 확산 모델을 제안합니다. 이 모델은 기존의 고성능 자가회귀(autoregressive) 모델의 다중 작업 이해 능력을 유지하면서도, 확산 모델의 빠른 병렬 추론 속도를 달성하도록 설계되었습니다. 세 단계의 계층적 증류 전략을 통해 기존 모델의 의미론적 기반을 보존하면서 추론 속도를 크게 향상시켰습니다.
🔑 시사점 및 한계
•
시사점 1: 자율 주행 VLA 모델에서 발생하는 노출 편향(exposure bias)을 효과적으로 완화하고, 높은 수준의 인지 능력을 유지하면서도 확산 모델의 빠른 추론 속도를 구현할 수 있습니다.
•
시사점 2: 계층적 증류 전략은 기존의 복잡하고 느린 자가회귀 모델을 효율적인 확산 모델로 전환하는 데 효과적인 아키텍처 변환 방법을 제시합니다.
•
한계점 또는 향후 과제: 제안된 모델이 모든 종류의 VLA 작업에 대해 최적의 성능을 보장하는지에 대한 추가적인 검증이 필요하며, 증류 과정의 복잡성과 이에 따른 학습 비용에 대한 고려가 필요합니다.
