AD-EE: Early Exiting for Fast and Reliable Vision-Language Models in Autonomous Driving
Created by
Haebom
저자
Lianming Huang, Haibo Hu, Yufei Cui, Jiacheng Zuo, Shangyu Wu, Nan Guan, Chun Jason Xue
개요
자율 주행 기술 발전과 함께 시각-언어 모델(VLM)의 활용이 증가했지만, 높은 지연 시간과 계산 오버헤드는 실시간 적용을 어렵게 만든다. 특히 VLM이 불필요한 레이어를 계속 처리하는 과도한 추론이 비효율성을 야기한다. 본 논문은 자율 주행의 도메인 특성을 통합하고 인과 추론을 활용하여 최적의 조기 종료 레이어를 식별하는 조기 종료 프레임워크 AD-EE를 제안한다. Waymo, CODA 등 대규모 자율 주행 데이터셋과 Autoware Universe 플랫폼을 사용하는 실제 차량에서 실험을 수행한 결과, AD-EE는 지연 시간을 최대 57.58%까지 줄이고 객체 감지 정확도를 최대 44%까지 향상시켰다.
시사점, 한계점
•
시사점:
◦
자율 주행에서 VLM의 실시간 성능 향상을 위한 효과적인 조기 종료 프레임워크 제시.
◦
지연 시간과 객체 감지 정확도 모두에서 상당한 성능 개선 달성.
◦
실제 자율 주행 환경과 다양한 데이터셋에서의 광범위한 실험을 통해 방법론의 실용성 입증.
•
한계점:
◦
구체적인 한계점은 논문 내용에 명시되지 않음. (예: 특정 VLM 모델 또는 데이터셋에 대한 의존성, 특정 주행 환경에서의 성능 제한 등).