VVS: Accelerating Speculative Decoding for Visual Autoregressive Generation via Partial Verification Skipping
Created by
Haebom
Category
Empty
저자
Haotian Dong, Ye Li, Rongwei Lu, Chen Tang, Shu-Tao Xia, Zhi Wang
개요
본 논문은 이미지 생성 분야의 시각적 자기 회귀(AR) 모델의 추론 지연 문제를 해결하기 위해, 검증 건너뛰기(verification skipping)를 도입한 새로운 추론 가속 프레임워크 VVS를 제안한다. VVS는 검증-없는 토큰 선택, 토큰 수준 특징 캐싱 및 재사용, 세분화된 건너뛰기 단계 스케줄링 모듈을 통합하여 기존 speculative decoding(SD) 방식의 한계를 극복하고, AR 모델의 순방향 패스 수를 줄여 추론 속도를 향상시킨다.
시사점, 한계점
•
시사점:
◦
시각적 AR 모델에서 검증 건너뛰기를 활용하여 추론 속도를 향상시킬 수 있는 새로운 프레임워크 제시.
◦
기존 SD 방식 대비 2.8배의 속도 향상 달성.
◦
검증 없는 단계에서 생성 품질 유지를 위한 핵심 요소(검증 중복성, 오래된 특징 재사용성) 분석.
