본 논문은 확산 모델의 가속화와 압축을 위한 유망한 방법인 모델 양자화에 초점을 맞추고 있습니다. 기존의 Post-Training Quantization (PTQ)은 저비트 양자화에서 심각한 성능 저하를 보이기 때문에 Quantization-Aware Training (QAT)이 필수적입니다. 하지만 확산 모델의 넓은 범위와 시간에 따라 변하는 활성화 함수는 양자화의 복잡성을 증가시켜 기존 QAT 방법들의 효율성을 떨어뜨립니다. 본 논문에서는 이러한 문제를 해결하기 위해 새로운 QAT 프레임워크인 DilateQuant를 제안합니다. DilateQuant는 Weight Dilation (WD)을 통해 비포화 입력 채널 가중치를 제한된 범위로 확장하여 활성화 함수의 범위를 줄이면서 원래 가중치 범위를 유지함으로써 양자화 오류를 줄이고 모델 수렴을 보장합니다. 더 나아가 시간에 따라 변하는 활성화 함수를 해결하기 위해 Temporal Parallel Quantizer (TPQ)를, 그리고 훈련의 자원 소모를 줄이기 위해 Block-wise Knowledge Distillation (BKD)을 도입합니다. 실험 결과 DilateQuant는 기존 방법들보다 정확도와 효율성 측면에서 뛰어난 성능을 보임을 확인했습니다.
시사점, 한계점
•
시사점:
◦
확산 모델의 효율적인 양자화를 위한 새로운 QAT 프레임워크 DilateQuant 제시.
◦
Weight Dilation (WD)을 통해 활성화 함수의 범위를 줄이고 원래 가중치 분포를 보존하여 양자화 오류 감소 및 모델 수렴 개선.
