SegQuant: A Semantics-Aware and Generalizable Quantization Framework for Diffusion Models
Created by
Haebom
저자
Jiaji Zhang, Ruichao Sun, Hailiang Zhao, Jiaju Wu, Peng Chen, Hao Li, Yuying Liu, Kingsum Chow, Gang Xiong, Shuiguang Deng
개요
본 논문은 확산 모델의 계산 비용을 줄이기 위한 새로운 양자화 프레임워크인 SegQuant를 제안합니다. 기존의 사후 훈련 양자화(PTQ) 방법들이 모델 구조에 특화되어 일반성이 떨어지는 문제점을 해결하기 위해, SegQuant는 구조적 의미와 공간적 이질성을 포착하는 세그먼트 인식 그래프 기반 양자화 전략(SegLinear)과 극성 비대칭 활성화를 보존하는 이중 스케일 양자화 기법(DualScale)을 결합합니다. 이는 Transformer 기반 확산 모델뿐 아니라 다양한 모델에 적용 가능하며, 주요 배포 도구와의 호환성을 보장하면서 성능을 향상시킵니다.