본 논문은 사후 훈련 최적화를 통해 모델의 크기를 증가시켜 양자화된 모델의 성능을 향상시키는 방법을 제시합니다. 기존의 양자화 기법들은 모델 크기를 줄이는 데 초점을 맞추었지만, 본 논문에서는 양자화 과정에서 발생하는 성능 저하를 보완하기 위해 모델을 확장하는 전략을 제안합니다. 특히, Llama3 1B 모델을 4비트로 양자화하면서 모델 크기를 5% 증가시켜 QuaRot 및 SpinQuant와 비교하여 perplexity 감소율을 평균 9% 향상시켰고, BF16 기준 모델 대비 3.8%의 크기 감소 효과를 달성했습니다. 이러한 결과는 사후 훈련 모델 확장이 양자화 공동 설계 공간 내에서 모델 성능을 개선하는 실행 가능한 전략임을 보여줍니다.
