본 연구는 자원 제약 환경에서 대규모 언어 모델(LLM)을 배포하기 위한 실용적인 솔루션인 양자화가 내부 표현에 미치는 영향을 연구합니다. 다양한 해석 가능성 기법을 사용하여 4비트 및 8비트 양자화 하에서 여러 LLM의 모델 및 뉴런 동작을 분석했습니다. 연구 결과에 따르면 양자화는 모델 보정에 미치는 영향은 일반적으로 미미하며, 뉴런 활성화를 분석한 결과 죽은 뉴런의 수는 양자화와 관계없이 일관성을 유지했습니다. 뉴런의 예측 기여도 측면에서 작은 모델은 중요한 뉴런이 적고, 큰 모델은 더 많은 경향을 보였으며, 양자화가 뉴런 중복성에 미치는 영향은 모델에 따라 달랐습니다.
