본 논문은 대규모 언어 모델(LLM)의 극한 저비트 양자화에서 발생하는 활성화 아웃라이어 및 비등방성 가중치 곡률 문제를 해결하기 위해 HARP(Hadamard-preconditioned Adaptive Rotation Processor)를 제안합니다. HARP는 학습 가능한 구조화된 회전 프로세서로, 고정된 랜덤 하다마드 변환(RHT)을 대체하여 각 레이어와 데이터 분포에 적응합니다. 이를 통해 2~4비트 양자화에서 Llama 모델의 성능을 일관되게 향상시키며, 특히 2비트 양자화에서 두드러진 성능 개선을 보여줍니다.