본 논문은 대규모 언어 모델의 메모리 효율적인 미세 조정을 위해 저비트 양자화와 LoRA를 효과적으로 결합한 QLoRA의 한계를 극복하는 새로운 방법인 QR-Adaptor를 제안합니다. 기존의 SVD 기반 방법들이 양자화 오류를 해결하는 데 일관된 성능 향상을 보이지 못한 점을 지적하며, QR-Adaptor는 부분 보정 데이터를 사용하여 각 계층의 양자화 구성 요소와 저차원 공간의 차수를 공동으로 탐색하는 통합된, 기울기가 없는 전략을 제시합니다. 양자화 오류를 최소화하는 대신, 실제 downstream 성능과 메모리 사용량을 기반으로 정밀도와 차수 할당을 이산 최적화 문제로 처리합니다. GSM8K 데이터셋에서 최첨단 양자화된 LoRA 미세 조정 방법에 비해 4.89%의 정확도 향상을 달성했으며, 경우에 따라 16비트 미세 조정 모델보다 더 나은 성능을 보이면서 4비트 설정의 메모리 사용량을 유지합니다.
