본 논문은 대규모 언어 모델의 메모리 효율적인 미세 조정을 위해 저비트 양자화와 LoRA를 효과적으로 결합하는 QLoRA의 한계를 극복하는 새로운 방법인 QR-Adaptor를 제안합니다. 기존의 SVD 기반 연속 업데이트 방법들이 양자화 오류를 해결하는 데 일관되게 성능 향상을 보장하지 못하는 문제를 해결하기 위해, QR-Adaptor는 부분 보정 데이터를 사용하여 양자화 구성 요소와 저랭크 공간의 차수를 각 계층별로 공동으로 탐색하는 통합적인 기울기 없는 전략을 제시합니다. 양자화 오류를 최소화하는 대신, 실제 downstream 성능과 메모리 사용량을 기반으로 정밀도와 차수 할당을 이산 최적화 문제로 처리합니다. 결과적으로, 최첨단 양자화 LoRA 미세 조정 방법에 비해 GSM8K에서 4.89%의 정확도 향상을 달성하며, 경우에 따라 16비트 미세 조정 모델보다도 우수한 성능을 보이면서 4비트 설정의 메모리 사용량을 유지합니다.
