On-the-Fly Adaptation to Quantization: Configuration-Aware LoRA for Efficient Fine-Tuning of Quantized LLMs

Created by

Haebom

저자

Rongguang Ye, Ming Tang, Edith C. H. Ngai

💡 개요

대규모 사전 학습 모델의 엣지 디바이스 배포를 위해 양자화와 LoRA 어댑터 미세 조정을 결합하는 것은 모델 크기를 줄이고 정확도 손실을 완화하는 효과적인 방법입니다. 하지만 엣지 디바이스의 이질적인 컴퓨팅 능력으로 인해 모든 양자화 설정에 대해 개별적으로 미세 조정을 수행하는 것은 비효율적입니다. 본 논문은 CoA-LoRA를 제안하여, 반복적인 미세 조정 없이 임의의 양자화 설정에 동적으로 LoRA 어댑터를 조정하는 방법을 제시합니다.

🔑 시사점 및 한계

•

동적 적응성: CoA-LoRA는 사전 학습된 모델의 각 레이어 비트폭 선택과 같은 다양한 양자화 설정에 맞춰 LoRA 어댑터를 동적으로 조정함으로써, 각 설정마다 별도의 미세 조정 없이 효율적인 배포를 가능하게 합니다.

•

효율적인 학습 구성: Pareto 기반 최적화를 통해 효율적인 학습 구성 집합을 탐색함으로써, 저차원 조정의 정확도를 향상시키고 학습 비용을 절감합니다.

•

한계점: CoA-LoRA의 성능은 학습 구성 집합의 품질에 크게 의존하며, 고품질의 학습 구성 집합을 구축하는 것이 여전히 중요한 과제로 남아있습니다.

PDF 보기

Made with Slashpage