Training-Free Bayesianization for Low-Rank Adapters of Large Language Models
Created by
Haebom
저자
Haizhou Shi, Yibin Wang, Ligong Han, Huan Zhang, Hao Wang
개요
본 논문은 대규모 언어 모델(LLM)의 응답 불확실성 추정이라는 중요한 과제를 다룹니다. 기존 베이지안 방법들은 저차원 가중치 업데이트를 통해 불확실성을 정량화하는 데 효과적이었지만, 복잡한 미세 조정이나 추가 훈련 절차가 필요했습니다. 본 논문에서는 추가 훈련 없이 훈련된 저차원 어댑터를 효율적으로 베이지안 어댑터로 변환하는 이론적 근거를 갖춘 간단한 프레임워크인 Training-Free Bayesianization (TFB)를 제안합니다. TFB는 저차원 등방성 가우시안 분포 집합 내에서 가중치 사후 확률의 최대 허용 분산 수준을 체계적으로 검색합니다. 이론적 분석을 통해, 완화된 조건 하에서 이 검색 과정이 KL-정규화 변분 최적화(변분 추론의 일반화된 형태)와 동등함을 보여줍니다. 광범위한 실험을 통해 TFB가 기존 방법에 비해 우수한 불확실성 추정 및 일반화 성능을 달성하면서 복잡한 베이지안화 훈련 절차를 제거함을 보여줍니다. 코드는 https://github.com/Wang-ML-Lab/bayesian-peft 에서 이용 가능합니다.
