Guodong Du, Xuanning Zhou, Junlin Li, Zhuo Li, Zesheng Shi, Wanyu Lin, Ho-Kin Tang, Xiucheng Li, Fangming Liu, Wenya Wang, Min Zhang, Jing Li
개요
GraftLLM은 대규모 언어 모델(LLM)의 다양한 기능을 경량 모델로 효율적으로 전이하는 새로운 방법입니다. 기존의 지식 증류나 PEFT 방법들이 대규모 이종 모델에 적용될 때 발생하는 매개변수 충돌, catastrophic forgetting 문제를 해결하기 위해, GraftLLM은 소스 모델의 기능을 SkillPack 형식으로 저장하여 목표 모델에 통합합니다. 모듈 인식 적응형 압축 전략을 사용하여 매개변수 업데이트를 효율적으로 압축하고, 지속적인 학습과 모델 융합을 지원합니다. 다양한 실험 결과, GraftLLM은 기존 기술보다 지식 전이, 지식 융합, 망각 없는 학습에서 우수한 성능을 보였습니다. 코드는 공개적으로 제공됩니다 (https://github.com/duguodong7/GraftLLM).
