본 논문은 개별 작업을 위해 대규모 언어 모델(LLM)을 미세 조정하는 것이 배포 및 저장에 비용이 많이 든다는 점을 지적하며, 추가 훈련 없이 여러 작업별 모델을 단일 다중 작업 모델로 결합하기 위한 모델 병합을 연구합니다. 기존의 병합 방법들은 저랭크 적응(LoRA)으로 미세 조정된 모델에 대해서는 성능 저하로 인해 실패하는 경우가 많다는 문제점을 제기합니다. 본 논문에서는 이 문제가 모델 매개변수와 데이터 분포 간의 상호 작용 때문임을 밝히고, 작업 관련 업데이트가 다른 작업의 출력에 부정적인 영향을 미치지 않도록 미세 조정 전에 LoRA 하위 공간을 제약하는 강력한 모델 병합을 위한 직교 하위 공간(OSRM)을 제안합니다. OSRM은 대부분의 기존 병합 알고리즘과 원활하게 통합되어 작업 간의 의도하지 않은 간섭을 줄입니다. 8개의 데이터셋에 대한 광범위한 실험을 통해 제안된 방법이 병합 성능을 향상시키고 단일 작업 정확도를 유지하며, 병합의 하이퍼파라미터에 대한 강력한 로버스트성을 보여줌을 입증합니다. 이는 모델 병합에서 데이터-매개변수 상호 작용의 중요성을 강조하고 LoRA 모델 병합을 위한 플러그 앤 플레이 솔루션을 제공합니다.
