본 논문은 기존 연속 학습(Continual Learning, CL) 방법들의 치명적인 망각 문제를 해결하기 위해 모델 병합 기법을 통합한 새로운 연속 학습 프레임워크인 Perturb-and-Merge (P&M)을 제안합니다. P&M은 각 과업 학습 후, 이전 모델과 새롭게 학습된 과업 특화 모델의 볼록 조합으로 새로운 모델을 생성합니다. 이때, 이전 과업들의 손실 증가를 최소화하는 최적의 병합 계수를 이론적 분석을 통해 도출합니다. 더 나아가, 병합 과정에서 발생하는 성능 저하를, 과업 벡터와 손실 함수의 헤시안 행렬로 구성된 정규화 항을 통해 완화하며, 이를 효율적으로 근사하기 위해 2차 대칭 유한 차분과 확률적 섭동 전략을 사용합니다. 마지막으로, 메모리 오버헤드를 줄이기 위해 매개변수 효율적인 미세 조정 방법인 LoRA와 P&M을 결합합니다. 실험 결과, 여러 연속 학습 벤치마크 데이터셋에서 최첨단 성능을 달성함을 보였습니다.
