본 논문은 다양한 사전 훈련된 모델들의 매개변수를 기반 모델에 반복적으로 통합하여 기반 모델의 성능을 향상시키는 새로운 모델 병합 패러다임인 모델 어셈블리 학습(MAL)을 제시합니다. 기존의 모델 병합 방법들이 동일한 구조를 가진 모델들에 대해서만 가능했던 것과 달리, MAL은 이종 구조의 모델들과 계층 간의 선택적 매개변수 병합을 허용합니다. 특히, 기반 모델은 여러 사전 훈련된 모델들의 다양한 계층으로부터 매개변수를 통합할 수 있으며, 계층 너비의 불일치와 같은 문제들을 체계적으로 해결하고 효과적인 MAL 구현을 위한 지침을 제시합니다. 추가적인 데이터나 훈련 없이 다양한 모델의 매개변수를 결합하여 일반적인 성능 향상을 달성하는 것을 목표로 합니다.
