Modular Delta Merging with Orthogonal Constraints: A Scalable Framework for Continual and Reversible Model Composition

Created by

Haebom

저자

Haris Khan, Sadia Asif, Shumaila Asif, Muhammad Zeeshan Karamat, Rajesh Upadhayaya

💡 개요

본 논문은 모델 업데이트, 통합, 그리고 선택적 복원이 필요한 실제 머신러닝 환경에서 발생하는 태스크 간 간섭, 치명적 망각, 되돌릴 수 없다는 문제점을 해결하기 위해 Modular Delta Merging with Orthogonal Constraints (MDM-OC)라는 새로운 프레임워크를 제안합니다. MDM-OC는 각 태스크별 모델을 공유 기본 모델로부터의 델타(delta)로 인코딩하고, 이 델타들을 직교하는 부분 공간으로 투영하여 충돌을 제거한 후, 경사 기반 최적화를 통해 통합하여 태스크 전반에 걸쳐 성능을 유지하는 단일 모델을 형성합니다. 본 프레임워크는 지속적인 신규 모델 통합, GDPR과 같은 규정 준수를 위한 구조화된 복원, 그리고 탄성 가중치 통합 및 합성 리플레이를 통한 모델 안정성을 지원합니다.

🔑 시사점 및 한계

•

태스크 간 간섭 및 치명적 망각 방지: 직교 부분 공간으로의 투영을 통해 각 태스크별 델타 간의 충돌을 효과적으로 제거하여, 모델이 새로운 태스크를 학습할 때 기존 태스크의 성능 저하를 최소화하고 치명적 망각을 방지합니다.

•

모델 통합 및 복원의 유연성: 새로운 모델을 지속적으로 통합할 수 있으며, GDPR과 같은 규제 준수를 위해 특정 태스크의 학습 내용을 구조적으로 제거(unmerge)할 수 있는 기능을 제공합니다.

•

확장 가능하고 효율적인 프레임워크: 모델 통합, 복원, 안정성을 유지하면서도 메모리 효율적이고 계산적으로 다루기 쉬운 프레임워크를 제공하여 실제 시스템 설계에 적용 가능성을 높입니다.

PDF 보기

Made with Slashpage