Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Merge and Bound: Direct Manipulations on Weights for Class Incremental Learning

Created by
  • Haebom
Category
Empty

저자

Taehoon Kim, Donghwan Jang, Bohyung Han

개요

본 논문은 Class Incremental Learning (CIL)을 위한 Merge-and-Bound (M&B)라는 새로운 훈련 접근 방식을 제시한다. M&B는 모델의 파라미터 공간에서 모델 가중치를 직접 조작하여 최적화를 수행한다. 이 알고리즘은 두 가지 유형의 가중치 병합을 포함한다: 과제 간 가중치 병합과 과제 내 가중치 병합. 과제 간 가중치 병합은 이전 모든 단계의 모델 가중치를 평균하여 이전 모델들을 통합하고, 과제 내 가중치 병합은 현재 단계 내에서 모델 파라미터를 결합하여 현재 과제의 학습을 촉진한다. 신뢰할 수 있는 가중치 병합을 위해, 최소한의 누적 업데이트로 대상 모델을 최적화하고 이전 과제에서 얻은 지식을 보존하는 바운드 업데이트 기술을 제안한다. 이를 통해 이전 모델에 가까운 새로운 모델을 효과적으로 얻어 재앙적 망각을 줄일 수 있다. M&B는 아키텍처 구성 요소를 변경하거나 학습 목표를 수정하지 않고 기존 CIL 방법에 원활하게 통합될 수 있다. 표준 CIL 벤치마크에서 광범위하게 평가한 결과, 최첨단 방법보다 뛰어난 성능을 보였다.

시사점, 한계점

시사점:
CIL 문제 해결을 위한 새로운 훈련 방식 제시: Merge-and-Bound (M&B)
모델 가중치 직접 조작을 통해 최적화 수행
과제 간 및 과제 내 가중치 병합 기법 도입
바운드 업데이트 기술을 통한 재앙적 망각 완화
기존 CIL 방법에 쉽게 통합 가능
표준 CIL 벤치마크에서 우수한 성능 입증
한계점:
구체적인 한계점은 논문 내용에서 명시되지 않음 (추가 정보 필요)
👍