Parameter-Efficient Continual Fine-Tuning: A Survey
Author
- Haebom
Category
Empty
저자
Eric Nuertey Coleman, Luigi Quarantiello, Ziyue Liu, Qinwen Yang, Samrat Mukherjee, Julio Hurtado, Vincenzo Lomonaco
💡 개요
본 논문은 대규모 사전 학습 모델이 동적 학습 환경에 적응하는 데 어려움을 겪는다는 문제를 지적하며, 이를 해결하기 위한 핵심 연구 분야인 지속적 학습(Continual Learning, CL)과 파라미터 효율적 미세 조정(Parameter-Efficient Fine-Tuning, PEFT)의 결합에 주목합니다. PEFT 방법론이 개별 태스크 적응에는 효과적이지만, 여러 태스크에 걸쳐 발생하는 치명적 망각(Catastrophic Forgetting) 문제를 해결하지 못한다는 한계를 극복하고자, 파라미터 효율적 지속적 미세 조정(Parameter-Efficient Continual Fine-Tuning, PECFT) 분야의 최신 연구들을 종합적으로 검토합니다.
🔑 시사점 및 한계
•
지속적 학습(CL)과 파라미터 효율적 미세 조정(PEFT)의 시너지 효과는 대규모 모델의 동적 환경 적응성을 높이는 핵심 전략입니다.
•
PECFT는 PEFT의 효율성과 CL의 지속 학습 능력을 결합하여, 대규모 모델이 순차적으로 발생하는 새로운 데이터와 태스크에 효율적으로 적응할 수 있도록 합니다.
•
치명적 망각 문제를 완전히 해결하고 다양한 지속적 학습 시나리오에 적용 가능한 범용적인 PECFT 방법론 개발이 필요합니다.
