Distilling Linearized Behavior for Effective Task Arithmetic

작성자

Haebom

카테고리

Empty

저자

Thomas Sommariva, Francesca Morandi, Simone Calderara, Angelo Porrello

💡 개요

본 연구는 사전 학습된 모델의 작업 벡터(task vector)를 효과적으로 합성하고 분리하는 새로운 방법을 제안한다. 기존 선형 미세 조정(linear fine-tuning) 방식의 표현력 한계와 추론 시 높은 계산 비용 문제를 해결하기 위해, 활성화 공간(activation space)에서의 제약을 통해 선형성을 강제하는 기법을 도입한다. 이를 통해 커널 정규화(curvature-regularization)된 선형 교사 모델의 표현을 비선형 학생 모델로 증류(distill)하여, 추론 시 성능 저하 없이 작업 연산(task arithmetic)의 효과와 성능을 모두 확보하는 것을 목표로 한다.

🔑 시사점 및 한계

•

선형 미세 조정의 핵심 장점인 작업 벡터의 분리성과 간섭 저항성을 유지하면서, 비선형 미세 조정의 표현력과 효율성을 결합할 수 있다.

•

활성화 공간에서의 제약을 통해 파라미터 공간에서의 선형성을 효과적으로 달성함으로써, 기존 선형 모델의 한계를 극복하고 실용성을 높였다.

•

본 연구는 추론 시 추가적인 계산 비용 없이 모델 편집 및 작업 벡터 합성을 위한 효과적인 방법을 제시하며, 이는 비전 및 언어 분야 벤치마크에서 입증되었다.

•

증류 과정 및 교사/학생 모델 설계에 대한 추가적인 탐색과 최적화가 향후 연구 과제가 될 수 있다.

PDF 보기

Made with Slashpage