본 논문은 Vision-Language Models (VLMs)의 새로운 도메인 적응 과정에서 발생하는 과적합 및 계산적 제약을 해결하기 위해 새로운 Sparse Optimization (SO) 프레임워크를 제안합니다. 기존의 저차원 재매개변수화 방법과 달리, SO는 매개변수의 고차원 희소성을 활용하여 적은 수의 매개변수만 동적으로 업데이트합니다. 특히, '국소적 희소성과 전역적 밀도', '국소적 무작위성과 전역적 중요성'이라는 두 가지 패러다임을 도입하여 과적합을 완화하고 저데이터 환경에서 안정적인 적응을 보장합니다. 11개의 다양한 데이터셋에 대한 실험 결과, SO는 최첨단의 몇-샷 적응 성능을 달성하면서 메모리 오버헤드를 감소시키는 것으로 나타났습니다.
