본 논문은 대규모 기초 모델의 파인튜닝을 위한 새로운 적응 방법인 MaCP(Minimal yet Mighty adaptive Cosine Projection)을 제시합니다. MaCP는 코사인 투영의 우수한 에너지 압축 및 상관 제거 특성을 활용하여 모델 효율성과 정확도를 모두 향상시킵니다. 구체적으로, 저차원 적응으로부터의 가중치 변화를 이산 코사인 공간으로 투영하고, 이산 코사인 스펙트럼의 여러 레벨에 걸쳐 가중치 변화를 분할한 후, 각 분할의 가장 중요한 주파수 성분을 선택합니다. 광범위한 단일 모달리티 작업(자연어 이해, 자연어 생성, 텍스트 요약)과 다중 모달리티 작업(이미지 분류, 비디오 이해)에 대한 실험을 통해 기존의 방법들과 비교하여 MaCP가 우수한 정확도, 상당히 감소된 계산 복잡도 및 낮은 메모리 요구 사항을 제공함을 보여줍니다.
