본 논문은 비전 트랜스포머를 이용한 대표적인 파라미터 효율적인 미세조정(PEFT) 방법들의 통합적 실증 연구를 수행합니다. 다양한 PEFT 방법들의 하이퍼파라미터를 체계적으로 조정하여 하위 작업에 대한 정확도를 공정하게 비교하고, 실용적인 사용자 가이드와 새로운 통찰력을 제공합니다. 저샷(low-shot) 벤치마크 VTAB-1K에서 신중한 조정을 통해 다양한 PEFT 방법들이 유사한 정확도를 달성함을 보여주고, PEFT 방법들이 서로 다른 오류와 높은 신뢰도 예측을 한다는 점을 발견하여 앙상블 방법의 가능성을 제시합니다. 또한, 저샷 작업을 넘어 다샷(many-shot) 환경에서도 PEFT가 유용하며, 전체 미세조정보다 적은 파라미터로 비슷하거나 더 나은 정확도를 달성함을 보여줍니다. 마지막으로, 사전 훈련된 모델의 분포 변화에 대한 강건성을 유지하는 PEFT의 능력을 조사하여, PEFT 방법이 전체 미세조정보다 우수하지만, 가중치 공간 앙상블을 사용하면 전체 미세조정이 더 나은 성능을 낼 수 있음을 시사합니다.
