Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

When Small Guides Large: Cross-Model Co-Learning for Test-Time Adaptation

Created by
  • Haebom

저자

Chang'an Yi, Xiaohui Deng, Guohao Chen, Yan Zhou, Qinghua Lu, Shuaicheng Niu

개요

본 논문은 Test-Time Adaptation (TTA)에서 단일 모델 적응에 집중하는 기존 연구와 달리, 다양한 크기의 모델 간 지식 교류를 활용한 TTA 방법인 COCA를 제안합니다. COCA는 크기가 다른 모델들(예: MobileViT, ViT-Base) 간 상호 보완적인 지식을 통합하는 'Co-adaptation'과 각 모델의 강점을 강화하는 'Self-adaptation' 전략을 통해 타겟 도메인에 대한 적응력을 향상시킵니다. 실험 결과, COCA는 ResNet, ViT, Mobile-ViT 등 다양한 모델에서 기존 최고 성능을 능가하는 결과를 보였으며, 특히 MobileViT의 지식을 활용하여 ViT-Base의 ImageNet-C 적응 정확도를 51.7%에서 64.5%로 향상시켰습니다. COCA는 플러그 앤 플레이 모듈로도 사용 가능합니다.

시사점, 한계점

시사점:
다양한 크기의 모델 간 상호 학습을 통해 TTA 성능을 향상시킬 수 있음을 보여줌.
작은 모델이 큰 모델의 TTA 성능 향상에 기여할 수 있음을 증명.
COCA는 플러그 앤 플레이 모듈로 활용 가능하여 기존 TTA 방법에 손쉽게 적용 가능.
다양한 모델 아키텍처(ResNet, ViT, Mobile-ViT)에서 효과적으로 작동함을 입증.
한계점:
COCA의 성능 향상이 특정 데이터셋(ImageNet-C)에 국한될 가능성 존재.
다양한 도메인 시프트 상황에 대한 일반화 성능 검증 필요.
계산 비용 증가에 대한 분석 및 최적화 필요.
👍