Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Temporal Test-Time Adaptation with State-Space Models

Created by
  • Haebom
Category
Empty

저자

Mona Schirmer, Dan Zhang, Eric Nalisnick

개요

배포된 모델의 수명 주기 동안 훈련 데이터와 테스트 데이터 간의 분포 변화는 불가피하며, 이는 성능 저하로 이어진다. 테스트 샘플에 모델을 적응시키면 이러한 성능 저하를 완화할 수 있다. 본 논문에서는 시간이 지남에 따라 점진적으로 진화하는 분포 변화에 초점을 맞추어, STAD라는 베이지안 필터링 방법을 제안한다. 이는 라벨 없이, 시간 변화에 따라 마지막 은닉 특징의 동적 변화를 학습하여 모델을 적응시킨다. STAD는 동적 분류 헤드 역할을 하는 시간 변화 클래스 프로토타입을 추론한다. 실제 세계의 시간적 분포 변화에 대한 실험을 통해, 제안된 방법이 작은 배치 크기와 라벨 시프트에 효과적임을 입증한다.

시사점, 한계점

시간에 따라 변화하는 분포 변화에 적응하는 새로운 베이지안 필터링 방법 STAD 제안.
라벨 정보 없이 작동하며, 작은 배치 크기 및 라벨 시프트에 강점을 보임.
실제 환경에서 발생하는 시간적 분포 변화에 대한 적응 능력을 실험적으로 입증.
주어진 논문에서 구체적인 한계점은 명시되지 않음.
👍