본 논문은 시계열 분석에서 우세한 패러다임으로 부상한 Transformer 기반 기초 모델에 대한 종합적인 개괄을 제공합니다. 예측, 이상 탐지, 분류, 추세 분석 등 다양한 시계열 분석 작업에서 전례 없는 기능을 제공하는 기초 모델들을 다룹니다. 특히, 패치 기반 표현을 활용하는 모델과 원시 시퀀스에서 직접 작동하는 모델을 구분하여 아키텍처 설계에 따라 모델을 분류하는 새로운 분류 체계를 제시합니다. 또한, 모델이 확률적 예측 또는 결정적 예측을 제공하는지, 단변량 시계열 또는 다변량 시계열을 처리하도록 설계되었는지 여부를 포함하며, 모델 규모와 복잡성(경량 아키텍처와 대규모 기초 모델의 차이점)도 고려합니다. 마지막으로, 훈련 단계에서 사용된 목적 함수의 유형에 따른 분류를 통해 기존 연구의 동향을 파악하고 미래 연구의 유망한 방향을 제시합니다.
