본 논문은 사전 훈련된 거대 언어 모델(LLM)을 기반으로 한 시계열 예측의 효과성에 대한 논쟁을 다룹니다. 소규모 데이터셋으로 LLM 기반 모델을 훈련하고 테스트하면 인코더와 디코더가 데이터셋에 과도하게 적응하여 LLM 백본의 진정한 예측 능력을 가리는 것을 경험적으로 분석했습니다. 이를 해결하기 위해 서로 다른 사전 훈련 전략을 사용하는 세 가지 사전 훈련 모델을 제시합니다. 대규모 사전 훈련을 통해 LLM 백본에 맞춤화된 객관적인 인코더와 디코더를 생성하고, 제로샷 및 퓨샷 예측 성능을 평가하여 LLM의 능력에 대한 통찰력을 제공합니다. 실험 결과 LLM 백본이 어느 정도 가능성을 보이지만 예측 성능은 제한적임을 보여줍니다. 소스 코드는 공개적으로 제공됩니다.
