본 논문은 대규모 매개변수를 사전 학습하여 놀라운 제로샷 예측 성능을 달성하는 시계열 기반 모델(TSFM)의 확장 법칙에 대해 다룹니다. 하지만 TSFM은 미세 조정 후에도 완전샷 하위 데이터로 학습된 더 작은 전문 모델을 일관되게 능가하지 못하는 현상을 발견했습니다. 본 논문은 표적 예측 작업에 대한 TSFM의 효과적인 적응 방법을 제시하는 데 초점을 맞추고 있습니다. 다양한 TSFM에 대한 실험적 연구를 통해 사전 학습된 모델이 종종 계산상 고유한 희소성과 중복성을 나타내는 것을 확인하고, 이는 TSFM이 다양한 예측 작업에 적응하기 위해 작업 관련 네트워크 하위 구조를 활성화하도록 학습했음을 시사합니다. 이러한 귀중한 사전 지식을 보존하기 위해, 본 논문에서는 더욱 관련성이 높고 컴팩트한 매개변수 공간에 초점을 맞춰 후속 미세 조정 프로세스를 규제하는 구조적 가지치기 방법을 제안합니다. 7개의 TSFM과 6개의 벤치마크에 대한 광범위한 실험을 통해, 작게 가지치기된 TSFM을 미세 조정하는 것이 원래 모델을 미세 조정하는 것보다 예측 성능을 크게 향상시킨다는 것을 보여줍니다. 이 "가지치기 후 미세 조정" 패러다임은 TSFM이 최첨단 성능을 달성하고 강력한 전문 기준 모델을 능가할 수 있도록 합니다.
