SeqFusion: Sequential Fusion of Pre-Trained Models for Zero-Shot Time-Series Forecasting
Created by
- Haebom
Category
Empty
저자
Ting-Ji Huang, Xu-Yang Chen, Han-Jia Ye
개요
본 논문은 기존의 많은 학습 데이터를 필요로 하는 시계열 예측 방법과 달리, 추가적인 학습 데이터 없이 목표 시계열만으로 미래 값을 예측하는 제로샷 예측(zero-shot forecasting)에 대한 새로운 프레임워크인 SeqFusion을 제안합니다. SeqFusion은 다양한 사전 학습된 모델(PTMs)을 순차적으로 수집하고 융합하여, 목표 시계열의 특징에 따라 가장 적합한 PTM들을 선택하고 순차적으로 예측하며, 최종 예측 결과를 융합합니다. 개별 PTM들은 각기 다른 시간적 패턴과 예측 작업에 특화되어 있으며, 공유 표현 공간에서의 거리 측정을 통해 목표 시계열에 가장 적합한 PTM을 선택합니다. 기존의 제로샷 예측 방법들이 다양한 사전 학습 데이터에 의존하여 개인정보 보호 문제를 야기하는 것과 달리, SeqFusion은 최소한의 데이터만을 사용하여 개인정보 보호 문제를 해결하고 경쟁력 있는 예측 정확도를 달성합니다.
시사점, 한계점
•
시사점:
◦
제로샷 시계열 예측 분야에서 개인정보 보호 문제를 해결하는 새로운 접근 방식 제시.
◦
다양한 사전 학습 모델을 효과적으로 활용하여 예측 정확도 향상.
◦
목표 시계열의 특징에 맞춰 동적으로 모델을 선택하는 적응적 시스템 구현.
◦
기존 최첨단 방법들과 비교하여 경쟁력 있는 성능을 달성.
•
한계점:
◦
다양한 PTM들을 사전에 수집해야 하는 비용 및 시간적 부담.
◦
공유 표현 공간에서의 거리 측정 방식의 효율성 및 일반화 성능에 대한 추가적인 연구 필요.
◦
특정 유형의 시계열 데이터에 대해서는 성능이 저하될 가능성 존재.
◦
제안된 방법의 확장성 및 다양한 시계열 데이터 유형에 대한 일반화 성능 평가 필요.
