Lightweight Time Series Data Valuation on Time Series Foundation Models via In-Context Finetuning
Created by
Haebom
Category
Empty
저자
Shunyu Wu, Tianyue Li, Yixuan Leng, Jingyi Suo, Jian Lou, Dan Li, See-Kiong Ng
개요
본 논문은 대규모 시계열 데이터에 대한 사전 훈련을 통해 성능이 향상된 시계열 기반 모델(TSFM)에서 데이터의 가치를 효율적이고 정확하게 평가하는 방법을 제시한다. 특히, LTSV(Lightweight Time Series Valuation)라는 새로운 방법을 제안하며, 이는 in-context finetuning을 활용하여 샘플의 기여도를 측정하고 시간적 의존성을 고려하기 위해 temporal block aggregation을 도입한다. 여러 시계열 데이터셋과 모델에 대한 실험을 통해 LTSV가 강력하고 신뢰할 수 있는 가치 평가 성능을 제공하면서도, 계산 요구 사항을 관리할 수 있음을 입증한다.
시사점, 한계점
•
시사점:
◦
in-context finetuning을 활용하여 TSFM에서 데이터 가치 평가의 새로운 접근 방식을 제시함.
◦
temporal block aggregation을 통해 시간적 의존성을 효과적으로 포착함.
◦
여러 데이터셋과 모델에서 우수한 성능을 보이며, 계산 효율성을 유지함.
◦
데이터 기여도와 모델 일반화 간의 실질적인 연관성을 제시함.
•
한계점:
◦
in-context finetuning 과정에 필요한 계산 비용이 존재함.
◦
제안된 방법의 성능이 다른 전통적인 데이터 가치 평가 방법에 비해 어떤 경우에 더 우수한지에 대한 추가적인 비교 분석이 필요할 수 있음.