본 논문은 시계열 예측에서 공변량(covariates)을 효과적으로 활용하는 새로운 모델 CITRAS를 제안합니다. 기존 다변량 모델들은 목표 변수와 공변량의 길이 불일치 및 변수 간 의존성 포착의 어려움으로 인해 미래 공변량 정보를 활용하지 못하는 한계를 가지고 있습니다. CITRAS는 디코더 전용 Transformer 기반으로, 과거 및 미래 공변량과 여러 목표 변수를 유연하게 활용합니다. 특히, 패치 기반 교차 변수 어텐션에 'KV Shift'와 'Attention Score Smoothing'이라는 두 가지 새로운 메커니즘을 도입하여 미래 공변량을 효과적으로 통합하고, 국소적인 교차 변수 의존성을 전역적인 의존성으로 개선합니다. 실험 결과, CITRAS는 13개의 실제 시계열 데이터셋에서 기존 최고 성능 모델들을 능가하는 예측 정확도를 달성했습니다.
