본 논문은 시계열 예측에서 장기 의존성을 포착하는 데 뛰어난 Transformer 모델의 한계를 극복하기 위해 제안된 Cross-Variate Patch Embeddings (CVPE)를 소개한다. 기존 Transformer 모델들은 시간적 의존성에만 집중하여 변수 간 복잡한 관계를 간과하는 경향이 있는데, CVPE는 채널 독립적인(CI) 모델에 변수 간 상관관계를 효과적으로 주입하는 경량 모듈이다. 기존의 순차적 또는 통합적 어텐션 메커니즘을 사용하는 모델들과 달리, CVPE는 패치 임베딩 과정을 수정하여 학습 가능한 위치 인코딩과 경량 라우터-어텐션 블록을 추가함으로써 채널 의존성(CD)에 대한 문제를 해결한다. 본 논문에서는 다중 모드 CI 예측 모델인 Time-LLM에 CVPE를 통합하여 그 효과를 실험적으로 검증하고, 7개의 실제 데이터셋을 사용한 실험 결과를 통해 CVPE가 Time-LLM의 성능을 향상시키는 것을 보여준다.
