Permutation-Equivariant 2D State Space Models: Theory and Canonical Architecture for Multivariate Time Series

Created by

Haebom

저자

Seungwoo Jeong, Heung-Il Suk

💡 개요

본 논문은 다변량 시계열(MTS) 모델링에서 변수 간의 인위적인 순서 부여 문제를 지적하며, 변수 축에 대한 순열 대칭성을 만족하는 상태 공간 모델을 제안합니다. 이론적으로 순열 대칭성 제약 하에서 선형 변수 결합의 완전한 표준 형태를 규명하고, 이를 바탕으로 순열 불변 집계를 통해 변수 순서 의존성을 제거한 VI 2D SSM 모델을 소개합니다. 제안된 모델은 변수 축에서의 종속 깊이를 $\mathcal{O}(C)$에서 $\mathcal{O}(1)$로 감소시키며, 예측, 분류, 이상 탐지 등 다양한 MTS 문제에서 최신 성능을 달성합니다.

🔑 시사점 및 한계

•

다변량 시계열 데이터의 본질적인 순열 대칭성을 존중하는 모델링의 중요성을 이론적으로 입증했습니다.

•

변수 축의 종속성을 제거하여 모델의 복잡성을 줄이고 효율성을 높이는 새로운 아키텍처(VI 2D SSM, VI 2D Mamba)를 제시했습니다.

•

제안된 모델이 다양한 MTS 태스크에서 뛰어난 성능과 확장성을 보여, 대칭성을 보존하는 2D 모델링의 필요성을 실험적으로 검증했습니다.

•

본 연구는 선형 모델링에 집중하고 있으므로, 비선형적인 변수 간 상호작용을 포함하는 실제 복잡한 시계열 데이터에 대한 확장성 및 성능 검증이 필요합니다.

PDF 보기

Made with Slashpage