Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Damba-ST: Domain-Adaptive Mamba for Efficient Urban Spatio-Temporal Prediction

Created by
  • Haebom

저자

Rui An, Yifeng Zhang, Ziran Liang, Wenqi Fan, Yuxuan Liang, Xuequn Shang, Qing Li

개요

본 논문은 다양한 지역과 도시에서 일반화가 잘 되는 도시 공간-시간 기반 모델을 훈련시키는 것에 초점을 맞추고 있습니다. 기존의 Transformer 기반 모델들은 계산 복잡도가 높고 메모리 오버헤드가 커서 확장성과 실제 배포에 제약이 있었습니다. 본 논문에서는 선형 시간 복잡도를 갖는 상태 공간 모델인 Mamba에 착안하여 효율적인 도시 공간-시간 예측을 위한 새로운 모델인 Damba-ST를 제안합니다. Damba-ST는 공간-시간 이질성 문제를 해결하기 위해 도메인 적응형 상태 공간 모델을 도입하여 잠재 표현 공간을 공유 하위 공간과 도메인별 하위 공간으로 분할하고, 세 가지 도메인 어댑터를 통해 도메인 간 차이를 줄이고 일반적인 특징을 정렬합니다. 실험 결과, Damba-ST는 최첨단 성능을 달성하고 강력한 제로샷 일반화 능력을 보여줍니다.

시사점, 한계점

•
시사점:
◦
Mamba의 효율성을 활용하여 계산 비용이 적은 도시 공간-시간 예측 모델을 제시.
◦
도메인 적응 기법을 통해 다양한 도시 환경에서의 일반화 성능 향상.
◦
제로샷 일반화 능력으로 새로운 도시 환경에 대한 재훈련 없이 배포 가능.
◦
기존 Transformer 기반 모델의 확장성 및 실용성 한계 극복.
•
한계점:
◦
제안된 모델의 성능이 특정 데이터셋에 의존적일 가능성 존재.
◦
도메인 어댑터의 설계가 모델 성능에 미치는 영향에 대한 추가적인 분석 필요.
◦
다양한 도시 환경에 대한 일반화 능력에 대한 더욱 폭넓은 실험 필요.
◦
Mamba의 기본적인 한계점이 Damba-ST에도 일부 영향을 미칠 가능성.
👍
Made with Slashpage