Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

MoveGPT: Scaling Mobility Foundation Models with Spatially-Aware Mixture of Experts

Created by
  • Haebom
Category
Empty

저자

Chonghua Han, Yuan Yuan, Jingtao Ding, Jie Feng, Fanjin Meng, Yong Li

개요

본 논문은 언어 모델의 성공에 영감을 받아 인간 이동성을 위한 범용 모델인 MoveGPT를 개발한다. MoveGPT는 기존 방식의 확장성 문제를 해결하기 위해 (1) 지리적으로 분리된 위치를 공유 의미 공간에 매핑하는 통합 위치 인코더와 (2) 다양한 이동 패턴을 효율적으로 포착하는 공간 인식 전문가 혼합 변환기라는 두 가지 혁신을 도입했다. 수십억 규모의 데이터셋으로 사전 훈련된 MoveGPT는 다양한 다운스트림 작업에서 최고 성능을 달성했으며, 보이지 않는 도시로의 일반화 능력도 입증했다.

시사점, 한계점

인간 이동성 분야에서 확장 가능한 파운데이션 모델 구축의 가능성을 제시함.
다양한 이동 패턴을 효과적으로 포착하고, 보이지 않는 도시에도 일반화할 수 있는 모델을 개발함.
기존 방법의 한계를 극복하기 위해, 위치 인코딩 및 전문가 혼합 변환기 등의 혁신적인 아키텍처를 도입함.
(한계점은 논문에 명시되지 않음)
👍