Natural Building Blocks for Structured World Models: Theory, Evidence, and Scaling
Created by
- Haebom
Category
Empty
저자
Lancelot Da Costa, Sanjeev Namjoshi, Mohammed Abbas Ansari, Bernhard Scholkopf
개요
본 논문은 세계 모델링 분야의 단편성을 해결하기 위해, 구조화된 세계 모델을 위한 자연스러운 빌딩 블록을 제시하는 프레임워크를 제안한다. 이 프레임워크는 모든 세계 모델이 포착해야 하는 기본적인 확률적 프로세스인 이산 프로세스 (논리, 기호)와 연속 프로세스 (물리, 역학)를 기반으로 하며, 이 빌딩 블록의 계층적 구성을 통해 세계 모델을 정의한다. 은닉 마르코프 모델 (HMM)과 스위칭 선형 동적 시스템 (sLDS)을 이산 및 연속 모델링을 위한 자연스러운 빌딩 블록으로 검토하고, 액션을 추가하여 부분 관측 마르코프 결정 프로세스 (POMDP) 및 제어 sLDS로 확장한다. 이 모듈식 접근 방식은 수동 모델링 (생성, 예측)과 능동 제어 (계획, 의사 결정)를 동일한 아키텍처 내에서 지원한다. 인과 관계 아키텍처를 고정하고 네 개의 깊이 매개변수만 검색하여 구조 학습의 조합적 폭발을 방지한다. 다중 모드 생성 모델링 (수동)과 픽셀로부터의 계획 (능동)을 통해 실용적인 표현력을 검토하며, 해석 가능성을 유지하면서 신경망 접근 방식과 경쟁력 있는 성능을 보인다. 핵심 과제는 확장 가능한 결합 구조-매개변수 학습이며, 현재 방법은 구조와 매개변수를 점진적으로 늘리는 방식으로 해결하지만 확장성에 제한이 있다. 이 문제가 해결되면, 이러한 자연스러운 빌딩 블록은 딥 러닝에서 표준화된 레이어가 진전을 가능하게 한 것과 유사하게 세계 모델링을 위한 기반 인프라를 제공할 수 있다.
시사점, 한계점
•
시사점:
◦
세계 모델링을 위한 모듈식, 해석 가능한 아키텍처 제공.
◦
HMM과 sLDS를 기반으로 한 자연스러운 빌딩 블록 제시.
◦
수동 모델링과 능동 제어를 통합하는 단일 아키텍처 지원.
◦
해석 가능성을 유지하면서 신경망 기반 접근 방식과 경쟁하는 성능.
◦
구조 학습의 조합적 폭발을 피하는 방법 제시.
•
한계점:
◦
확장 가능한 결합 구조-매개변수 학습이 핵심 과제.
◦
현재의 구조 학습 방법은 확장성에 제한이 있음.
