Assessing adaptive world models in machines with novel games
Created by
Haebom
저자
Lance Ying, Katherine M. Collins, Prafull Sharma, Cedric Colas, Kaiya Ivy Zhao, Adrian Weller, Zenna Tavares, Phillip Isola, Samuel J. Gershman, Jacob D. Andreas, Thomas L. Griffiths, Francois Chollet, Kelsey R. Allen, Joshua B. Tenenbaum
개요
본 논문은 인간의 놀라운 적응력과 문제 해결 능력이 환경의 내적 표상, 즉 월드 모델(world model)의 효율적인 구성 및 개선과 밀접하게 관련되어 있다고 주장하며, 이러한 적응 메커니즘을 월드 모델 유도(world model induction)라고 명명합니다. 기존 AI 연구에서 월드 모델 평가는 대규모 데이터셋으로 학습된 정적인 표상에 초점을 맞추는 반면, 본 논문은 새로운 환경에서의 상호작용과 탐색을 통한 효율적이고 효과적인 표상 학습에 주목합니다. 인지과학 연구를 바탕으로 월드 모델 유도에 대한 새로운 관점을 제시하고, AI에서 적응적 월드 모델을 평가하기 위한 새로운 평가 프레임워크를 제안합니다. 구체적으로, 기저 게임 구조에 진정하고, 심오하며, 지속적으로 새로워지는 참신성을 가진 게임 모음(novel games)을 기반으로 한 새로운 벤치마킹 패러다임을 제시하며, 이러한 게임의 주요 요구사항과 에이전트의 빠른 월드 모델 유도 능력을 명시적으로 평가하기 위한 적절한 지표를 제안합니다. 이 새로운 평가 프레임워크가 AI의 월드 모델에 대한 향후 평가 노력에 영감을 주고, 인간과 같은 빠른 적응과 강력한 일반화 능력을 갖춘 AI 시스템 개발을 위한 중요한 단계가 되기를 기대합니다.
시사점, 한계점
•
시사점:
◦
인간의 적응력을 모방하는 AI 개발을 위한 새로운 평가 프레임워크 제시.
◦
'novel games'라는 새로운 벤치마킹 패러다임을 통해 AI의 월드 모델 유도 능력 평가 가능.
