Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

MineAnyBuild: Benchmarking Spatial Planning for Open-world AI Agents

Created by
  • Haebom

저자

Ziming Wei, Bingqian Lin, Zijian Jiao, Yunshuang Nie, Liang Ma, Yuecheng Liu, Yuzheng Zhuang, Xiaodan Liang

개요

본 논문은 Minecraft 게임 환경을 활용하여 다중 모드 대규모 언어 모델(MLLM)의 공간 계획 능력을 평가하기 위한 종합적인 벤치마크인 MineAnyBuild를 제시합니다. MineAnyBuild는 다양한 모드의 사용자 지시에 따라 실행 가능한 건축 계획을 생성하는 4,000개의 큐레이션된 공간 계획 작업으로 구성됩니다. 기존 VQA 기반 벤치마크의 한계를 극복하고 공간 이해, 추론, 창의성, 상식 등 4가지 핵심 차원을 통해 공간 계획 능력을 평가하며, 풍부한 사용자 생성 콘텐츠를 활용하여 무한대로 확장 가능한 데이터 수집 패러다임을 제공합니다. 실험 결과, 기존 MLLM 기반 에이전트의 공간 계획 능력에는 심각한 제한이 있지만, 그 잠재력 또한 매우 큼을 보여줍니다.

시사점, 한계점

시사점:
Minecraft 환경을 활용한 새로운 공간 계획 능력 평가 벤치마크 MineAnyBuild 제시.
기존 VQA 기반 평가의 한계를 극복하고, 공간 이해, 추론, 창의성, 상식 등 다차원적 평가 가능.
무한 확장 가능한 데이터 수집 패러다임 제공.
MLLM 기반 에이전트의 공간 계획 능력의 현황과 잠재력 제시.
공간 지능 평가 및 개방형 세계 AI 에이전트 개발을 위한 새로운 방향 제시.
한계점:
MineAnyBuild 벤치마크가 Minecraft 환경에 특화되어 있어, 다른 환경으로의 일반화 가능성에 대한 추가 연구 필요.
현재 벤치마크에 포함된 4,000개의 작업만으로는 모든 유형의 공간 계획 능력을 포괄적으로 평가하기에는 부족할 수 있음.
평가 지표의 객관성 및 신뢰성에 대한 추가 검증 필요.
👍