Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

StarDojo: Benchmarking Open-Ended Behaviors of Agentic Multimodal LLMs in Production-Living Simulations with Stardew Valley

Created by
  • Haebom

저자

Weihao Tan, Changjiu Jiang, Yu Duan, Mingcong Lei, Jiageng Li, Yitian Hong, Xinrun Wang, Bo An

개요

StarDojo는 Stardew Valley를 기반으로 한 새로운 벤치마크로, AI 에이전트의 생산 활동과 사회적 상호 작용 능력을 동시에 평가하도록 설계되었습니다. 농업, 제작, 탐험, 전투, 사회적 상호 작용 등 5개 주요 영역에 걸쳐 1,000개의 세심하게 기획된 작업을 제공하며, 효율적인 모델 평가를 위해 100개의 대표 작업으로 구성된 소규모 하위 집합도 포함합니다. 키보드와 마우스 제어가 필요 없고 모든 주요 운영 체제를 지원하며 여러 환경 인스턴스의 병렬 실행을 가능하게 하는 사용자 친화적인 인터페이스를 제공하여 다중 모달 대규모 언어 모델(MLLM) 기반의 고성능 기초 에이전트 평가에 특히 적합합니다. 최첨단 MLLM 에이전트에 대한 광범위한 평가 결과, 시각적 이해, 다중 모달 추론 및 저수준 조작의 어려움으로 인해 최고 성능 모델인 GPT-4.1의 성공률이 12.7%에 불과함을 보여주었습니다. 사용자 친화적인 환경 및 벤치마크로서 StarDojo는 복잡한 생산-생활 환경에서 견고하고 개방적인 에이전트에 대한 추가 연구를 촉진하는 것을 목표로 합니다.

시사점, 한계점

•
시사점:
◦
AI 에이전트의 생산 활동과 사회적 상호 작용 능력을 동시에 평가할 수 있는 새로운 벤치마크 제공.
◦
사용자 친화적인 인터페이스와 병렬 실행 지원으로 효율적인 모델 평가 가능.
◦
최첨단 MLLM 에이전트의 한계를 명확히 보여줌으로써 향후 연구 방향 제시.
•
한계점:
◦
최고 성능 모델의 성공률이 낮아 (12.7%), 시각적 이해, 다중 모달 추론, 저수준 조작 등의 기술적 과제 존재를 시사.
◦
Stardew Valley라는 특정 게임 환경에 기반하여 일반화 가능성에 대한 의문 제기 가능성.
👍
Made with Slashpage