Mobile-R1: Towards Interactive Reinforcement Learning for VLM-Based Mobile Agent via Task-Level Rewards
Created by
Haebom
저자
Jihao Gu, Qihang Ai, Yingyao Wang, Pi Bu, Jingxuan Xing, Zekun Zhu, Wei Jiang, Ziming Wang, Yingxiu Zhao, Ming-Liang Zhang, Jun Song, Yuning Jiang, Bo Zheng
개요
본 논문은 모바일 환경에서 복잡한 명령어와 스크린샷을 이해하고 강화학습(GRPO)을 통해 행동을 최적화하는 시각-언어 모델 기반 모바일 에이전트를 연구합니다. 기존 연구는 오프라인 강화학습 훈련이나 행동 단위 보상을 사용한 온라인 최적화에 집중하여 에이전트의 동적 환경 상호작용을 제한하고, 지역적 최적점에 빠지는 문제점이 있었습니다. 이를 해결하기 위해, 본 논문은 작업 단위 보상을 사용하는 상호작용적 다회차 강화학습 기법인 Mobile-R1을 제안합니다. Mobile-R1은 초기 형식 미세조정, 행동 단위 보상을 통한 단일 단계 온라인 훈련, 그리고 다회차 경로를 기반으로 한 작업 단위 보상을 통한 온라인 훈련의 세 단계로 구성됩니다. 28개의 중국어 애플리케이션을 포함하는 24,521개의 고품질 수동 주석 데이터셋과 500개 경로의 새로운 벤치마크를 구축하였으며, 데이터셋, 벤치마크, 모델 가중치, 코드를 공개합니다 (https://mobile-r1.github.io/Mobile-R1/).