Enhancing Visual Grounding for GUI Agents via Self-Evolutionary Reinforcement Learning
Created by
Haebom
저자
Xinbin Yuan, Jian Zhang, Kaixin Li, Zhuoxuan Cai, Lujian Yao, Jie Chen, Enguang Wang, Qibin Hou, Jinwei Chen, Peng-Tao Jiang, Bo Li
개요
본 논문은 복잡하고 고해상도의 전문적인 환경에서 그래픽 사용자 인터페이스(GUI) 에이전트의 지시사항 이해 및 실행 능력 향상을 위한 강화 학습 기반 프레임워크를 제시합니다. 기존의 지도 학습 방식의 한계를 극복하기 위해, 고품질 훈련 샘플을 보장하는 시드 데이터 큐레이션, 예측 정확도에 기반한 밀집 정책 경사, 그리고 어텐션 맵을 이용한 자기 진화적 강화 학습 미세 조정 메커니즘이라는 세 가지 전략을 통합했습니다. 3,000개의 훈련 샘플만으로도 70억 개의 파라미터를 가진 모델이 세 가지 기준 벤치마크에서 최첨단 성능을 달성했으며, 특히 ScreenSpot-Pro 데이터셋에서 47.3%의 정확도를 기록하여 UI-TARS-72B와 같은 훨씬 큰 모델보다 24.2% 높은 성능을 보였습니다. 이는 고해상도의 복잡한 환경에서 GUI 에이전트 성능 향상에 강화 학습 기반 접근 방식의 효과를 보여줍니다.
