Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

OS-Genesis: Automating GUI Agent Trajectory Construction via Reverse Task Synthesis

Created by
  • Haebom

저자

Qiushi Sun, Kanzhi Cheng, Zichen Ding, Chuanyang Jin, Yian Wang, Fangzhi Xu, Zhenyu Wu, Chengyou Jia, Liheng Chen, Zhoumianze Liu, Ben Kao, Guohao Li, Junxian He, Yu Qiao, Zhiyong Wu

개요

본 논문은 Vision-Language Model(VLM) 기반 GUI 에이전트 훈련을 위한 고품질 궤적 데이터 수집의 어려움을 해결하는 새로운 방법인 OS-Genesis를 제안합니다. 기존의 방법들은 인간 감독이나 미리 정의된 작업을 통한 합성 데이터 생성에 의존하여 자원 집약적이거나 데이터 품질을 보장할 수 없다는 한계를 가지고 있습니다. OS-Genesis는 이러한 문제를 해결하기 위해 에이전트가 먼저 환경을 인식하고 단계별 상호작용을 수행한 후, 역으로 고품질 작업을 도출하여 궤적 수준 탐색을 가능하게 하는 새로운 데이터 합성 파이프라인을 제시합니다. 궤적 보상 모델을 사용하여 생성된 궤적의 품질을 보장하며, 실험 결과 OS-Genesis로 훈련된 GUI 에이전트는 까다로운 온라인 벤치마크에서 성능이 크게 향상됨을 보여줍니다. 또한 OS-Genesis의 효율성과 기존 합성 방법보다 우수한 데이터 품질 및 다양성을 심층 분석을 통해 검증합니다. 코드, 데이터 및 체크포인트는 공개적으로 제공됩니다.

시사점, 한계점

시사점:
GUI 에이전트 훈련을 위한 고품질 데이터 수집의 어려움 해결에 기여.
기존의 인간 감독 및 합성 데이터 생성 방식의 한계 극복.
OS-Genesis를 통해 더욱 효율적이고 다양하며 고품질의 데이터 생성 가능.
까다로운 온라인 벤치마크에서 GUI 에이전트의 성능 향상 확인.
코드, 데이터 및 체크포인트 공개를 통한 연구의 재현성 및 확장성 증대.
한계점:
OS-Genesis의 성능이 특정 유형의 GUI 환경이나 작업에 편향될 가능성.
궤적 보상 모델의 설계 및 최적화에 대한 추가적인 연구 필요.
실제 세계의 복잡성을 완벽하게 반영하는 합성 데이터 생성의 어려움.
👍