Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Beyond Ten Turns: Unlocking Long-Horizon Agentic Search with Large-Scale Asynchronous RL

Created by
  • Haebom

저자

Jiaxuan Gao, Wei Fu, Minyang Xie, Shusheng Xu, Chuyi He, Zhiyu Mei, Banghua Zhu, Yi Wu

개요

본 논문은 대규모 언어 모델(LLM) 기반 에이전트의 검색 능력 향상을 위한 오픈소스 프로젝트 ASearcher를 소개한다. 기존의 LLM 기반 에이전트는 복잡한 지식 집약적 작업을 처리하는 데 뛰어난 성능을 보이지만, 전문가 수준의 검색 지능(모호한 질문 해결, 정확한 검색 생성, 결과 분석, 철저한 탐색)에는 미흡하다. ASearcher는 이러한 한계를 극복하기 위해 확장 가능하고 효율적인 비동기 강화 학습 기반의 훈련 프레임워크를 제시한다. 특히, 긴 시계열(long-horizon) 검색을 가능하게 하는 확장 가능한 비동기 강화 학습(RL) 훈련 및 고품질의 질의응답(QA) 데이터셋을 자동 생성하는 프롬프트 기반 LLM 에이전트를 통해 xBench와 GAIA 벤치마크에서 기존 오픈소스 에이전트보다 우수한 성능을 달성하였다. 40턴 이상의 툴 호출과 150k 토큰 이상의 출력을 생성하는 극단적인 장기 검색 능력을 보여주는 것이 특징이다. 모델, 훈련 데이터 및 코드는 공개적으로 제공된다.

시사점, 한계점

시사점:
확장 가능하고 효율적인 비동기 강화 학습 기반의 LLM 에이전트 훈련 프레임워크 제시
프롬프트 기반 LLM 에이전트를 이용한 고품질 QA 데이터셋 자동 생성
기존 오픈소스 에이전트 대비 xBench와 GAIA 벤치마크에서 성능 향상 (Avg@4 기준)
극단적인 장기 검색 능력 구현 (40턴 이상의 툴 호출, 150k 토큰 이상의 출력)
오픈소스로 공개되어 연구 및 개발에 기여
한계점:
본 논문에서 제시된 방법론의 일반화 가능성에 대한 추가적인 연구 필요
다양한 도메인 및 작업에 대한 성능 평가 추가 필요
에이전트의 안전성 및 윤리적 문제에 대한 고려 필요
👍