NexForge: Scaling Agent Capabilities through Requirement-Driven Task Synthesis for LLMs
Author
- Haebom
Category
Empty
저자
Jiarong Zhao, Zhikai Lei, Zhiheng Xi, Rui Zheng, Hang Yan, Jie Zhou, Qin Chen, Liang He
💡 개요
기존 LLM 에이전트 학습 데이터 생성 방식은 사전 정의된 도구나 스킬 그래프에 종속되어 확장성에 한계가 있었습니다. NexForge는 고수준의 요구사항을 입력받아 LLM 에이전트의 기능을 확장하기 위한 다양하고 실행 가능한 작업 및 전문가 궤적을 합성하는 요구사항 주도 프레임워크를 제안합니다. 이를 통해 기존의 수동적인 작업 생성 및 맞춤형 파이프라인 구축의 어려움을 극복하고, 실제 수요를 반영한 편향 없는 학습 데이터를 생성합니다.
🔑 시사점 및 한계
•
요구사항 기반의 확장성 있는 에이전트 학습 데이터 생성: NexForge는 사전 정의된 도구나 인프라에 구애받지 않고 고수준의 요구사항만으로 LLM 에이전트 학습 데이터를 효율적으로 생성하여 에이전트의 전반적인 능력을 크게 향상시킬 수 있음을 보여줍니다.
•
실제 수요를 반영한 공정한 데이터 분포: 기존 방식의 기질적 편향을 줄이고 실제 세계의 수요를 더 잘 반영하는 작업 분포를 생성함으로써 에이전트의 실질적인 성능 향상에 기여합니다.
•
SOTA 오픈소스 에이전트 모델 개발 가능성 입증: NexForge를 통해 생성된 데이터로 학습된 Nex-N2 모델은 공개된 에이전트 모델의 성능을 크게 끌어올려, 자체 개발한 모델은 물론 여러 최첨단 상용 모델을 능가하는 성능을 달성했습니다.
•
한계점: 논문에서는 아직 구체적으로 언급되지 않았으나, 요구사항을 정확하게 정의하고 이를 기반으로 복잡하고 다양한 시나리오를 합성하는 데 있어 추가적인 개선이나 인간 전문가의 개입이 필요할 수 있습니다. 또한, 생성된 데이터의 품질 보증 및 잠재적인 데이터 편향에 대한 지속적인 모니터링이 중요할 것입니다.
