DLLM-Searcher: Adapting Diffusion Large Language Model for Search Agents

Created by

Haebom

저자

Jiahao Zhao, Shaoxuan Xu, Zhongxiang Sun, Fengqi Zhu, Jingyang Ou, Yuling Shi, Chongxuan Li, Xiao Zhang, Jun Xu

💡 개요

본 논문은 기존 검색 에이전트의 심각한 지연 시간 문제를 해결하기 위해 확산 대규모 언어 모델(dLLM)을 활용하는 DLLM-Searcher 프레임워크를 제안합니다. Agentic SFT와 Agentic VRPO를 통해 dLLM의 정보 탐색 및 추론 능력을 강화하고, P-ReAct라는 새로운 에이전트 패러다임을 도입하여 병렬 추론 및 행동을 가능하게 함으로써 지연 시간을 줄였습니다. 실험 결과, DLLM-Searcher는 기존 LLM 기반 에이전트와 동등한 성능을 보이면서 추론 속도를 약 15% 향상시켰습니다.

🔑 시사점 및 한계

•

확산 대규모 언어 모델(dLLM)의 병렬 디코딩 능력과 유연한 생성 패러다임을 활용하여 검색 에이전트의 효율성을 크게 향상시킬 수 있습니다.

•

Agentic SFT와 Agentic VRPO를 통한 dLLM의 에이전트 능력 강화는 정보 탐색 및 추론 성능을 효과적으로 개선합니다.

•

P-ReAct 패러다임은 기존 ReAct 방식의 순차적 처리 문제를 해결하여 실질적인 추론 속도를 단축하는 데 기여합니다.

•

제안된 방법론은 여전히 dLLM의 근본적인 추론 능력에 제약을 받을 수 있으며, 복잡하고 다양한 도구 호출 시나리오에서의 성능 검증이 추가적으로 필요합니다.

PDF 보기

Made with Slashpage