Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

RAG-R1 : Incentivize the Search and Reasoning Capabilities of LLMs through Multi-query Parallelism

Created by
  • Haebom

저자

Zhiwen Tan, Jiaming Huang, Qintong Wu, Hongxuan Zhang, Chenyi Zhuang, Jinjie Gu

개요

본 논문은 정적 내부 지식으로 인해 환각 응답이나 오래된 응답을 생성하는 경향이 있는 대규모 언어 모델(LLM)의 한계를 해결하기 위해, 강화 학습(RL)을 통해 모델의 검색 및 추론 능력을 향상시키는 검색 증강 생성(RAG) 방법을 제시합니다. 기존 RAG 방법의 훈련 안정성 문제, 상당한 추론 시간, 단일 질의 모드로 인한 제한된 기능 등의 문제점을 해결하기 위해, RAG-R1이라는 새로운 훈련 프레임워크를 제안합니다. RAG-R1은 LLM이 추론 과정 동안 내부 및 외부 지식을 적응적으로 활용할 수 있도록 설계되었으며, 단일 질의 모드에서 다중 질의 병렬 처리로 생성 및 검색 과정을 확장하여 추론 시간을 단축하고 모델의 기능을 향상시킵니다. 7가지 질의응답 벤치마크에 대한 광범위한 실험 결과, 제안된 방법은 최고 성능의 기준 모델보다 최대 13.2% 향상된 성능을 보였으며, 추론 시간은 11.1% 감소했습니다.

시사점, 한계점

시사점:
RAG 기반 LLM의 추론 시간 단축 및 성능 향상 가능성 제시
다중 질의 병렬 처리를 통한 효율적인 지식 활용 방안 제시
7가지 질의응답 벤치마크에서 기존 최고 성능 모델 대비 성능 향상 및 추론 시간 단축을 실험적으로 검증
한계점:
제안된 방법의 일반화 성능에 대한 추가적인 연구 필요
다양한 종류의 질문 유형에 대한 robustness 평가 필요
특정 벤치마크에 국한된 실험 결과의 일반화 가능성에 대한 검토 필요
👍