본 논문은 정적 내부 지식으로 인해 환각 응답이나 오래된 응답을 생성하는 경향이 있는 대규모 언어 모델(LLM)의 한계를 해결하기 위해, 강화 학습(RL)을 통해 모델의 검색 및 추론 능력을 향상시키는 검색 증강 생성(RAG) 방법을 제시합니다. 기존 RAG 방법의 훈련 안정성 문제, 상당한 추론 시간, 단일 질의 모드로 인한 제한된 기능 등의 문제점을 해결하기 위해, RAG-R1이라는 새로운 훈련 프레임워크를 제안합니다. RAG-R1은 LLM이 추론 과정 동안 내부 및 외부 지식을 적응적으로 활용할 수 있도록 설계되었으며, 단일 질의 모드에서 다중 질의 병렬 처리로 생성 및 검색 과정을 확장하여 추론 시간을 단축하고 모델의 기능을 향상시킵니다. 7가지 질의응답 벤치마크에 대한 광범위한 실험 결과, 제안된 방법은 최고 성능의 기준 모델보다 최대 13.2% 향상된 성능을 보였으며, 추론 시간은 11.1% 감소했습니다.
