본 논문은 기존 Retrieval-Augmented Generation (RAG) 모델이 복잡한 질문에 대해 적절한 context를 찾는 데 어려움을 겪는 문제를 해결하기 위해, Forward-Backward RAG (FB-RAG)라는 새로운 training-free 프레임워크를 제안합니다. FB-RAG는 경량 LLM을 사용하여 미래 생성물을 미리 살펴보고, 여러 샘플 출력에서 얻은 증거를 바탕으로 최종적으로 강력한 생성 모델에 가장 적합한 context를 정확하게 식별합니다. 기존 연구에서 사용되는 복잡한 fine-tuning이나 강화 학습 없이 성능을 향상시키며, 9개의 데이터셋에서 일관되게 우수한 결과를 보여줍니다. 특히, EN.QA 데이터셋에서는 기존 최고 성능 모델과 동등한 성능을 48% 이상의 지연 시간 감소로 달성하거나, 10%의 지연 시간 감소와 함께 8%의 성능 향상을 달성했습니다. 경량 LLM이 정확한 답을 생성하지 못하더라도, 그 시도가 최종 모델을 정확한 응답으로 이끌 수 있음을 보여주는 분석 결과도 제시합니다.
