PropRAG: Guiding Retrieval with Beam Search over Proposition Paths
Created by
- Haebom
Category
Empty
저자
Jingjin Wang
개요
본 논문은 기존 Retrieval Augmented Generation (RAG)의 한계를 극복하기 위해, 문맥 풍부한 명제(proposition)와 빔 서치 알고리즘을 활용한 PropRAG 프레임워크를 제안합니다. 기존 RAG는 독립적인 구절 검색에 의존하여 인간 기억의 상호 연결성을 제대로 포착하지 못하는 반면, PropRAG는 명제 간의 관계를 활용하여 다단계 추론 체인을 명시적으로 발견합니다. 특히, PropRAG는 생성형 LLM을 온라인으로 호출하지 않고, 사전 계산된 임베딩과 효율적인 그래프 탐색을 통해 온라인 검색 과정을 수행하여 비용을 절감하고 일관성 문제를 해결합니다. LLM은 고품질 명제 추출 및 검색 후 답변 생성에 오프라인으로 효과적으로 사용됩니다. PopQA, 2Wiki, HotpotQA, MuSiQue 등의 데이터셋에서 최첨단 성능을 달성합니다.
시사점, 한계점
•
시사점:
◦
기존 RAG의 한계인 인간 기억의 상호 연결성 부족 문제를 명제 기반의 다단계 추론 체인 발견을 통해 해결.
◦
온라인 LLM 추론 비용을 제거하여 효율성 향상.
◦
다양한 데이터셋에서 최첨단 성능 달성 (PopQA, 2Wiki, HotpotQA, MuSiQue).
◦
LLM을 효과적으로 활용하여 고품질 명제 추출 및 답변 생성.
◦
비모수적 지속 학습의 발전에 기여.
•
한계점:
◦
명제 추출 및 임베딩 계산에 대한 자세한 설명 부족.
◦
특정 데이터셋에 대한 최적화 가능성 존재.
◦
대규모 지식 그래프 구축 및 유지 관리의 어려움.
◦
빔 서치 알고리즘의 매개변수 최적화 필요성.
