Democratizing GraphRAG: Linear, CPU-Only Graph Retrieval for Multi-Hop QA

Created by

Haebom

저자

Qizhi Wang

💡 개요

기존 GraphRAG 시스템은 복잡한 그래프 구축 및 GPU 기반 추론으로 인해 비용이 높다는 단점이 있었습니다. 본 논문은 LLM 기반 그래프 구축을 대체하고 CPU만을 사용하여 선형 시간 복잡도로 동작하는 SPRIG (Seeded Propagation for Retrieval In Graphs)라는 새로운 GraphRAG 파이프라인을 제안합니다. SPRIG은 경량 NER 기반 공출현 그래프를 사용하고 개인화 페이지 랭크(PPR)를 활용하여 GPU 및 토큰 비용 없이 다단계 QA 성능을 향상시킵니다.

🔑 시사점 및 한계

•

CPU 친화적인 그래프 검색이 다단계 QA 성능을 향상시킬 수 있는 조건을 제시합니다.

•

강력한 어휘 기반 검색(RRF)이 충분한 경우를 명확히 하여, GPU 및 토큰 비용 없이 GraphRAG 접근 방식을 보편화할 수 있는 현실적인 경로를 제시합니다.

•

제안된 방법은 기존 LLM 기반 그래프 구축 및 GPU 기반 추론에 비해 상당한 비용 절감 효과를 가져옵니다.

PDF 보기

Made with Slashpage