Graph-Augmented Reasoning: Evolving Step-by-Step Knowledge Graph Retrieval for LLM Reasoning
Created by
- Haebom
Category
Empty
저자
Wenjie Wu, Yongcheng Jing, Yingjie Wang, Wenbin Hu, Dacheng Tao
개요
본 논문은 자원 제약 환경에서 배포되는 소규모 언어 모델의 제한된 도메인 지식, 환각 현상, 제한된 추론 깊이 문제를 해결하기 위해 단계별 지식 그래프 검색과 단계별 추론을 통합하는 새로운 패러다임인 그래프 증강 추론(graph-augmented reasoning)을 제시합니다. 기존의 대규모 언어 모델(LLM) 추론의 한계를 극복하기 위해, 추가적인 훈련 없이 동결된 소규모 LLM이 관련 수학적 지식을 단계적으로 검색하고 처리하여 문제 해결 능력을 향상시키는 것을 목표로 합니다. 이를 위해, 프로세스 중심의 지식 그래프 구축, 계층적 검색 전략, 검색된 정보를 개선하고 각 추론 단계를 평가하는 보편적인 사후 검색 처리 및 보상 모델(PRP-RM)을 중심으로 하는 KG-RAR 프레임워크를 제안합니다. Math500과 GSM8K 벤치마크에서 6가지 모델에 대한 실험을 통해 KG-RAR이 Llama-3B를 사용하여 Math500에서 20.73%의 상대적 성능 향상을 달성하는 등 고무적인 결과를 보여줍니다.
시사점, 한계점
•
시사점:
◦
소규모 LLM의 추론 능력 향상을 위한 새로운 접근 방식인 그래프 증강 추론 제시.
◦
추가 훈련 없이 지식 그래프를 활용하여 LLM의 도메인 지식 및 추론 깊이 향상.
◦
Math500 및 GSM8K 벤치마크에서의 실험을 통해 성능 향상을 검증.
◦
자원 제약 환경에서의 소규모 LLM 활용 가능성 확대.
•
한계점:
◦
제안된 프레임워크의 일반화 성능에 대한 추가적인 연구 필요.
◦
다양한 도메인 및 복잡한 문제에 대한 적용 가능성 검토 필요.
◦
지식 그래프 구축 및 관리의 효율성 개선 필요.
◦
특정 수학 문제에 대한 성능 향상에 집중되어 있어, 다른 도메인으로의 확장성 검증 필요.
