Separate the Wheat from the Chaff: Winnowing Down Divergent Views in Retrieval Augmented Generation
Created by
Haebom
Category
Empty
저자
Song Wang, Zihan Chen, Peng Wang, Zhepei Wei, Zhen Tan, Yu Meng, Cong Shen, Jundong Li
개요
본 논문은 최신 정보 접근에 한계가 있는 대규모 언어 모델(LLM)의 성능 향상을 위해 외부 지식을 통합하는 검색 증강 생성(RAG) 프레임워크인 WinnowRAG를 제안한다. WinnowRAG는 질의를 고려한 클러스터링을 통해 문서들을 그룹화하고 각 클러스터에 LLM 에이전트를 할당하여 답변을 생성하는 1단계와, 비평 LLM을 사용하여 여러 에이전트의 출력을 평가하고 유용한 문서를 유지하는 2단계로 구성된다. WinnowRAG는 모델에 독립적이며 별도의 모델 미세 조정 없이 다양한 작업에 쉽게 적용할 수 있다.
시사점, 한계점
•
시사점:
◦
노이즈 문서를 제거하고 유용한 내용을 보존하는 'winnowing' 프로세스를 통해 RAG의 정확도를 향상시킨다.
◦
질의를 고려한 클러스터링과 LLM 에이전트의 협력을 통해 다양한 지식을 활용한다.
◦
모델 독립적이며 모델 미세 조정이 필요 없어 다양한 작업에 유연하게 적용 가능하다.
◦
실험을 통해 기존 RAG 방법론보다 우수한 성능을 입증했다.
•
한계점:
◦
자세한 내용은 논문에서 확인할 수 있다. (Abstract 정보만으로 한계점 파악 어려움)
