Removal of Hallucination on Hallucination: Debate-Augmented RAG
Created by
Haebom
저자
Wentao Hu, Wengyu Zhang, Yiyang Jiang, Chen Jason Zhang, Xiaoyong Wei, Qing Li
개요
Retrieval-Augmented Generation (RAG)은 외부 지식을 통합하여 사실 정확도를 높이지만, 잘못되거나 편향된 검색 결과가 생성 과정을 오도하여 환각(hallucination)을 심화시키는 "Hallucination on Hallucination" 문제를 야기합니다. 본 논문에서는 이 문제를 해결하기 위해, 다중 에이전트 논쟁(Multi-Agent Debate, MAD) 메커니즘을 검색 및 생성 단계에 통합한 훈련이 필요 없는 프레임워크인 Debate-Augmented RAG (DRAG)를 제안합니다. DRAG는 검색 단계에서 찬성, 반대, 심판 에이전트 간의 구조적 논쟁을 통해 검색 품질을 개선하고 사실의 신뢰성을 확보하며, 생성 단계에서는 비대칭 정보 역할과 적대적 논쟁을 도입하여 추론의 강건성을 높이고 사실적 불일치를 완화합니다. 다양한 작업에 대한 평가 결과, DRAG는 검색 신뢰성을 향상시키고 RAG로 인한 환각을 줄이며 전반적인 사실 정확도를 크게 높이는 것으로 나타났습니다. 소스 코드는 https://github.com/Huenao/Debate-Augmented-RAG 에서 확인할 수 있습니다.
