ParamMute: Suppressing Knowledge-Critical FFNs for Faithful Retrieval-Augmented Generation

작성자

Haebom

카테고리

Empty

저자

Pengcheng Huang, Zhenghao Liu, Yukun Yan, Haiyan Zhao, Xiaoyuan Yi, Hao Chen, Zhiyuan Liu, Maosong Sun, Tong Xiao, Ge Yu, Chenyan Xiong

💡 개요

본 논문은 검색 증강 생성(RAG) 모델에서 외부 검색 정보와 상충되는 내부 지식으로 인해 발생하는 비충실적 생성 문제를 해결하고자 합니다. 연구진은 내부 지식의 영향이 큰 특정 피드포워드 네트워크(FFN)를 식별하고, 이를 억제하여 검색된 지식에 더 의존하도록 모델을 보정하는 ParamMute 프레임워크를 제안합니다. 이를 통해 기존 벤치마크뿐만 아니라 내부 지식과 외부 증거가 충돌하는 새로운 벤치마크인 CoFaithfulQA에서도 충실성을 유의미하게 향상시켰습니다.

🔑 시사점 및 한계

•

LLM 기반 RAG 모델의 비충실적 생성 문제 해결에 있어 내부 지식의 과도한 영향력을 억제하는 것이 중요함을 보여줍니다.

•

ParamMute는 특정 FFN을 억제함으로써 외부 정보에 대한 모델의 충실성을 효과적으로 높일 수 있는 새로운 방향을 제시합니다.

•

제안된 벤치마크 CoFaithfulQA는 내부 지식과 외부 증거 간의 충돌 상황에서 RAG 모델의 충실성을 평가하는 데 유용할 것으로 기대됩니다.

•

특정 FFN을 억제하는 과정이 모델의 전반적인 성능이나 다른 측면에 미치는 잠재적 영향에 대한 추가적인 분석이 필요합니다.

PDF 보기

Made with Slashpage