Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Alleviating LLM-based Generative Retrieval Hallucination in Alipay Search

Created by
  • Haebom
Category
Empty

저자

Yedan Shen, Kaixin Wu, Yuechen Ding, Jingyuan Wen, Hong Liu, Mingjie Zhong, Zhouhan Lin, Jia Xu, Linjian Mo

개요

본 논문은 대규모 언어 모델(LLM) 기반 생성형 검색(GR)의 환각 문제와 관련성 부족 문제를 해결하기 위해 최적화된 GR 프레임워크를 제안합니다. 이 프레임워크는 모델 훈련 중 지식 증류 추론을 통합하고, 검색 정확도를 향상시키기 위해 의사결정 에이전트를 도입합니다. LLM을 활용하여 검색된 질의-문서(q-d) 쌍을 평가하고 추론 데이터를 GR 모델에 전이된 지식으로 증류하며, 의사결정 에이전트를 통해 검색 결과를 확장하고 다양한 관점에서 가장 관련성 높은 문서를 선택합니다. 실제 데이터셋을 이용한 오프라인 실험과 Alipay의 Fund Search 및 Insurance Search에 대한 A/B 테스트를 통해 제안된 프레임워크의 우수성과 효과를 검증합니다.

시사점, 한계점

•
시사점:
◦
LLM 기반 GR의 환각 및 관련성 문제 완화에 효과적인 새로운 프레임워크 제시
◦
지식 증류 추론 및 의사결정 에이전트 활용을 통한 검색 정확도 및 전환율 향상
◦
실제 서비스(Alipay) 적용을 통한 실효성 검증
•
한계점:
◦
제안된 프레임워크의 성능이 특정 데이터셋 및 서비스에 국한될 가능성
◦
의사결정 에이전트의 복잡성으로 인한 계산 비용 증가 가능성
◦
A/B 테스트 결과의 일반화 가능성에 대한 추가 연구 필요
👍
Made with Slashpage