Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

RAGtifier: Evaluating RAG Generation Approaches of State-of-the-Art RAG Systems for the SIGIR LiveRAG Competition

Created by
  • Haebom

저자

Tim Cofala, Oleh Astappiev, William Xion, Hailay Teklehaymanot

개요

본 논문은 2025년 SIGIR LiveRAG 챌린지에 참가하여 제출한 Retrieval-Augmented Generation (RAG) 모델에 대한 결과를 보고합니다. DataMorgana의 QA 쌍을 대상으로, 최대 10B 파라미터의 LLM과 Falcon-3-10B를 사용하여 정확도를 극대화하는 RAG 솔루션을 탐색했습니다. OpenSearch와 Pinecone 인덱스를 활용한 다양한 Retriever 조합과 RAG 솔루션을 실험한 결과, Pinecone retriever와 BGE reranker를 사용하는 InstructRAG가 최종 솔루션으로 채택되었습니다. 이 솔루션은 비인간 평가에서 정확도 점수 1.13, 충실도 점수 0.55를 달성하여 전체 3위를 차지했습니다.

시사점, 한계점

•
시사점: Pinecone retriever와 BGE reranker를 활용한 InstructRAG 기반의 RAG 시스템이 LiveRAG 챌린지에서 우수한 성능을 보임을 보여줍니다. 다양한 retriever 조합 및 RAG 솔루션 탐색을 통한 최적화 전략의 효과를 확인했습니다.
•
한계점: 챌린지 조건(10B 파라미터 LLM 제한, Falcon-3-10B 사용 제한 등) 내에서의 성능 평가이므로 일반화 성능에 대한 추가적인 검증이 필요합니다. 비인간 평가에 의존하는 점이 한계로 작용할 수 있습니다. 더 높은 정확도와 충실도를 달성하기 위한 추가적인 연구가 필요합니다.
👍
Made with Slashpage