Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

REFIND at SemEval-2025 Task 3: Retrieval-Augmented Factuality Hallucination Detection in Large Language Models

Created by
  • Haebom

저자

DongGeon Lee, Hwanjo Yu

개요

본 논문은 대규모 언어 모델(LLM) 출력에서 발생하는 환각(hallucination) 문제를 해결하기 위해, 검색된 문서를 직접 활용하여 환각 구간을 탐지하는 새로운 프레임워크인 REFIND(Retrieval-augmented Factuality hallucINation Detection)를 제시합니다. REFIND는 LLM 출력의 검색된 증거에 대한 민감도를 정량화하는 새로운 지표인 Context Sensitivity Ratio (CSR)을 제안합니다. 실험 결과, REFIND는 9개 언어(저자원 언어 포함)에서 강건성을 보이며 기존 모델보다 우수한 IoU 점수를 달성하여 환각 구간 식별 성능을 크게 향상시켰습니다. 이는 환각 탐지를 위한 문맥 민감도 정량화의 효과를 강조하며, 다양한 언어에서 더 신뢰할 수 있는 LLM 응용 프로그램을 위한 길을 열어줍니다. 코드는 https://github.com/oneonlee/REFIND 에서 공개됩니다.

시사점, 한계점

•
시사점:
◦
검색된 문서를 직접 활용하여 LLM의 환각을 효과적으로 탐지하는 새로운 프레임워크 REFIND 제시
◦
LLM 출력의 문맥 민감도를 정량화하는 새로운 지표 CSR 제안
◦
다양한 언어(저자원 언어 포함)에서 우수한 성능을 보임
◦
환각 탐지 분야의 발전에 기여, 더 신뢰할 수 있는 LLM 응용 프로그램 개발 가능성 제시
◦
오픈소스 코드 공개
•
한계점:
◦
본 논문에서는 구체적인 한계점이 언급되지 않았습니다. 추가적인 실험 및 분석을 통해 한계점을 밝힐 필요가 있습니다.
👍
Made with Slashpage