Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

On the Consistency of Multilingual Context Utilization in Retrieval-Augmented Generation

Created by
  • Haebom

저자

Jirui Qi, Raquel Fernandez, Arianna Bisazza

개요

본 논문은 다국어 검색 증강 생성(mRAG)에서 대규모 언어 모델(LLM)이 다국어 맥락을 활용하여 정확한 답변을 생성하는 능력을 심층적으로 평가한다. 특히, LLM이 관련 패시지의 언어와 상관없이 일관되게 사용하고, 사용자의 질문 언어로 응답하며, 다양한 언어의 방해 요소가 있는 맥락에서도 관련 패시지에 집중하는 능력을 분석한다. 4개의 LLM과 3개의 질의응답 데이터셋(총 48개 언어)을 사용한 실험 결과, LLM은 다른 언어의 패시지에서 관련 정보를 추출하는 능력은 뛰어나지만, 정확한 언어로 완전한 답변을 구성하는 능력은 상대적으로 약하다는 것을 보여준다. 정확도와 특징 귀속 기법을 기반으로 한 분석을 통해, 방해 요소 패시지는 언어에 관계없이 답변 품질에 부정적인 영향을 미치지만, 질문 언어의 방해 요소가 더 큰 영향을 미친다는 것을 밝혔다. 결론적으로, 본 연구는 mRAG 시스템에서 LLM이 맥락을 활용하는 방식에 대한 이해를 심화시키고, 향후 개선 방향을 제시한다.

시사점, 한계점

시사점:
LLM이 다른 언어의 패시지에서 관련 정보를 추출하는 능력이 뛰어나다는 것을 확인.
LLM이 정확한 언어로 완전한 답변을 생성하는 능력은 상대적으로 약하다는 것을 밝힘.
방해 요소 패시지는 언어에 관계없이 답변 품질에 부정적인 영향을 미치며, 특히 질문 언어의 방해 요소가 더 큰 영향을 미침.
mRAG 시스템 개선을 위한 방향을 제시.
한계점:
특정 LLM과 데이터셋에 국한된 실험 결과.
다양한 유형의 방해 요소에 대한 고려 부족.
LLM의 맥락 활용 메커니즘에 대한 더 깊이 있는 분석 필요.
👍