[공지사항]을 빙자한 안부와 근황 
Show more

Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Document Attribution: Examining Citation Relationships using Large Language Models

Created by
  • Haebom

저자

Vipula Rawte, Ryan A. Rossi, Franck Dernoncourt, Nedim Lipka

개요

본 논문은 문서 요약, 질문 응답, 정보 추출 등 문서 기반 작업에 점점 더 많이 사용되는 대규모 언어 모델(LLM)의 신뢰성과 해석 가능성을 높이는 데 중점을 둡니다. 특히, LLM이 생성한 출력을 원본 문서로 추적하는 어트리뷰션(attribution)에 초점을 맞춰, 부정확하거나 부정밀한 응답을 생성할 수 있는 LLM의 특성을 고려하여 어트리뷰션의 신뢰성을 평가하는 방법을 제안합니다. 두 가지 기법을 제시하는데, 첫 번째는 어트리뷰션을 단순한 텍스트 함의(textual entailment) 과제로 설정하는 제로샷 접근 방식이며, 두 번째는 어트리뷰션 프로세스 향상을 위한 어텐션 메커니즘의 역할을 탐구하는 것입니다. Flan-ul2를 사용한 제로샷 접근 방식은 AttributionBench의 ID 및 OOD 세트에서 기존 최고 성능보다 각각 0.27% 및 2.4% 향상을 보였으며, Flan-t5-small을 사용한 어텐션 기반 접근 방식은 대부분의 레이어에서 기준선보다 높은 F1 점수를 달성했습니다.

시사점, 한계점

시사점:
제로샷 어트리뷰션 접근 방식과 어텐션 메커니즘 활용을 통해 LLM 기반 문서 처리 시스템의 신뢰성과 해석 가능성 향상 가능성을 제시.
Flan-ul2와 Flan-t5-small 모델을 이용한 실험 결과를 통해 제안된 기법의 유효성을 확인.
향상된 어트리뷰션 기술은 LLM의 투명성과 신뢰도를 높여 다양한 문서 기반 작업의 성능을 개선하는 데 기여할 수 있음.
한계점:
제로샷 접근 방식의 성능 향상이 상대적으로 미미함 (0.27% 및 2.4% 향상).
어텐션 메커니즘 활용 시 일부 레이어에서는 기준선보다 성능이 낮게 나타남 (layer 4 and layers 8 through 11).
제한된 모델과 데이터셋을 사용하여 일반화 가능성에 대한 추가 연구 필요.
실제 응용 환경에서의 성능 및 효율성에 대한 추가 검증 필요.
👍