Hallucination Detection in LLMs Using Spectral Features of Attention Maps
작성자
- Haebom
카테고리
비어 있음
저자
Jakub Binkowski, Denis Janiak, Albert Sawczyn, Bogdan Gabrys, Tomasz Kajdanowicz
개요
본 논문은 대규모 언어 모델(LLM)의 환각(hallucination) 문제 해결을 위해 주목도 맵의 스펙트럼 특징을 활용하는 새로운 방법인 $\text{LapEigvals}$를 제안합니다. 기존 주목도 맵 기반 방법들의 한계를 극복하고자, 주목도 맵을 그래프의 인접 행렬로 해석하여 그에 따른 라플라시안 행렬의 상위 $k$개 고유값을 환각 탐지에 활용합니다. 실험 결과, $\text{LapEigvals}$는 기존 주목도 맵 기반 방법들 중 최고 성능을 달성하며, 추가적인 실험을 통해 강건성과 일반화 성능을 입증합니다.
시사점, 한계점
•
시사점:
◦
주목도 맵의 스펙트럼 특징을 활용하여 기존 주목도 맵 기반 환각 탐지 방법들의 성능을 뛰어넘는 새로운 방법 제시.
◦
$\text{LapEigvals}$의 강건성과 일반화 성능을 실험적으로 입증.
◦
향후 환각 탐지 분야 발전에 기여할 가능성 제시.
•
한계점:
◦
본 논문에서 제시된 방법의 한계점에 대한 명시적인 언급이 부족함.
◦
다양한 LLM 아키텍처 및 환각 유형에 대한 일반화 성능의 추가적인 검증 필요.
◦
$\text{LapEigvals}$ 방법의 계산 복잡도 및 효율성에 대한 분석 필요.
