본 논문은 대규모 언어 모델(LLM)의 환각(hallucination) 문제 해결을 위한 새로운 검출 프레임워크인 Shannon Entropy Distribution Hallucination Detector (ShED-HD)를 제안합니다. ShED-HD는 경량 BiLSTM 아키텍처와 단일 헤드 어텐션을 사용하여 시퀀스 수준의 엔트로피 패턴을 분류함으로써, 여러 추론 과정 없이도 효율적으로 환각을 검출합니다. 세 가지 데이터셋(BioASQ, TriviaQA, Jeopardy Questions)에 대한 평가 결과, ShED-HD는 기존의 계산 효율적인 방법들보다 분포 외 설정에서 상당히 우수한 성능을 보였으며, 분포 내 설정에서는 비슷한 성능을 달성했습니다. 이는 자원 제약 환경에서 신뢰할 수 있는 AI 기능이 중요한 경우 LLM이 생성한 콘텐츠의 신뢰성을 향상시키는 데 기여합니다.
