본 논문은 대규모 언어 모델(LLM)의 환각(hallucination) 문제를 해결하기 위해, 경량화된 BiLSTM 아키텍처와 단일 헤드 어텐션을 사용하는 새로운 환각 검출 프레임워크인 Shannon Entropy Distribution Hallucination Detector (ShED-HD)를 제안합니다. ShED-HD는 기존 방법들과 달리, 전체 출력 시퀀스의 엔트로피 패턴을 효율적으로 분석하여 문맥 정보를 유지하면서 환각을 검출합니다. BioASQ, TriviaQA, Jeopardy Questions 세 가지 데이터셋에 대한 실험 결과, ShED-HD는 다른 계산 효율적인 방법들보다 분포 외 설정에서 성능이 뛰어나며, 분포 내 설정에서는 비슷한 성능을 보임을 보여줍니다. 따라서 ShED-HD는 자원 제약 환경에서 LLM이 생성한 콘텐츠의 신뢰성을 향상시키는 데 기여합니다.
