본 논문은 대규모 언어 모델(LLM)의 환각 문제를 해결하기 위한 새로운 프레임워크인 "학습을 통한 평가 및 적응 계획(LEAP)"을 제안한다. 기존의 도구 기반 환각 감지 방법론은 고정된 검증 전략에 의존하고, 강력한 LLM을 감지기로 사용하는 것은 비용이 많이 든다는 문제점을 지적한다. LEAP은 효율적인 학생 모델에 동적 학습 및 능동적 수정 능력을 부여하여 이러한 문제점을 해결하고자 한다. 구체적으로, 동적 전략 학습 문제로 환각 감지 문제를 공식화하고, 교사 모델을 사용하여 동적 학습 루프 내에서 궤적을 생성하고 실행 실패에 따라 전략을 동적으로 조정한다. 이 능력을 효율적인 학생 모델에 증류하고, 실행 전에 자체 검증 전략을 제안, 검토 및 최적화하는 능동적 수정 메커니즘을 사용한다. 세 가지 어려운 벤치마크에서 실험을 통해 LEAP 기반 모델이 기존 SOTA 방법보다 우수한 성능을 보임을 입증한다.
