대규모 언어 모델(LLM)의 환각(hallucination)을 정확하게 감지하는 것은 환각 텍스트의 정교함 때문에 어려운 과제입니다. 본 논문은 환각 샘플이 일반적인 부정적 샘플보다 더 높은 기만적인 품질을 보이는 점을 인지하여, 신중하게 설계된 환각을 DPO 정렬 절차의 부정적 예시로 사용합니다. 본 연구는 커리큘럼 학습 전략을 통합하여, 독립적인 사실 확인 모델의 확률 점수 감소가 가장 큰 쉬운 샘플부터 점진적으로 어려운 샘플로 학습을 전환합니다. 이러한 구조화된 난이도 조정은 안정적이고 점진적인 학습을 보장합니다. 실험 결과, 커리큘럼 DPO 접근 방식과 고품질 부정적 샘플로 훈련된 HaluCheck 모델은 다양한 지표에서 성능을 크게 향상시켜 MedHallu 및 HaluEval과 같은 어려운 벤치마크에서 최대 24%의 향상을 달성했습니다. 또한, HaluCheck 모델은 제로샷 설정에서 강력한 성능을 보이며, 다양한 벤치마크에서 더 큰 최첨단 모델보다 성능이 훨씬 뛰어납니다.
