본 논문은 의료 텍스트의 환각 현상을 감지할 수 있는지 평가하기 위해 특별히 설계된 대규모 데이터 세트인 MedHal을 제시한다. 기존의 환각 감지 방법은 의료 분야와 같은 전문 분야에서 적용될 때 심각한 제한 사항을 갖는다. MedHal은 (1) 다양한 의료 텍스트 소스와 작업을 통합하고, (2) 의료 환각 감지 모델 훈련에 적합한 대량의 주석 처리된 샘플을 제공하며, (3) 모델 학습을 안내하기 위해 사실적 불일치에 대한 설명을 포함함으로써 이러한 격차를 해결한다. MedHal의 유용성을 입증하기 위해 기준 의료 환각 감지 모델을 훈련 및 평가하여 일반적인 환각 감지 접근 방식보다 개선된 결과를 보였다. 이 리소스는 비용이 많이 드는 전문가 검토에 대한 의존도를 줄이면서 의료 텍스트 생성 시스템의 보다 효율적인 평가를 가능하게 하여 의료 AI 연구 개발을 가속화할 수 있다.
