본 논문은 심층 신경망의 불확실성 정량화를 위한 새로운 방법인 "상황 유사성 증류(Contextual Similarity Distillation)"를 제안합니다. 기존의 앙상블 기법은 계산 비용이 높다는 단점이 있지만, 본 논문의 방법은 앙상블을 직접 학습하거나 평가하지 않고도 단일 모델로 앙상블의 분산을 효율적으로 추정합니다. 넓은 신경망의 예측 가능한 학습 역학과 신경 탄젠트 커널을 활용하여 무한 앙상블의 예측 분산을 근사하고, 앙상블 분산 계산을 커널 유사성을 회귀 목표로 하는 지도 학습 문제로 재해석합니다. 추론 시 단일 전달만으로 예측 분산을 추정할 수 있으며, 비표시 대상 도메인 데이터 또는 데이터 증강을 사용하여 불확실성 추정을 개선할 수 있습니다. 다양한 분포 외 검출 벤치마크와 희소 보상 강화 학습 환경에서 실험적으로 검증하여 앙상블 기반 기준선과 비교하여 경쟁력 있고 때로는 우수한 성능을 보임을 확인했습니다.
