딥러닝 모델은 훈련 데이터의 관련 없는 특성을 사용하여 문제에 대한 지름길 솔루션을 학습하는 경향이 있습니다. 의료 영상 분석과 같은 위험도가 높은 응용 분야에서 이러한 현상은 모델이 임상적으로 의미 있는 특성을 사용하여 예측하는 것을 방해하여 견고성이 떨어지고 환자에게 해를 끼칠 수 있습니다. 본 논문에서는 다양한 유형의 지름길(이미지 전체에 확산된 지름길과 특정 영역에 국한된 지름길)이 네트워크 계층에서 다르게 나타나므로 중간 계층을 대상으로 하는 완화 전략을 통해 보다 효과적으로 목표로 삼을 수 있음을 보여줍니다. 저자들은 작은 하위 집합의 작업 관련 데이터에 미세 조정된 교사 네트워크를 활용하여 편향 특성으로 손상된 대규모 데이터 세트에서 훈련된 학생 네트워크에서 지름길 학습을 완화하는 새로운 지식 증류 프레임워크를 제안합니다. CheXpert, ISIC 2017 및 SimBA 데이터 세트에 대한 광범위한 실험을 통해 ResNet-18, AlexNet, DenseNet-121 및 3D CNN을 포함한 다양한 아키텍처를 사용하여 전통적인 경험적 위험 최소화, 증강 기반 편향 완화 및 그룹 기반 편향 완화 접근 방식보다 일관된 개선을 보였습니다. 많은 경우, 편향이 없는 데이터로 훈련된 기준선 모델과 비교 가능한 성능을 달성했으며, 분포 외 테스트 데이터에서도 동일한 결과를 얻었습니다.
