본 논문은 피부 병변 분류 모델의 정확도 향상에도 불구하고, 의료 현장에서 AI 모델에 대한 불신이 여전히 문제임을 지적합니다. 높은 정확도 외에도 신뢰할 수 있고 설명 가능한 진단이 필수적이며, 기존의 설명 가능성 방법(LIME, CAM)의 한계를 극복하기 위해 Global Class Activation Probabilistic Map Evaluation (GCAPE) 방법을 제안합니다. GCAPE는 모든 클래스의 활성화 확률 맵을 확률적으로, 픽셀 단위로 분석하여 진단 과정을 통합적으로 시각화함으로써 오진 위험을 줄입니다. SafeML을 추가적으로 적용하여 잘못된 진단을 감지하고 의사와 환자에게 필요에 따라 경고하여 진단의 신뢰성과 환자 안전을 향상시킵니다. ISIC 데이터셋과 MobileNetV2, Vision Transformer를 사용하여 방법을 평가했습니다.
