본 논문은 고위험 상황에서 복잡한 모델을 설명하기 위해 점점 더 많이 활용되고 있는 다양한 사후 설명 방법들 간의 불일치 문제를 연구합니다. 연구는 설명 간의 불일치 개념을 공식화하고, 실제로 얼마나 자주 불일치가 발생하는지, 그리고 실무자들이 이러한 불일치를 어떻게 해결하는지를 분석합니다. 데이터 과학자들과의 인터뷰를 통해 서로 다른 방법으로 생성된 설명 간의 불일치를 정의하고, 이를 공식화하기 위한 새로운 정량적 프레임워크를 제시합니다. 이 프레임워크를 활용하여 실제 데이터셋 4개, 최첨단 사후 설명 방법 6개, 예측 모델 6개를 사용하여 다양한 설명 방법으로 생성된 설명 간의 불일치 정도를 측정하는 엄격한 실증 분석을 수행합니다. 또한, 데이터 과학자들을 대상으로 한 온라인 사용자 연구를 통해 불일치를 해결하는 방법을 이해합니다. 연구 결과, 최첨단 설명 방법들이 종종 출력하는 설명 측면에서 불일치하고, 기계 학습 실무자들은 이러한 불일치를 해결할 때 종종 임시적 휴리스틱을 사용하는 것으로 나타났습니다.
