DiffLogic 네트워크 아키텍처를 사용하여 노드별 개별 논리 유형을 학습하도록 제약된 심층 신경망(DNN)은 DNN에 내재된 복잡성을 해소하는 모델별 설명 기법을 가능하게 합니다. 본 연구는 컴퓨터 공학의 회로 분석 원리를 바탕으로 특정 기능을 활성화하는 입력 패턴을 설명하는 샐리언시 맵을 생성하는 알고리즘(eXpLogic)을 제시합니다. eXpLogic 설명은 (1) 의사결정에 책임이 있는 입력 집합을 정확하게 보여주어 오탐 및 미탐 예측을 해석하는 데 도움이 되고, (2) 특정 출력을 활성화하는 일반적인 입력 패턴을 강조하며, (3) 네트워크 크기를 줄여 클래스별 추론을 개선하는 데 도움이 됩니다. eXpLogic 샐리언시 맵을 평가하기 위해 모델의 클래스 예측을 전환하기 전에 입력이 얼마나 변하는지 정량화하는 지표(SwitchDist)를 도입하고 이 지표를 사용하여 eXpLogic을 Vanilla Gradients(VG) 및 Integrated Gradient(IG) 방법과 비교합니다. 일반적으로 eXpLogic 샐리언시 맵이 클래스 점수를 변경할 입력을 예측하는 데 더 뛰어나다는 것을 보여줍니다. 이러한 맵은 네트워크 크기와 추론 시간을 각각 87% 및 8% 줄이는 데 도움이 되는 반면, 클래스별 예측에는 제한적인 영향(-3.8%)을 미칩니다. 이 연구의 기계 학습에 대한 광범위한 가치는 특정 DNN 아키텍처가 설명 가능성을 어떻게 향상시키는지 보여주는 데 있으며, 이는 의료, 국방 및 법률 분야와 관련이 있습니다.
