생물학적 네트워크 연구 방식을 모방하여, 설명 가능한 인공지능 연구에 치료-대조군 패러다임을 적용하고 다중 매개변수 입력 변경을 통해 이를 풍부하게 합니다. 본 연구는 입력 데이터 증강에 의해 영향을 받는 내부 추론을 조사하기 위한 프레임워크를 제안합니다. 네트워크 작동의 내부 변화는 분산으로 측정된 활성화 변화에 반영되며, 이는 Sobol 지수와 Shapley 값을 사용하여 각 증강과 관련된 구성 요소로 분해될 수 있습니다. 이러한 수치를 통해 다양한 변수에 대한 민감도를 시각화하고 활성화의 유도 마스킹에 사용할 수 있습니다. 또한, 활성화의 표적 손상에 의해 생성된 예측 편향과의 일치에 따라 후보를 필터링하는 단일 클래스 민감도 분석 방법을 제시합니다. 관찰된 유사성에 의존하여, 개발된 프레임워크는 복잡한 환경에서 생물학적 신경 네트워크 연구에 전이될 수 있다고 가정합니다.
