본 논문은 설명 가능한 인공지능(XAI)의 일관성이라는 새로운 개념을 제시합니다. XAI 일관성이란 서로 다른 특징 기여 방법들 간의 일치도를 의미하며, 이를 정량화하기 위한 새로운 지표들을 제안합니다. 본 연구는 XAI 일관성을 하이퍼파라미터 튜닝 목표에 직접 통합하여 예측 성능과 설명의 강건성을 균형 있게 고려하는 다목적 최적화 프레임워크를 제시합니다. Sequential Parameter Optimization Toolbox (SPOT) 내에서 가중 집계 및 바람직성 기반 전략을 사용하여 모델 선택을 유도하며, XAI 일관성을 통합하는 것이 최적화 과정에 미치는 영향을 탐구합니다. 이를 통해 성능이 저조하고 해석력이 낮은 영역, 예측 성능은 우수하지만 XAI 일관성이 낮아 해석력이 약한 영역, 그리고 높은 해석력과 경쟁력 있는 성능을 모두 제공하는 절충 영역 등 아키텍처 구성 공간의 다양한 영역을 특징짓습니다. 또한, 성능 손실과 XAI 일관성 간의 균형을 맞추는 절충 영역의 모델이 과적합을 피하고 분포 외 데이터에 대한 더욱 신뢰할 수 있는 예측으로 이어지는지에 대한 후속 연구의 기반을 제공합니다.
