본 논문은 설명 가능한 인공지능(XAI)의 일관성이라는 새로운 개념을 제시합니다. XAI 일관성은 서로 다른 특징 기여 방법들 간의 일치도를 의미하며, 이를 정량화하는 새로운 지표를 제안합니다. 이 일관성을 하이퍼파라미터 튜닝 목표에 직접 통합하여 예측 성능과 설명의 견고성을 모두 고려하는 다목적 최적화 프레임워크를 구축합니다. Sequential Parameter Optimization Toolbox (SPOT) 내에서 가중 집계 및 바람직성 기반 전략을 사용하여 모델 선택을 안내하고, XAI 일관성을 통합하는 것이 최적화 과정에 미치는 영향을 탐구합니다. 이를 통해 성능이 저조하고 해석력이 낮은 영역, 예측 성능은 높지만 XAI 일관성이 낮아 해석력이 약한 영역, 그리고 높은 해석력과 경쟁력 있는 성능을 모두 갖춘 절충 영역 등 아키텍처 구성 공간의 구분된 영역들을 특징짓습니다. 또한, 성능 손실과 XAI 일관성 간의 균형을 이루는 절충 영역의 모델이 과적합을 피함으로써 분포 외 데이터에 대한 더욱 신뢰할 수 있는 예측으로 이어질 수 있는지에 대한 후속 연구의 기반을 제공합니다.
