온라인 시계열 모니터링 모델의 설명은 헬스케어 및 금융과 같이 중요한 결정에 시간적 및 상황적 예측 역학이 기반이 되는 민감한 분야에서 중요합니다. 기존 XAI 방법은 각 시간 단계를 독립적으로 분석하여 시간적 종속성을 간과합니다. 이에 Delta-XAI를 제안합니다. 이는 14개의 기존 XAI 방법을 래퍼 함수를 통해 조정하고, 충실도, 충분성 및 일관성과 같은 다양한 측면을 평가하는 온라인 설정을 위한 원칙적인 평가 도구를 도입합니다. 또한, 시간적 종속성을 체계적으로 포착하고 out-of-distribution 효과를 완화하기 위해 통합 경로에 과거 관측치를 통합하는 Shifted Window Integrated Gradients (SWING)를 제안합니다.
