본 논문은 에너지 예측, 의료, 산업 등 다양한 분야에서 널리 사용되는 시계열 데이터에 대한 AI 시스템의 설명 가능성을 높이기 위한 새로운 방법인 C-SHAP for time series를 제안한다. 기존의 XAI 방법들이 저수준 패턴에 기반한 설명을 제공하는 것과 달리, C-SHAP은 시계열 분해 등을 이용하여 고수준 개념(concept)의 기여도를 설명함으로써 모델 추론에 대한 더욱 심층적인 이해를 제공한다. 에너지 분야의 사용 사례를 통해 방법론의 효과를 입증한다.