본 논문은 시간 순서 데이터 분류에서 사용되는 기계 학습 모델의 예측 결과를 이해하기 위한 설명 가능한 인공지능(XAI) 방법, 특히 특징 귀속(feature attribution) 방법의 평가에 대해 다룹니다. 기존의 특징 귀속 방법 평가는 주로 섭동 기반 지표에 의존하는데, 본 논문은 다양한 데이터셋, 모델 아키텍처, 섭동 전략에 대한 체계적인 실험 분석을 통해 이러한 지표에서 이전에는 간과되었던 클래스 의존적 효과를 밝혀냅니다. 즉, 섭동 기반 지표의 효과는 클래스에 따라 다르게 나타나며, 특히 가장 효과적인 섭동 전략에서 클래스 간 차이가 가장 두드러지게 나타난다는 것을 발견하였습니다. 이러한 현상은 분류기의 학습된 편향으로 인한 것으로 추정되며, 섭동 기반 평가가 본질적인 귀속 품질보다는 특정 모델 동작을 반영할 수 있음을 시사합니다. 따라서 본 논문은 클래스를 고려한 패널티 항을 포함하는 새로운 평가 프레임워크를 제안하여 클래스 불균형 데이터셋에서 특히 유용하게 활용될 수 있습니다. 본 연구는 시간 순서 데이터 분류에 초점을 맞추고 있지만, 섭동 기반 평가가 일반적인 다른 구조화된 데이터 영역에도 이러한 클래스 의존적 효과가 확장될 가능성이 있습니다.
