ShaTS: A Shapley-based Explainability Method for Time Series Artificial Intelligence Models applied to Anomaly Detection in Industrial Internet of Things
Created by
Haebom
저자
Manuel Franco de la Pena (Departamento de Ingenieria y Tecnologia de Computadores, University of Murcia, Spain, Murcia), Angel Luis Perales Gomez (Departamento de Ingenieria y Tecnologia de Computadores, University of Murcia, Spain, Murcia), Lorenzo Fernandez Maimo (Departamento de Ingenieria y Tecnologia de Computadores, University of Murcia, Spain, Murcia)
개요
산업용 사물 인터넷 환경에서 사이버 위협을 신속하게 탐지하고 완화하기 위해 이상 탐지 및 설명 기술이 점점 더 중요해지고 있습니다. 시간 윈도우를 처리하여 데이터를 표 형태로 처리하는 대신 기계 학습 및 심층 학습 모델을 사용한 이상 탐지가 향상되었습니다. 하지만 기존의 설명 방법은 이러한 시간적 구조를 무시하여 부정확하거나 활용도가 낮은 설명을 생성하는 경우가 많습니다. 본 논문에서는 시간 시계열 모델에 대한 Shapley 값 설명의 정확성을 높이기 위해 설계된 모델 독립적인 설명 가능한 인공 지능 방법인 ShaTS (Shapley values for Time Series models)를 제시합니다. ShaTS는 시간적 의존성을 유지하고 일관성 있고 활용 가능한 통찰력을 생성하는 사전 기능 그룹화 전략을 통합하여 기존 접근 방식의 단점을 해결합니다. SWaT 데이터 세트에서 수행된 실험은 ShaTS가 중요한 시간을 정확하게 식별하고, 이상 현상의 영향을 받는 센서, 액추에이터 및 프로세스를 정확하게 지정하며, 설명 가능성과 자원 효율성 측면에서 SHAP보다 우수하다는 것을 보여주어 산업 환경의 실시간 요구 사항을 충족합니다.
시사점, 한계점
•
시사점:
◦
시간 시계열 데이터에 대한 모델-애그노스틱 설명 가능한 AI 방법인 ShaTS 제시.
◦
기존 방법보다 향상된 정확성과 자원 효율성을 통해 실시간 이상 탐지 및 설명 가능.
◦
시간적 의존성을 고려하여 일관성 있고 활용 가능한 통찰력 제공.
◦
SWaT 데이터셋 실험을 통해 성능 검증.
•
한계점:
◦
SWaT 데이터셋 하나만 사용하여 실험 진행, 다른 데이터셋에 대한 일반화 성능 검증 필요.
◦
ShaTS의 성능이 다른 설명 가능한 AI 방법들과 비교하여 얼마나 우수한지에 대한 추가적인 분석 필요.
