DeltaSHAP: Explaining Prediction Evolutions in Online Patient Monitoring with Shapley Values
Created by
Haebom
저자
Changhun Kim, Yechan Mun, Sangchul Hahn, Eunho Yang
개요
본 논문은 온라인 환자 모니터링 시스템을 위해 특별히 설계된 새로운 설명 가능한 인공지능(XAI) 알고리즘인 DeltaSHAP을 제안합니다. 기존 XAI 방법들은 임상적 시계열 설명 작업의 고유한 요구사항을 충족하지 못하지만, DeltaSHAP은 연속적인 예측의 변화를 설명하고, 특징 귀속의 크기와 방향을 모두 제공하며, 실시간으로 통찰력을 제공함으로써 세 가지 핵심적인 임상적 요구를 해결합니다. Shapley 값을 시간적 설정에 적용하여 특징 연합 효과를 정확하게 포착하고, 실제로 관찰된 특징 조합만을 사용하여 예측 변화를 귀속시켜 시간에 민감한 임상 응용 분야에 효율적이고 실용적입니다. 또한 온라인 시계열에 대한 귀속의 신뢰성을 평가하기 위한 새로운 평가 지표를 제시하고, 온라인 환자 모니터링 작업에 대한 실험을 통해 DeltaSHAP이 설명 품질(62% 향상)과 계산 효율(MIMIC-III 탈보상 벤치마크에서 33% 시간 단축) 모두에서 최첨단 XAI 방법보다 우수함을 보여줍니다. 코드는 https://github.com/AITRICS/DeltaSHAP 에서 공개합니다.