Unveil Sources of Uncertainty: Feature Contribution to Conformal Prediction Intervals
Created by
Haebom
저자
Marouane Il Idrissi (UQAM, IID), Agathe Fernandes Machado (UQAM), Ewen Gallic (AMSE), Arthur Charpentier (UQAM)
개요
본 논문은 기존의 설명 가능한 AI (XAI) 프레임워크가 평균 모델 예측에만 초점을 맞추고 예측 불확실성을 간과하는 문제를 해결하기 위해, 협력 게임 이론과 콘포멀 예측(CP)을 결합한 새로운 모델-애그노스틱 불확실성 귀속(UA) 방법을 제안합니다. CP 구간의 너비와 경계와 같은 속성을 가치 함수로 사용하여 협력 게임을 정의함으로써 예측 불확실성을 입력 특징에 체계적으로 귀속시킵니다. 전통적인 섀플리 값을 확장하여 하르샤니 할당, 특히 특징 중요도에 비례하여 귀속을 분배하는 비례 섀플리 값을 사용합니다. 계산 가능성을 위해 강력한 통계적 보장을 갖춘 몬테 카를로 근사 방법을 제안하여 실행 시간 효율성을 크게 향상시켰습니다. 합성 벤치마크와 실제 데이터 세트에 대한 포괄적인 실험을 통해 제안된 방법의 실용성과 해석적 심도를 보여줍니다.
시사점, 한계점
•
시사점:
◦
협력 게임 이론과 콘포멀 예측을 결합하여 예측 불확실성을 해석하고 전달하는 강력하고 유연한 도구를 제공합니다.
◦
모델-애그노스틱 접근 방식으로 다양한 ML 모델에 적용 가능합니다.
◦
몬테 카를로 근사 방법을 통해 계산 효율성을 크게 향상시켰습니다.
◦
합성 및 실제 데이터 세트에서 실용성과 해석적 심도를 검증했습니다.
◦
기존 XAI 방법의 한계인 예측 불확실성을 고려하여 더욱 정확하고 신뢰할 수 있는 해석을 제공합니다.
•
한계점:
◦
제안된 방법의 계산 복잡도는 데이터 크기와 특징 수에 따라 증가할 수 있습니다. (몬테 카를로 근사를 통해 완화되었지만, 여전히 계산 비용이 상당할 수 있음)
