Sign In

Provably Accurate Shapley Value Estimation via Leverage Score Sampling

Created by
  • Haebom
Category
Empty

저자

Christopher Musco, R. Teal Witter

개요

본 논문은 게임 이론에서 유래하여 설명 가능한 기계 학습에서 모델 예측을 특정 입력 특징에 귀속시키는 데 사용되는 셰이플리 값의 계산 문제를 다룬다. 일반적인 모델에서 셰이플리 값을 정확하게 계산하려면 O(2^n)의 모델 평가가 필요하므로, 근사 알고리즘이 널리 사용된다. 본 논문은 Kernel SHAP 알고리즘의 비효율성을 해결하기 위해, 레버리지 점수 샘플링을 활용한 경량화된 Kernel SHAP 수정 알고리즘인 Leverage SHAP을 제안한다. Leverage SHAP은 O(n log n)의 모델 평가만으로도 증명 가능한 정확도의 셰이플리 값 추정치를 제공하며, 기존 Kernel SHAP보다 우수한 성능을 보인다.

시사점, 한계점

시사점:
O(n log n)의 모델 평가만으로도 정확한 셰이플리 값 추정이 가능하도록 하는 효율적인 알고리즘인 Leverage SHAP을 제시하였다.
기존 Kernel SHAP 알고리즘의 성능을 뛰어넘는 실험 결과를 제시하였다.
셰이플리 값 추정과 불확실한 능동 학습 간의 연관성을 활용하여 새로운 접근 방식을 제시하였다.
한계점:
Leverage SHAP의 이론적 보장은 비점근적(non-asymptotic) 복잡도에 국한된다.
다양한 유형의 모델에 대한 일반화 성능에 대한 추가적인 연구가 필요할 수 있다.
👍