본 논문은 SHAP (SHapley Additive exPlanations)의 global feature importance 계산 방식의 문제점을 지적하고, 이를 해결하기 위한 새로운 방법을 제시합니다. 기존 방식은 데이터 지지 집합 내에서의 SHAP 값 평균을 통해 특징 중요도를 계산하는데, 이는 특징이 함수에 영향을 미치더라도 작은 SHAP 값을 가질 수 있다는 한계를 가지고 있습니다. 본 논문은 데이터 지지 집합을 확장된 지지 집합(marginal 분포들의 곱)으로 확장하여 SHAP 값을 집계함으로써 이 문제를 해결합니다. 확장된 지지 집합 상에서의 작은 SHAP 값 집계는 해당 특징을 안전하게 제거할 수 있음을 보장하며, 이를 KernelSHAP에도 확장 적용합니다. 또한, Shapley Lie algebra를 도입하여 SHAP에 대한 이론적 이해를 높이고, 데이터 행렬의 열을 무작위로 순열하는 방법을 통해 집계된 SHAP 및 KernelSHAP 값 기반의 특징 제거의 안전성을 보장합니다.
