GRALIS: A Unified Canonical Framework for Linear Attribution Methods via Riesz Representation

작성자

Haebom

카테고리

Empty

저자

Raimondo Fanale

💡 개요

본 연구는 딥러닝 모델의 설명 가능성(XAI)에서 사용되는 다양한 기여도 분석 방법론(GradCAM, SHAP, LIME, Integrated Gradients 등)들이 각각 다른 이론적 기반을 가지는 문제를 해결하기 위해 GRALIS라는 통일된 수학적 프레임워크를 제안합니다. GRALIS는 Riesz 표현 정리를 기반으로 선형적이고 연속적인 기여도 함수에 대한 고유한 표현 이론을 제시하며, 이를 통해 기존 방법론들을 통합하고 동시에 여러 정량적 보장을 제공합니다.

🔑 시사점 및 한계

•

통합된 이론적 기반 제공: GRALIS는 서로 다른 기여도 분석 방법론들을 하나의 프레임워크로 통합하여, 각 방법론의 장점을 결합하고 일관성 있는 비교 및 분석을 가능하게 합니다.

•

엄격한 수학적 보장: Riesz 표현 정리를 통해 제안된 프레임워크는 완전성, 수렴성, Shapley 상호작용 값, ANOVA 분해, 민감도 일반화 등 7가지 형식적 정리를 통해 강력한 이론적 보장을 제공합니다.

•

향상된 공리적 속성 충족: GRALIS는 기존 개별 방법론들이 충족하지 못하는 다수의 공리적 속성을 동시에 만족시켜, 보다 신뢰성 높고 종합적인 설명력을 제공합니다.

•

비선형 기여도 분석의 한계: GRALIS는 선형적이고 연속적인 기여도 함수에 대해서만 적용 가능하며, 표준 GradCAM이나 어텐션 맵과 같은 비선형적인 함수에는 직접적으로 적용되지 않습니다.

PDF 보기

Made with Slashpage