From Baselines to Transport Geodesics: Axiomatic Attribution via Optimal Generative Flows

작성자

Haebom

카테고리

Empty

저자

Cenwei Zhang, Lin Zhu, Manxi Lin, Lei You

💡 개요

본 논문은 머신러닝 모델의 특징 중요도(feature attribution) 계산 시 발생하는 경로 선택의 모호성 문제를 해결하고자 합니다. 기존 방법론들이 임의의 보간법이나 모델 자체의 민감도에 의존하여 경로를 선택하는 것과 달리, 본 연구에서는 데이터 생성 과정을 반영하는 최적의 경로를 탐색하는 새로운 접근 방식을 제안합니다. 이를 통해 데이터 분포를 변환하는 최적 생성 흐름(optimal generative flow)을 이용하여 특징 중요도를 계산하며, 실험 결과 제안된 방법론이 보다 안정적이고 구조적인 특징 중요도를 생성함을 보여줍니다.

🔑 시사점 및 한계

•

데이터 생성 과정 반영: 특징 중요도 계산에 있어 임의의 경로 대신, 데이터 자체의 생성 과정을 반영하는 최적의 경로를 선택함으로써 모델 설명의 신뢰도를 높일 수 있습니다.

•

수학적 엄밀성 확보: 고정된 경로에서의 특징 중요도 계산에 대해 Aumann-Shapley 선적분을 유일한 규칙으로 증명하고, 최적 경로 선택을 위한 운동 에너지 최소화 원리를 제시하여 방법론의 수학적 기반을 강화했습니다.

•

계산 복잡성 및 근사: 이상적인 최적 생성 흐름을 현실적으로 계산하기 위해 Rectified Flow 및 Reflow와 같은 근사 기법을 사용하였으며, 벡터 필드 오차와 특징 중요도 오차 간의 안정성 한계를 도출하여 근사 방법에 따른 성능 저하 가능성을 시사합니다.

PDF 보기

Made with Slashpage