# Learning Quantifiable Visual Explanations Without Ground-Truth

### 저자

Amritpal Singh, Andrey Barsky, Mohamed Ali Souibgui, Ernest Valveny, Dimosthenis Karatzas

### 💡 개요

본 논문은 설명 가능한 AI(XAI) 방법론의 품질을 정량적으로 평가하기 어려운 기존 문제를 해결하기 위해, 입력값 변화에 따른 모델 반응을 기반으로 한 새로운 평가 프레임워크를 제안합니다. 제안된 방법은 설명 정보의 충분성과 필요성을 공식화하여 모델 결정에 대한 기여도를 평가하며, 이는 기존 평가 방식보다 인간의 직관과 더 잘 부합함을 보여줍니다. 더 나아가, 이 평가 지표를 활용하여 모델 성능 저하 없이 인과적 설명을 생성하는 새로운 XAI 방법론을 제시하고, 실험 결과 이를 통해 생성된 설명이 경쟁 기법들보다 우수함을 입증합니다.

### 🔑 시사점 및 한계

- **정량적 XAI 평가 프레임워크 구축**: 기존 XAI 방법론의 품질 평가에 대한 객관적이고 정량적인 기준을 제시하여 연구 및 실무에 기여합니다.

- **인간 직관과의 부합성 증진**: 제안된 평가 방식이 인간의 설명 품질에 대한 직관과 더 잘 일치함을 보여, XAI 방법론의 실제 적용 가능성을 높입니다.

- **성능 저하 없는 인과적 설명 생성**: 제안된 XAI 방법론은 기존 모델의 성능을 유지하면서도 더 우수한 품질의 인과적 설명을 생성할 수 있음을 보여줍니다.

- **평가 프레임워크의 일반화 및 적용 범위**: 제안된 평가 프레임워크와 방법론이 다양한 종류의 XAI 방법론 및 모델에 대해 얼마나 잘 일반화되고 적용될 수 있는지 추가적인 검증이 필요합니다.

[PDF 보기](https://arxiv.org/pdf/2605.18681)

For the site tree, see the [root Markdown](https://slashpage.com/haebom.md).