A New Technique for AI Explainability using Feature Association Map

작성자

Haebom

카테고리

Empty

저자

Sayantani Ghosh, Amit Kumar Das, Amlan Chakrabarti

💡 개요

인공지능 시스템의 투명성 부족 문제는 실제 응용 분야에서 신뢰 확보에 어려움을 야기합니다. 본 논문은 특징 간 연관성을 기반으로 하는 Feature Association Map (FAM)을 활용한 새로운 설명 가능 AI(XAI) 알고리즘인 FAMeX를 제안합니다. 실험 결과, FAMeX는 기존 PFI 및 SHAP 알고리즘보다 분류 맥락에서 특징 중요도를 더 잘 측정하여 AI 시스템 예측 설명에 유망함을 보였습니다.

🔑 시사점 및 한계

•

특징 간의 연관성을 명시적으로 모델링하여 AI 결정 설명의 새로운 접근 방식을 제시합니다.

•

분류 작업에서 기존 XAI 기법 대비 우수한 성능을 입증하여 실용적인 설명 가능성 도구로서의 잠재력을 보여줍니다.

•

다양한 유형의 AI 모델 및 데이터셋에 대한 FAMeX의 일반화 성능 및 확장성에 대한 추가 연구가 필요합니다.

PDF 보기

Made with Slashpage