Formal Abductive Latent Explanations for Prototype-Based Networks
Created by
Haebom
Category
Empty
저자
Jules Soria, Zakaria Chihani, Julien Girard-Satabin, Alban Grastien, Romain Xu-Darme, Daniela Cancila
개요
Case-based reasoning networks는 입력과 훈련 샘플의 프로토타입 간의 유사성을 기반으로 예측을 수행하는 기계 학습 모델입니다. 이러한 모델은 최종 결과에 가장 크게 기여한 프로토타입을 지적하여 각 결정을 설명할 수 있습니다. 본 논문에서는 이러한 설명이 오해의 소지가 있을 수 있으며, 특히 여러 인스턴스가 다른 예측을 하면서 동일한 설명을 가질 수 있음을 보입니다. 본 논문은 Formal Explainable AI (FXAI)에서 영감을 받아 예측을 암시하는 인스턴스의 중간(잠재) 표현에 대한 충분 조건을 표현하는 형식주의인 Abductive Latent Explanations (ALEs)를 제안합니다. 이 접근 방식은 사례 기반 추론 모델의 고유한 해석 가능성과 공식 XAI가 제공하는 보증을 결합합니다. 세 가지 뚜렷한 패러다임을 기반으로 ALE를 생성하기 위한 솔버 없는 확장 가능한 알고리즘을 제안하고, 이를 비교하며, 표준 및 세분화된 이미지 분류 모두에 대해 다양한 데이터 세트에 대한 접근 방식의 타당성을 제시합니다.
시사점, 한계점
•
Case-based reasoning networks의 설명이 오해의 소지가 있을 수 있음을 지적하고, 안전에 중요한 컨텍스트에서 유용성을 저해함을 보임.
•
FXAI에서 영감을 얻어 예측을 암시하는 중간 표현에 대한 충분 조건을 표현하는 ALE라는 새로운 형식주의를 제안.
•
ALE를 생성하기 위한 솔버 없는 확장 가능한 알고리즘을 제안하고, 세 가지 패러다임을 비교하여 제시.
•
표준 및 세분화된 이미지 분류 데이터 세트에 대한 접근 방식의 타당성을 입증.
•
(한계점은 논문에 명시적으로 언급되지 않았으므로, 일반적인 기계 학습 모델의 한계점 및 추후 연구 과제로 추론 가능)
