FAME: Formal Abstract Minimal Explanation for Neural Networks

Created by

Haebom

저자

Ryma Boumazouza, Raya Elsaleh, Melanie Ducoffe, Shahaf Bassan, Guy Katz

💡 개요

본 논문은 신경망 모델의 해석 가능성을 높이기 위해 'FAME(Formal Abstract Minimal Explanations)'이라는 새로운 형식적이고 추상적인 최소 설명 기법을 제안합니다. FAME는 추상 해석(abstract interpretation)에 기반하여 대규모 신경망에서도 효율적으로 작동하며, 설명의 크기를 줄이는 데 성공했습니다. 특히, 탐색 순서에 의존하지 않는 전용 퍼터베이션 도메인 설계를 통해 관련 없는 특징을 효과적으로 제거하고 최종적으로 형식적이고 추상적인 최소 설명을 도출합니다.

🔑 시사점 및 한계

•

FAME는 기존 방법론 대비 설명의 크기와 계산 시간을 줄여, 대규모 신경망에서도 효율적인 해석 가능성을 제공합니다.

•

추상 해석 기반의 형식적 접근 방식을 통해 설명의 신뢰성을 높이고, 설명의 최적성을 측정하기 위한 새로운 절차를 제시합니다.

•

제안된 설명 품질 측정 절차가 최악의 경우 거리(worst-case distance)를 측정한다는 점에서, 실제 최소 설명과의 차이에 대한 추가적인 연구가 필요할 수 있습니다.

PDF 보기

Made with Slashpage