A Comprehensive Survey on Self-Interpretable Neural Networks
Created by
Haebom
Category
Empty
저자
Yang Ji, Ying Sun, Yuting Zhang, Zhigaoyuan Wang, Yuanxin Zhuang, Zheng Gong, Dazhong Shen, Chuan Qin, Hengshu Zhu, Hui Xiong
개요
본 논문은 신경망의 해석 불가능성 문제를 해결하기 위해 등장한 자기 해석 가능한 신경망(self-interpretable neural networks)에 대한 종합적인 조사를 제공합니다. 기존의 사후 해석 가능성(post-hoc interpretability) 방법론의 한계를 지적하며, 모델 구조 자체를 통해 예측 근거를 드러내는 자기 해석 가능한 신경망에 대한 연구를 체계적으로 검토합니다. 구체적으로, 귀속 기반(attribution-based), 함수 기반(function-based), 개념 기반(concept-based), 원형 기반(prototype-based), 규칙 기반(rule-based) 등 다섯 가지 주요 관점에서 기존 연구들을 분류하고 요약합니다. 이미지, 텍스트, 그래프 데이터, 심층 강화 학습 등 다양한 분야에서의 적용 사례와 시각적 예시를 제시하며, 자기 해석 가능성을 위한 평가 지표들을 정리하고 향후 연구 과제를 제시합니다. 마지막으로, 이 분야의 발전을 추적하기 위한 공개 자료(https://github.com/yangji721/Awesome-Self-Interpretable-Neural-Network)를 제공합니다.
시사점, 한계점
•
시사점:
◦
자기 해석 가능한 신경망에 대한 최초의 종합적이고 체계적인 조사 제공.
◦
다섯 가지 주요 관점에서의 방법론 분류 및 요약을 통한 연구 분야의 명확한 이해 증진.
◦
다양한 데이터 유형 및 응용 분야에 대한 적용 사례 및 시각적 예시 제시.
◦
자기 해석 가능성 평가 지표의 정리 및 향후 연구 방향 제시.
◦
관련 연구를 추적할 수 있는 공개 자료 제공.
•
한계점:
◦
본 논문에서 제시된 분류 체계가 모든 자기 해석 가능한 신경망 연구를 완벽하게 포괄하지 못할 수 있음.
◦
새로운 방법론들이 지속적으로 등장하고 있으므로, 본 논문의 내용이 빠르게 구식이 될 가능성 존재.
◦
자기 해석 가능성 평가 지표에 대한 논의가 충분하지 않을 수 있음. 객관적이고 표준화된 평가 방법에 대한 추가 연구 필요.
