PnPXAI: A Universal XAI Framework Providing Automatic Explanations Across Diverse Modalities and Models
Created by
Haebom
저자
Seongun Kim, Sol A Kim, Geonhyeong Kim, Enver Menadjiev, Chanwoo Lee, Seongwook Chung, Nari Kim, Jaesik Choi
개요
PnPXAI는 다양한 데이터 유형과 신경망 모델을 지원하는 범용 XAI(설명 가능한 인공지능) 프레임워크입니다. 기존 XAI 프레임워크의 한계점인 특정 모델 구조 및 데이터 유형에 대한 종속성, 제한된 XAI 방법 지원, 최적의 설명 추천 부족 등을 해결하기 위해 개발되었습니다. PnPXAI는 플러그 앤 플레이(PnP) 방식으로 모델 구조를 자동으로 감지하고, 적용 가능한 설명 방법을 추천하며, 최적의 설명을 위한 하이퍼파라미터를 최적화합니다. 의료 및 금융 등 다양한 분야에서의 유용성을 사용자 설문조사를 통해 검증하였습니다.
시사점, 한계점
•
시사점:
◦
다양한 데이터 유형과 신경망 모델에 대한 범용적인 XAI 프레임워크 제공
◦
플러그 앤 플레이 방식으로 사용 편의성 향상
◦
자동 모델 구조 감지 및 적용 가능한 설명 방법 추천 기능 제공
◦
최적의 설명을 위한 하이퍼파라미터 최적화 기능 제공
◦
의료, 금융 등 다양한 분야에서의 활용 가능성 증명
•
한계점:
◦
본 논문에서는 구체적인 한계점이 언급되지 않았으므로, 향후 연구를 통해 추가적인 평가 및 개선이 필요할 수 있음. (예: 특정 모델이나 데이터 유형에 대한 성능 저하 가능성, 해석 가능성의 한계 등)
