본 논문은 개념 기반 설명 가능한 AI (C-XAI)에서 개념 병목 모델(CBM)과 개념 임베딩 모델(CEM)의 장단점을 분석하고, 이를 개선한 변분 개념 임베딩 모델(V-CEM)을 제안합니다. CBM은 개념을 중간 단계로 예측하여 개입을 가능하게 하지만, 분포 외(OOD) 설정에서 성능이 떨어지는 한계를 가지고 있습니다. CEM은 분포 내(ID) 정확도를 높이지만, 개입 효과가 감소합니다. V-CEM은 변분 추론을 활용하여 CEM의 개입 반응성을 향상시키고, 다양한 데이터셋에서 ID 성능, ID 및 OOD 설정에서의 개입 반응성, 그리고 제안된 개념 표현 응집성(CRC) 지표를 기반으로 평가합니다. 결과적으로 V-CEM은 CEM 수준의 ID 성능을 유지하면서 OOD 설정에서 CBM과 유사한 개입 효과를 달성하여 설명 가능성(개입)과 일반화(성능) 간의 격차를 줄입니다.
