# V-CEM: Bridging Performance and Intervenability in Concept-based Models

### 저자

Francesco De Santis, Gabriele Ciravegna, Philippe Bich, Danilo Giordano, Tania Cerquitelli

### 개요

본 논문은 개념 기반 설명 가능한 AI (C-XAI)에서 개념 병목 모델(CBM)과 개념 임베딩 모델(CEM)의 장단점을 분석하고, 이를 개선한 변분 개념 임베딩 모델(V-CEM)을 제안합니다. CBM은 개념을 중간 단계로 예측하여 개입을 가능하게 하지만, 분포 외(OOD) 설정에서 성능이 떨어지는 한계를 가지고 있습니다. CEM은 분포 내(ID) 정확도를 높이지만, 개입 효과가 감소합니다. V-CEM은 변분 추론을 활용하여 CEM의 개입 반응성을 향상시키고, 다양한 데이터셋에서 ID 성능, ID 및 OOD 설정에서의 개입 반응성, 그리고 제안된 개념 표현 응집성(CRC) 지표를 기반으로 평가합니다. 결과적으로 V-CEM은 CEM 수준의 ID 성능을 유지하면서 OOD 설정에서 CBM과 유사한 개입 효과를 달성하여 설명 가능성(개입)과 일반화(성능) 간의 격차를 줄입니다.

### 시사점, 한계점

- **시사점:**

    - 변분 추론을 활용하여 개념 기반 설명 가능한 AI 모델의 개입 효과를 향상시킬 수 있음을 보여줍니다.

    - 설명 가능성과 성능 간의 trade-off 문제를 해결하는 새로운 접근 방식을 제시합니다.

    - 제안된 CRC 지표는 개념 임베딩의 질적 평가에 유용한 도구가 될 수 있습니다.

    - V-CEM은 분포 내외 설정 모두에서 개입에 대한 효과적인 반응성을 보입니다.

- **한계점:**

    - 제안된 CRC 지표의 일반성과 객관성에 대한 추가 연구가 필요합니다.

    - 다양한 종류의 데이터셋과 모델에 대한 추가적인 실험이 필요합니다.

    - V-CEM의 계산 복잡도에 대한 분석이 부족합니다.

    - 실제 응용 분야에 대한 적용 및 평가가 제한적입니다.

[PDF 보기](https://arxiv.org/pdf/2504.03978)

For the site tree, see the [root Markdown](https://slashpage.com/haebom.md).