IMPACTX: improving model performance by appropriately constraining the training with teacher explanations

Fri, 17 Apr 2026 07:26:27 GMT

### 저자

Andrea Apicella, Salvatore Giugliano, Francesco Isgro, Andrea Pollastro, Roberto Prevete

### 💡 개요

이 연구는 설명 가능한 인공지능(XAI) 기술을 활용하여 AI 모델의 성능을 개선하는 새로운 접근 방식인 IMPACTX를 제안합니다. IMPACTX는 외부 지식이나 인간의 피드백 없이 XAI 결과물을 기반으로 한 자동화된 어텐션 메커니즘을 학습 과정에 통합하여 모델의 성능 향상과 동시에 추론 과정에서 직접적인 설명 기능을 제공합니다. 다양한 딥러닝 모델과 이미지 데이터셋에 대한 실험 결과, IMPACTX는 일관되게 성능을 향상시키고 적절한 설명 맵을 생성하는 것으로 나타났습니다.

### 🔑 시사점 및 한계

- XAI를 단순히 모델의 결정에 대한 설명을 제공하는 것을 넘어, 모델 자체의 성능을 개선하는 도구로 활용할 수 있음을 입증했습니다.

- 외부 개입 없이 완전 자동화된 방식으로 XAI를 어텐션 메커니즘에 통합하여 모델 학습에 적용하는 새로운 방법을 제시했습니다.

- 추론 과정에서 별도의 XAI 방법론 없이도 모델의 결정에 대한 설명 맵을 직접 제공할 수 있어 효율성을 높였습니다.

- 제안된 방법론의 효과가 다양한 딥러닝 모델 및 데이터셋에서 검증되었으나, 다른 종류의 데이터(예: 텍스트, 시계열)나 더 복잡한 모델 아키텍처에서의 적용 가능성 및 효과에 대한 추가 연구가 필요합니다.

[PDF 보기](https://arxiv.org/pdf/2502.12222)