Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Enhancing Vision Transformer Explainability Using Artificial Astrocytes

Created by
  • Haebom

저자

Nicolas Echevarrieta-Catalan, Ana Ribas-Rodriguez, Francisco Cedron, Odelia Schwartz, Vanessa Aguiar-Pulido

개요

본 논문은 기존의 설명 가능한 인공지능(XAI) 기술의 한계를 극복하기 위해, 신경과학에서 영감을 얻은 새로운 접근 방식인 Vision Transformer with artificial Astrocytes (ViTA)를 제안한다. ViTA는 사전 훈련된 심층 신경망의 추론 능력을 향상시켜 인간의 인지와 더 잘 맞는 설명을 생성하는 훈련이 필요 없는 방법이다. Grad-CAM과 Grad-CAM++을 사용하여 ViTA의 성능을 평가하고, 기존의 Vision Transformer (ViT)와 비교하였다. ClickMe 데이터셋을 사용하여 XAI 기술이 생성한 히트맵과 인간의 인지에 기반한 정답 간의 유사성을 정량화한 결과, ViTA가 모든 XAI 기술과 지표에서 통계적으로 유의미한 개선을 보이며, 모델 설명의 인간 인지와의 정합성을 향상시킨다는 것을 확인하였다.

시사점, 한계점

시사점:
훈련이 필요 없는 새로운 XAI 접근 방식인 ViTA를 제시하여 기존 XAI 기술의 한계를 극복.
신경과학적 원리를 활용하여 심층 신경망의 설명 가능성을 향상시킴.
다양한 XAI 기술과 지표에서 통계적으로 유의미한 성능 향상을 보임.
모델 설명과 인간의 인지 간의 정합성을 향상시킴.
한계점:
제시된 방법론의 일반화 가능성에 대한 추가적인 연구가 필요.
특정 데이터셋(ClickMe)에 대한 평가 결과만 제시되어 다른 데이터셋에서의 성능은 불확실.
인간의 인지에 기반한 정답의 주관성 및 객관성 확보에 대한 논의 부족.
다른 딥러닝 모델에 대한 적용 가능성 및 성능 분석이 부족.
👍