Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Towards Understanding the Influence of Training Samples on Explanations

Created by
  • Haebom
Category
Empty

저자

Andre Artelt, Barbara Hammer

개요

본 논문은 설명 가능한 AI(XAI)에서 예상치 못한 설명이 발생할 경우, 이를 야기한 훈련 데이터 특성을 이해하고자 데이터 평가 개념을 적용합니다. 기존 데이터 평가는 주로 예측 성능에 초점을 맞추었지만, 본 논문은 모델의 내부 추론 과정에 미치는 개별 훈련 샘플의 영향에 주목합니다. 특히, 계산적 해결책(computational recourse)의 비용에 영향을 미치는 훈련 샘플을 식별하는 새로운 문제를 제시하고, 이를 위한 알고리즘을 제안하며 두 가지 사례 연구를 통해 실증적으로 평가합니다.

시사점, 한계점

시사점:
데이터 평가 개념을 XAI의 설명 분석에 적용하여 모델의 내부 추론 과정에 대한 이해를 높일 수 있는 새로운 방법을 제시합니다.
계산적 해결책 비용에 영향을 미치는 훈련 샘플을 식별하는 알고리즘을 통해, 더욱 신뢰할 수 있고 해석 가능한 AI 시스템 구축에 기여할 수 있습니다.
개별 훈련 데이터의 영향 분석을 통해 데이터 품질 개선 및 노이즈 데이터 제거에 활용될 수 있습니다.
한계점:
제안된 알고리즘의 계산 복잡도 및 확장성에 대한 추가적인 연구가 필요합니다.
다양한 XAI 기법 및 모델에 대한 일반화 가능성을 검증할 필요가 있습니다.
실제 응용 분야에서의 적용 가능성 및 효과에 대한 추가적인 연구가 필요합니다.
👍