Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Correlation-Aware Feature Attribution Based Explainable AI

Created by
  • Haebom
Category
Empty

저자

Poushali Sengupta, Yan Zhang, Frank Eliassen, Sabita Maharjan

개요

본 논문은 설명 가능한 인공지능(XAI)의 필요성이 증가함에 따라, 복잡한 모델과 높은 위험성을 가진 애플리케이션에서 투명성, 신뢰성, 규제 준수를 충족하기 위한 새로운 접근 방식을 제시한다. ExCIR (Explainability through Correlation Impact Ratio)이라는 상관 관계를 고려한 속성 점수를 제안하며, 데이터를 부분적으로 사용하여 전체 모델 순위를 재현하는 가벼운 전송 프로토콜을 갖추고 있다. ExCIR은 특징과 모델 출력 간의 부호 정렬된 공통 움직임을 정량화하며, BlockCIR은 ExCIR의 그룹별 확장으로, 상관 관계가 있는 특징 집합을 단일 단위로 평가한다. 이 방법은 다양한 데이터셋에서 기존 방법과 일치하는 결과를 보이며, 효율적인 계산, 일관성, 확장성을 제공한다.

시사점, 한계점

시사점:
계산 효율성이 높음.
일관성 있는 결과를 제공.
확장성이 뛰어나 실제 적용에 적합.
다양한 데이터셋 (텍스트, 표 형식, 신호, 이미지)에 적용 가능.
기존 XAI 방법론과의 신뢰할 만한 일치도.
상관 관계를 고려하여 collinearity 문제를 완화.
한계점:
논문에 구체적인 한계점에 대한 언급은 없음. (하지만, 논문의 abstract만으로는 자세한 한계점을 파악하기 어려움.)
👍