Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

ITL-LIME: Instance-Based Transfer Learning for Enhancing Local Explanations in Low-Resource Data Settings

Created by
  • Haebom

저자

Rehan Raza, Guanjin Wang, Kok Wai Wong, Hamid Laga, Marco Fisichella

개요

본 논문은 데이터 부족 환경에서의 설명 가능한 인공지능(XAI) 방법의 신뢰성 및 안정성 문제를 해결하기 위해, 인스턴스 기반 전이 학습을 LIME 프레임워크에 통합한 ITL-LIME(Instance-based Transfer Learning LIME)을 제안합니다. 기존 LIME의 무작위 섭동 및 샘플링으로 인한 지역성 및 불안정성 문제를 해결하기 위해, 관련 소스 도메인의 실제 인스턴스를 활용하여 타겟 도메인의 설명 과정을 보조합니다. 소스 도메인을 클러스터링하고, 타겟 인스턴스와 가장 유사한 프로토타입을 가진 클러스터에서 관련 인스턴스를 검색하여 타겟 인스턴스의 이웃 인스턴스와 결합합니다. 대조 학습 기반 인코더를 사용하여 인스턴스 가중치를 부여하고, 가중치가 부여된 소스 및 타겟 인스턴스를 사용하여 대리 모델을 학습하여 설명을 생성합니다.

시사점, 한계점

시사점:
데이터 부족 환경에서 LIME의 설명 신뢰성 및 안정성 향상
전이 학습을 활용한 새로운 LIME 프레임워크 제시
대조 학습 기반 가중치 부여 방식을 통한 설명 정확도 개선
실제 데이터를 활용한 섭동 방식으로 현실적인 설명 생성
한계점:
소스 도메인과 타겟 도메인 간의 유사성에 대한 의존성
클러스터링 및 프로토타입 선택 방식에 대한 성능 민감성
대조 학습 기반 인코더의 성능에 대한 의존성
다양한 유형의 데이터 및 모델에 대한 일반화 성능 검증 필요
👍