본 논문은 블랙박스 AI 모델의 설명 가능성을 높이기 위한 새로운 시각적 분석 도구 FINCH를 제안한다. 기존의 설명 방법들이 개별 특징의 중요도만을 부여하는 것과 달리, FINCH는 특징 간의 상호작용, 특히 다중 특징이 포함된 고차 상호작용을 시각적으로 보여주는 데 초점을 맞춘다. 개별 인스턴스에 대한 지역적 설명에 중점을 두고, 하위 집합 기반의 시각적 접근 방식을 사용하여 관련 특징 상호작용을 보여준다. 색상 및 강조 표시 기술을 통해 직관적인 시각화를 제공하며, 모델 및 설명에 대한 신뢰도를 조정할 수 있는 추가적인 보기를 제공한다. 다양한 사례 연구와 머신러닝 전문가를 대상으로 한 사용성 연구를 통해 FINCH의 일반성과 유용성을 입증한다.
