본 논문은 기계 학습 모델의 해석 가능성 부족 문제를 해결하기 위해, 카운터팩추얼 설명을 기반으로 한 모델 및 도메인에 구애받지 않는 프레임워크인 FLEX (Feature importance from Layered counterfactual EXplanations)를 제안합니다. FLEX는 카운터팩추얼을 활용하여 특징 변화 빈도 점수를 지역적, 광역적, 전역적 수준에서 계산하고, 이를 통해 각 특징이 예측 결과를 바꾸기 위해 얼마나 자주 변경되어야 하는지 나타내는 해석 가능한 순위를 제공합니다. 이 프레임워크는 다양한 카운터팩추얼 생성 방법과 호환되며, 희소성, 실행 가능성, 실행 가능성과 같은 특성을 강조하여 실제 제약 조건에 맞게 특징 중요도를 조정할 수 있습니다. 교통사고 심각도 예측 및 대출 승인 과제에서 FLEX를 평가한 결과, SHAP과 유사한 전역적 순위를 보여주면서 추가적인 요인을 파악하고, 지역적 분석을 통해 전역적 요약에서 놓치는 맥락별 요인을 드러내는 것을 확인했습니다.
