SAInT는 파이썬 기반 도구로, 통합된 지역 및 전역 민감도 분석을 통해 머신러닝(ML) 모델의 동작을 시각적으로 탐색하고 이해하는 데 사용됩니다. 사용자(AI 연구자 및 도메인 전문가 모두)가 프로그래밍 없이 대화형 그래픽 인터페이스를 통해 모델을 구성, 훈련, 평가 및 설명할 수 있도록 Human-in-the-Loop(HITL) 워크플로우를 지원합니다. 모델 훈련 및 선택을 자동화하고, 분산 기반 민감도 분석을 사용하여 전역적 특징 기여도를 제공하며, LIME 및 SHAP을 통해 인스턴스별 설명을 제공합니다. 타이타닉 데이터셋에서 생존 예측 분류 작업에 시스템을 시연하고 민감도 정보가 특징 선택 및 데이터 개선을 안내하는 방법을 보여줍니다.
