본 논문은 의료 진단 등 복잡한 문제 해결에 AI 시스템의 활용이 증가함에 따라, AI의 '블랙박스' 성격으로 인한 신뢰 부족 문제를 해결하기 위해 시각적 분석(Visual Analytics, VA)을 활용하는 방안을 제시한다. VA는 AI 모델과 상호작용적인 시각화를 결합하여 전문가들이 AI 시스템의 작동 과정을 이해하고 신뢰도를 높일 수 있도록 돕는다. 논문에서는 AI 파이프라인의 각 단계(데이터 처리, 특징 추출, 하이퍼파라미터 튜닝, 모델 이해, 디버깅, 모델 개선 및 비교)에서 VA가 어떻게 신뢰를 구축하는지 정의, 분류하고 탐구하며, 이전에 개발된 VA 대시보드를 개괄적으로 소개한다. AI의 의료 오진 감소 및 경제적 효용(연간 4500억 유로 절감) 잠재력을 강조하며, VA를 통해 AI 채택의 주요 장벽인 불투명성을 해결하고자 한다.
