본 논문은 대화형 시스템에 AI 기술 통합이 증가하면서 발생하는 블랙박스 문제를 해결하기 위해, 시스템을 구조적 구성 요소의 시퀀스로 개념적으로 표현하는 새로운 접근 방식을 제안합니다. 이 접근 방식은 AI 모델, 제어 메커니즘 등의 구조적 구성 요소와 LIME, SHAP와 같은 XAI 기술을 활용한 설명적 구성 요소를 결합하여 시스템 아키텍처의 투명성을 확보하는 것을 목표로 합니다. 이를 통해 인간과 기계 모두에게 이해 가능한 시스템을 구축하고, 대화형 XAI 분야에 기여하고자 합니다. 제안된 프레임워크는 MATCH(Multi-Agent Transparent and Controllable Human-centered systems)입니다.
