본 논문은 인공지능(AI) 기반 자율주행차(AV)의 의사결정 과정에 대한 사용자 이해도 향상을 목표로 한다. 기존 설명 메커니즘이 AI 연구자 및 엔지니어의 시스템 디버깅 및 모니터링에 초점을 맞춘 반면, 본 연구는 탑승객과 같은 최종 사용자의 질문에 집중한다. 두 차례의 사용자 연구를 통해 잠재적 탑승객이 AV 탑승 중 제기할 수 있는 질문들을 조사하고, 해당 질문에 대한 답변이 AV 의사결정에 대한 이해도를 얼마나 향상시키는지 평가했다. 첫 번째 연구는 기존 설명 메커니즘으로 해결하기 어려운 자율주행 AI 관련 질문들을 다양하게 도출했으며, 두 번째 연구는 대화형 텍스트 기반 설명이 단순히 AV 의사결정을 관찰하는 것보다 참가자의 이해도를 효과적으로 향상시킨다는 것을 보여주었다. 이러한 결과는 최종 사용자가 AI 기반 AV 의사결정의 이유에 대해 질문하고 참여하도록 유도하는 상호작용 설계에 대한 시사점을 제공한다.
