본 논문은 자율 주행 자동차의 의사결정 과정에 대한 설명 가능성(explainability)을 높이기 위한 연구를 제시합니다. 딥러닝 기반 자율 주행 시스템의 복잡성으로 인해 사회적 신뢰와 규제 승인에 어려움이 있는 점을 해결하기 위해, 도시 환경에서 자율 주행 차량의 행동에 대한 목적론적(teleological) 설명을 제공하는 모델 독립적인(model-agnostic) 후속 설명(post-hoc explanation) 기법을 제안합니다. Intention-aware Policy Graphs를 기반으로 nuScenes 데이터셋을 활용하여 차량 행동에 대한 해석 가능하고 신뢰할 수 있는 설명을 전역적 및 지역적 관점에서 추출합니다. 제안된 방법은 자율 주행 차량이 법적 한계 내에서 작동하는지 평가하고, 자율 주행 데이터셋 및 모델의 취약점을 식별하는 데 활용될 수 있음을 보여줍니다.