본 논문은 건설 산업에서 AI 기반 의사결정 지원 시스템(DSS)의 설명가능성 인공지능(XAI) 적용에 대한 연구입니다. AI가 생성한 결과의 신뢰성과 책임성을 뒷받침하는 증거 통합의 부재를 문제 삼고, 내러티브 리뷰를 통해 개발된 이론적이고 증거 기반의 목표-수단 프레임워크를 제시합니다. 이 프레임워크는 사용자의 지식 요구와 의사결정 맥락에 맞춘 의미있는 설명을 생성하는 XAI 기반 DSS 설계를 위한 인식론적 기반을 제공하며, AI 생성 설명을 뒷받침하는 다양한 유형의 증거의 강도, 관련성, 유용성을 평가하는 데 중점을 둡니다. 건설 전문가를 주요 최종 사용자로 개발되었지만, 개발자, 규제 기관, 프로젝트 관리자 등 다양한 인식론적 목표를 가진 사용자에게도 적용 가능합니다.