딥 뉴럴 네트워크(DNN)의 해석 가능성을 높이기 위해, 인간이 정의한 개념을 중간 단계로 예측하는 개념 모델(CM), 특히 개념 병목 모델(CBM)을 활용한 연구를 소개한다. CBM은 DNN의 해석 가능성을 향상시키며, 이는 인간-기계 협업 환경에서 인간의 이해를 돕고 신뢰를 구축하는 데 기여한다. 본 논문에서는 CBM을 활용하여 협업 작업 환경에서 인간의 상호 작용을 평가하기 위한 최초의 인간 연구를 수행했다. 그 결과, CBM이 표준 DNN에 비해 해석 가능성을 향상시켜 인간-기계 정렬을 증가시켰지만, 작업 정확도 향상으로 이어지지는 않았다.
