본 논문은 오픈소스 파이썬 서로게이트 모델링 툴박스(SMT)를 개선한 SMT-EX를 소개한다. SMT-EX는 블랙박스 함수의 저렴하고 효율적인 근사치를 제공하는 서로게이트 모델에 대한 설명 가능성 기법을 통합한 프레임워크이다. Shapley Additive Explanations, Partial Dependence Plot, Individual Conditional Expectations 세 가지 설명 가능성 기법을 포함하며, 사용자 친화적인 인터페이스를 제공하여 서로게이트 모델 구축 후 간편하게 통찰력을 얻을 수 있도록 한다. 10변수 연속형 변수 항공기 날개 무게 문제와 3변수 혼합 범주형 외팔보 굽힘 문제를 통해 다양한 문제 특성에 대한 SMT-EX의 다양성을 보여준다. SMT-Explainability는 Github에서 공개적으로 이용 가능하다.