본 논문은 기존의 머신러닝 기반 피싱 공격 탐지 시스템의 블랙박스 문제를 해결하기 위해 EXPLICATE 프레임워크를 제시한다. EXPLICATE는 도메인 특화 기능을 사용하는 ML 기반 분류기, LIME과 SHAP을 결합한 이중 설명 계층, 그리고 DeepSeek v3을 이용한 자연어 설명 변환 계층의 세 가지 구성 요소로 이루어져 있다. 실험 결과, EXPLICATE는 98.4%의 정확도를 달성하여 기존 딥러닝 기법과 유사한 성능을 보였으며, 94.2%의 설명 정확도와 96.8%의 일관성을 가진 고품질 설명을 생성한다. GUI 애플리케이션과 Chrome 확장 프로그램으로 구현되어 다양한 환경에서 활용 가능하다.