Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

EXPLICATE: Enhancing Phishing Detection through Explainable AI and LLM-Powered Interpretability

Created by
  • Haebom
Category
Empty

저자

Bryan Lim, Roman Huerta, Alejandro Sotelo, Anthonie Quintela, Priyanka Kumar

개요

본 논문은 기존의 머신러닝 기반 피싱 공격 탐지 시스템의 블랙박스 문제를 해결하기 위해 EXPLICATE 프레임워크를 제시한다. EXPLICATE는 도메인 특화 기능을 사용하는 ML 기반 분류기, LIME과 SHAP을 결합한 이중 설명 계층, 그리고 DeepSeek v3을 이용한 자연어 설명 변환 계층의 세 가지 구성 요소로 이루어져 있다. 실험 결과, EXPLICATE는 98.4%의 정확도를 달성하여 기존 딥러닝 기법과 유사한 성능을 보였으며, 94.2%의 설명 정확도와 96.8%의 일관성을 가진 고품질 설명을 생성한다. GUI 애플리케이션과 Chrome 확장 프로그램으로 구현되어 다양한 환경에서 활용 가능하다.

시사점, 한계점

시사점:
머신러닝 기반 피싱 탐지 시스템의 설명 가능성을 향상시켜 사용자의 신뢰도를 높일 수 있음을 보여줌.
높은 탐지 성능과 의미있는 설명 가능성을 동시에 달성할 수 있음을 증명.
사용자 친화적인 GUI 애플리케이션과 Chrome 확장 프로그램을 통해 실제 환경에서의 적용 가능성을 제시.
AI 시스템과 사용자 간의 신뢰도 향상에 기여.
한계점:
특정 데이터셋에 대한 실험 결과이므로 다른 데이터셋에 대한 일반화 가능성 검증 필요.
LLM을 사용한 자연어 설명의 정확성과 신뢰도에 대한 추가적인 연구 필요.
실제 사용자 환경에서의 장기적인 성능 평가 및 사용자 피드백 수집 필요.
👍