ExplainableGuard: Interpretable Adversarial Defense for Large Language Models Using Chain-of-Thought Reasoning
Created by
Haebom
Category
Empty
저자
Shaowei Guan, Yu Zhai, Zhengyu Zhang, Yanze Wang, Hin Chi Kwok
개요
ExplainableGuard는 DeepSeek-Reasoner의 Chain-of-Thought (CoT) 추론 능력을 활용하여 LLM의 적대적 공격에 대응하는 해석 가능한 방어 프레임워크입니다. 텍스트 내 적대적 교란을 탐지하고 중화할 뿐만 아니라 각 방어 조치에 대한 단계별 설명을 제공합니다. GLUE 벤치마크 및 IMDB 영화 리뷰 데이터셋에 대한 예비 결과는 유망한 방어 효과를 보여줍니다.
시사점, 한계점
•
시사점:
◦
LLM의 적대적 공격에 대한 해석 가능한 방어 메커니즘 제공
◦
CoT 기반 다면 분석을 통한 적대적 교란 탐지 및 중화
◦
방어 조치에 대한 단계별 설명 제공으로 투명성 확보
◦
설명의 명확성, 구체성, 실행 가능성 측면에서 인간 평가에서 우수한 성과
◦
높은 배포 가능성-신뢰도 점수 (72.5%)를 통해 신뢰할 수 있는 LLM 배포 가능성 제시
•
한계점:
◦
GLUE 벤치마크 및 IMDB 영화 리뷰 데이터셋에 대한 예비 결과이므로, 광범위한 데이터셋 및 공격 유형에 대한 검증 필요
◦
DeepSeek-Reasoner에 의존적이므로, 다른 LLM에 대한 일반화 가능성 추가 연구 필요
