Exploring Gradient-Guided Masked Language Model to Detect Textual Adversarial Attacks
Created by
Haebom
저자
Xiaomei Zhang, Zhaoxi Zhang, Yanjun Zhang, Xufei Zheng, Leo Yu Zhang, Shengshan Hu, Shirui Pan
개요
본 논문은 자연어 처리 시스템의 신뢰성에 심각한 위협이 되는 텍스트 기반 적대적 예시에 대해 다룹니다. 기존 연구에서 적대적 예시는 일반 텍스트의 기저 다양체에서 벗어나는 경향이 있고, 사전 훈련된 마스크 언어 모델은 일반 데이터의 다양체를 근사할 수 있다는 것을 제시합니다. 이러한 발견을 바탕으로 마스크 언어 모델을 이용한 텍스트 적대적 공격 탐지를 연구합니다. 먼저 마스크 언어 모델링(MLM) 목표의 마스크 및 언마스크 연산을 활용하여 일반 텍스트와 적대적 텍스트 간의 다양체 변화 차이를 유도하는 마스크 언어 모델 기반 탐지(MLMD)를 제시합니다. MLMD는 경쟁력 있는 탐지 성능을 달성하지만, 하나씩 마스크 처리하는 방식으로 인해 상당한 계산 비용이 발생합니다. 후속 분석 결과, 입력 문장의 많은 비핵심 단어들이 탐지에는 중요하지 않지만 자원을 소모하는 것으로 나타났습니다. 이를 바탕으로 기울기 정보를 활용하여 탐지 과정에서 비핵심 단어를 식별하고 건너뛰어 자원 소모를 크게 줄이면서 탐지 성능은 유지하는 기울기 유도 MLMD(GradMLMD)를 제시합니다.
시사점, 한계점
•
시사점:
◦
마스크 언어 모델을 이용한 효과적인 텍스트 적대적 공격 탐지 방법 제시 (MLMD).
◦
기울기 정보 활용으로 계산 비용을 크게 줄이면서 성능을 유지하는 개선된 방법 (GradMLMD) 제시.
◦
적대적 예시 탐지에서 마스크 언어 모델의 활용 가능성을 보여줌.
•
한계점:
◦
MLMD의 계산 비용이 높다는 점을 GradMLMD가 해결했지만, GradMLMD의 성능이 다양한 적대적 공격 유형에 대해 얼마나 일반화될 수 있는지 추가적인 연구가 필요함.
◦
특정 마스크 언어 모델에 의존적인 부분이 존재할 가능성이 있음. 다양한 MLM 모델에 대한 성능 평가가 필요함.
