Invisible Textual Backdoor Attacks based on Dual-Trigger
Created by
Haebom
저자
Yang Hou, Qiuling Yue, Lujia Chai, Guozhao Liao, Wenbao Han, Wei Ou
개요
본 논문은 텍스트 기반 대규모 언어 모델(LLM)에 대한 백도어 공격의 중요한 보안 위협을 다룹니다. 기존의 단일 트리거 기반 텍스트 백도어 공격 방식은 방어 전략에 쉽게 식별되거나 공격 성능 및 악성 데이터셋 구축에 한계를 가지는 문제점을 지니고 있습니다. 이를 해결하기 위해 본 논문에서는 구문과 법조문(조건절)과 같은 두 가지 서로 다른 속성을 트리거로 활용하는 이중 트리거 백도어 공격 방법을 제안합니다. 이 방법은 마치 두 개의 지뢰를 설치하는 것과 같이 완전히 다른 트리거 조건을 동시에 가지므로 트리거 방식의 유연성을 향상시키고 방어 탐지에 대한 강건성을 높입니다. 실험 결과, 제안된 방법은 기존의 추상적 특징 기반 방법보다 공격 성능이 훨씬 뛰어나며, 삽입 기반 방법과 거의 비슷한(거의 100% 성공률) 공격 성능을 달성합니다. 더 나아가 공격 성능을 향상시키기 위한 악성 데이터셋 구축 방법도 제시합니다. 코드와 데이터는 https://github.com/HoyaAm/Double-Landmines 에서 확인할 수 있습니다.
