Weight space Detection of Backdoors in LoRA Adapters

Created by

Haebom

저자

David Puertolas Merenciano, Ekaterina Vasyagina, Raghav Dixit, Kevin Zhu, Ruizhe Li, Javier Ferrando, Maheep Chaudhary

💡 개요

이 연구는 대규모 언어 모델(LLM)을 효율적으로 미세 조정하는 LoRA 어댑터의 백도어 공격 취약성을 탐구합니다. 제안된 방법은 모델을 실행하지 않고 어댑터의 가중치 행렬 자체를 분석하여 백도어를 탐지하며, 이를 통해 데이터에 독립적인 접근 방식을 제공합니다. singular 값의 집중도, 엔트로피, 분포 형태와 같은 단순한 통계를 추출하여 정상 패턴에서 벗어나는 어댑터를 식별함으로써 높은 탐지 정확도와 낮은 오탐율을 달성했습니다.

🔑 시사점 및 한계

•

LoRA 어댑터의 백도어 공격 위험성을 효과적으로 탐지할 수 있는 새로운 데이터 불가지론적 방법론을 제시합니다.

•

모델 실행 없이 가중치 공간 분석을 통해 대규모 어댑터 스크리닝의 실용성을 크게 향상시킵니다.

•

제안된 방법론의 탐지 성능을 다양한 Llama-3.2-3B 기반 데이터셋에서 검증하여 높은 정확도를 입증했습니다.

•

훈련 데이터셋의 분포나 특정 백도어 트리거에 대한 사전 지식 없이도 작동하지만, 잠재적으로 새로운 유형의 백도어 공격에 대한 탐지 능력은 추가적인 연구가 필요합니다.

PDF 보기

Made with Slashpage