DeTrigger: A Gradient-Centric Approach to Backdoor Attack Mitigation in Federated Learning

작성자

Haebom

카테고리

Empty

저자

Kichang Lee, Yujin Shin, Jonghyuk Yun, Songkuk Kim, Jun Han, JeongGil Ko

💡 개요

연합 학습(FL)은 데이터 프라이버시를 유지하면서 분산된 장치 간의 협업 모델 학습을 가능하게 하지만, 백도어 공격과 같은 모델 독성 공격에 취약합니다. 본 논문은 온도 스케일링을 활용한 경사도 분석을 통해 백도어 트리거를 탐지하고 격리하여, 정상적인 모델 지식을 희생시키지 않으면서 백도어 활성화된 가중치를 정밀하게 가지치기하는 DeTrigger 프레임워크를 제안합니다. DeTrigger는 기존 방법에 비해 최대 251배 빠른 탐지 속도를 보이며, 모델 정확도에 미미한 영향만을 주면서도 백도어 공격을 최대 98.9% 완화합니다.

🔑 시사점 및 한계

•

DeTrigger는 경사도 분석과 온도 스케일링을 통해 연합 학습 환경에서 백도어 공격을 효과적으로 탐지하고 완화할 수 있음을 입증했습니다.

•

제안된 방법론은 백도어 가중치를 정밀하게 제거하면서도 정상적인 모델 성능 저하를 최소화하여 실용적인 적용 가능성을 높였습니다.

•

현재 연구는 주로 특정 유형의 백도어 공격에 초점을 맞추고 있으며, 다양한 공격 벡터에 대한 DeTrigger의 일반화 성능 검증이 향후 연구 과제로 남아있습니다.

PDF 보기

Made with Slashpage