Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Unveiling Hidden Threats: Using Fractal Triggers to Boost Stealthiness of Distributed Backdoor Attacks in Federated Learning

Created by
  • Haebom
Category
Empty

저자

Jian Wang, Hong Shen, Chan-Tong Lam

개요

본 논문은 기존의 분산 백도어 공격(DBA)의 단점인 공격 강도 유지를 위한 과도한 양의 오염된 데이터 필요성을 해결하기 위해, 프랙탈의 자기 유사성을 활용하는 새로운 방법인 프랙탈 트리거 분산 백도어 공격(FTDBA)을 제안한다. FTDBA는 하위 트리거의 특징 강도를 향상시켜 동일한 공격 강도를 유지하기 위해 필요한 오염 데이터 양을 줄인다. 또한, 주파수 및 기울기 영역에서 프랙탈 구조의 탐지 가능성을 해결하기 위해 훈련 단계에 걸쳐 동적 각도 섭동 메커니즘을 도입하여 효율성과 은밀성을 균형 있게 유지한다. 실험 결과 FTDBA는 기존 DBA 방법보다 62.4% 적은 오염 데이터 양으로 92.3%의 공격 성공률을 달성했으며, 탐지율을 22.8% 감소시키고 KL 발산을 41.2% 감소시켰다.

시사점, 한계점

시사점:
프랙탈 특징을 활용하여 백도어 공격의 효율성을 향상시키는 새로운 패러다임 제시.
공격 성공률을 유지하면서 오염 데이터 양을 대폭 감소시켜 노출 위험을 줄임.
동적 각도 섭동 메커니즘을 통해 탐지 가능성을 낮춤.
적대적 샘플 생성에 프랙탈 특징의 적용 범위를 확장.
한계점:
논문에 구체적인 한계점에 대한 언급은 없음. (하지만, 모든 백도어 공격이 그러하듯, 공격 대상 모델 및 데이터에 따라 성능이 달라질 수 있음)
👍