[공지사항]을 빙자한 안부와 근황 
Show more

Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

FLAIN: Mitigating Backdoor Attacks in Federated Learning via Flipping Weight Updates of Low-Activation Input Neurons

Created by
  • Haebom

저자

Binbin Ding, Penghui Yang, Sheng-Jun Huang

개요

본 논문은 연합 학습(Federated Learning, FL)에서 악성 클라이언트가 모델에 백도어를 심는 공격에 대응하는 새로운 방어 기법인 FLAIN(Flipping Weight Updates of Low-Activation Input Neurons)을 제안합니다. FLAIN은 글로벌 학습 완료 후 보조 데이터셋을 사용하여 활성화가 낮은 입력 뉴런을 식별하고, 해당 뉴런과 관련된 가중치 업데이트를 반복적으로 뒤집는 방식으로 작동합니다. 활성화가 낮은 뉴런의 임계값을 점진적으로 높여가며 보조 데이터셋의 성능 저하가 크게 나타날 때까지 이 과정을 반복합니다. 실험 결과, FLAIN은 다양한 시나리오(Non-IID 데이터 분포, 높은 악성 클라이언트 비율)에서 백도어 공격 성공률을 효과적으로 낮추면서 정상 데이터 성능에는 최소한의 영향만 미치는 것으로 나타났습니다.

시사점, 한계점

시사점:
연합 학습 환경에서 백도어 공격에 대한 효과적인 방어 기법을 제시합니다.
Non-IID 데이터 분포 및 높은 악성 클라이언트 비율에도 효과적임을 실험적으로 증명했습니다.
정상 데이터 성능 저하를 최소화하면서 백도어 공격을 방어합니다.
한계점:
보조 데이터셋의 품질에 따라 방어 성능이 영향을 받을 수 있습니다.
특정 유형의 백도어 공격에 대해서만 효과적일 가능성이 있습니다.
임계값 설정 및 반복 횟수 등 하이퍼파라미터 최적화가 필요할 수 있습니다.
👍