Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Robust Federated Learning Against Poisoning Attacks: A GAN-Based Defense Framework

Created by
  • Haebom
Category
Empty

저자

Usama Zafar, Andre Teixeira, Salman Toor

개요

본 논문은 분산된 장치에서 원시 데이터 공유 없이 협업 모델 학습을 가능하게 하는 연합 학습(FL)의 모델 무결성을 손상시키는 독성 공격에 대한 취약성을 해결하는 새로운 방어 프레임워크를 제안합니다. 기존 방어는 외부 데이터셋이나 사전 정의된 휴리스틱(예: 악성 클라이언트 수)에 의존하여 효율성과 확장성이 제한적이었습니다. 이러한 한계를 해결하기 위해, 본 논문에서는 클라이언트 업데이트를 인증하기 위해 서버에서 조건부 생성적 적대 신경망(cGAN)을 활용하여 합성 데이터를 생성하는 프라이버시 보존 방어 프레임워크를 제시합니다. 이 프레임워크는 확장 가능하고 적응력이 뛰어나며 FL 워크플로우에 원활하게 통합됩니다. 벤치마크 데이터셋에 대한 광범위한 실험은 다양한 독성 공격에 대한 강력한 성능을 보여주며, 모델 정확도를 유지하면서 악성 및 양성 클라이언트에 대해 높은 진양성률(TPR)과 진음성률(TNR)을 달성합니다. 제안된 프레임워크는 연합 학습 시스템을 보호하기 위한 실용적이고 효과적인 솔루션을 제공합니다.

시사점, 한계점

시사점:
외부 데이터셋 없이 cGAN을 활용하여 연합 학습에서의 독성 공격 방어가 가능함을 보여줍니다.
확장 가능하고 적응력 있는 프라이버시 보존 방어 프레임워크를 제시합니다.
높은 TPR과 TNR을 달성하며 모델 정확도를 유지하는 효과적인 성능을 보입니다.
연합 학습 시스템 보안을 위한 실용적인 솔루션을 제공합니다.
한계점:
cGAN의 성능이 합성 데이터의 품질에 의존적일 수 있습니다.
다양한 유형의 독성 공격에 대한 일반화 성능에 대한 추가적인 연구가 필요할 수 있습니다.
실제 환경에서의 적용 가능성 및 성능 평가에 대한 추가 연구가 필요합니다.
👍