Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Robust Federated Learning under Adversarial Attacks via Loss-Based Client Clustering

Created by
  • Haebom

저자

Emmanouil Kritharakis, Dusan Jakovetic, Antonios Makris, Konstantinos Tserpes

개요

본 논문은 연합 학습(Federated Learning, FL)에서 비잔틴 공격(Byzantine attacks)에 대한 강건성을 높이는 새로운 알고리즘을 제안합니다. 기존 연합 학습에서는 개별 클라이언트의 데이터가 공유되지 않지만, 악의적인 클라이언트(Byzantine clients)의 공격에 취약합니다. 본 논문에서는 신뢰할 수 있는 서버와 하나의 신뢰할 수 있는 클라이언트만 존재한다는 가정하에, 서버가 보유한 신뢰할 수 있는 데이터셋을 활용하여 악의적인 클라이언트의 공격에도 강건한 연합 학습 알고리즘을 제시합니다. 이 알고리즘은 악의적인 클라이언트의 수를 미리 알 필요 없이 작동하며, 이론적 분석과 실험 결과를 통해 기존의 강건한 연합 학습 알고리즘들(Mean, Trimmed Mean, Median, Krum, Multi-Krum)보다 우수한 성능을 보임을 보여줍니다. MNIST, FMNIST, CIFAR-10 데이터셋을 사용한 실험에서 레이블 뒤집기, 부호 뒤집기, 가우시안 노이즈 추가 등 다양한 공격 전략에 대해 효과적으로 방어하는 모습을 보였습니다.

시사점, 한계점

시사점:
신뢰할 수 있는 서버와 단 하나의 클라이언트만으로도 악의적인 클라이언트의 공격으로부터 연합 학습을 보호할 수 있는 가능성을 제시합니다.
기존의 강건한 연합 학습 알고리즘보다 높은 성능과 강건성을 제공합니다.
다양한 공격 유형에 효과적으로 대응할 수 있음을 실험적으로 증명합니다.
한계점:
신뢰할 수 있는 서버와 적어도 하나의 신뢰할 수 있는 클라이언트가 필요하다는 가정이 실제 환경에서는 항상 만족되지 않을 수 있습니다.
서버가 보유한 신뢰할 수 있는 데이터셋의 크기와 질에 따라 알고리즘의 성능이 영향을 받을 수 있습니다.
더욱 복잡하고 정교한 공격 전략에 대한 강건성을 추가적으로 검증해야 합니다.
👍