Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

FedGraM: Defending Against Untargeted Attacks in Federated Learning via Embedding Gram Matrix

Created by
  • Haebom

저자

Di Wu, Qian Li, Heng Yang, Yong Han

개요

본 논문은 연합 학습(Federated Learning, FL)에서 표적이 없는 공격(untargeted attacks)으로부터의 강건성을 높이는 새로운 집계 방법인 FedGraM을 제안합니다. 기존 방어 메커니즘의 한계점인 데이터 이질성 문제를 해결하기 위해, FedGraM은 일반화 성능을 측정하는 새로운 지표를 활용합니다. 제한된 데이터를 사용하여 클래스 간 임베딩의 분산 정도를 측정하고, Gram 행렬의 노름을 이용하여 악성 모델을 탐지하고 제거합니다. 서버는 클래스당 하나의 샘플을 포함하는 보조 데이터셋을 유지하며, 이를 이용하여 각 클라이언트 모델의 임베딩을 추출하고 노름을 계산합니다. 노름이 가장 큰 모델을 악성 모델로 판단하고 제거한 후, 나머지 모델을 평균하여 글로벌 모델을 생성합니다. 실험 결과, 제한된 데이터만으로도 기존 최첨단 방어 방법보다 우수한 성능을 보임을 확인했습니다.

시사점, 한계점

시사점:
연합 학습에서 표적이 없는 공격에 대한 효과적인 방어 메커니즘을 제시합니다.
데이터 이질성 문제를 해결하여 실제 환경에서의 적용 가능성을 높였습니다.
제한된 데이터를 사용하여도 우수한 성능을 달성할 수 있음을 보여줍니다.
일반화 성능을 측정하는 새로운 지표를 제시합니다.
한계점:
보조 데이터셋의 구성에 필요한 클래스별 샘플 수에 대한 최적값 설정에 대한 추가 연구가 필요합니다.
다양한 유형의 표적이 없는 공격에 대한 일반화 성능 평가가 추가적으로 필요합니다.
실제 대규모 연합 학습 환경에서의 성능 평가가 필요합니다.
Gram 행렬 노름을 이용한 악성 모델 탐지의 한계점에 대한 분석이 필요합니다.
👍