LSHFed: Robust and Communication-Efficient Federated Learning with Locally-Sensitive Hashing Gradient Mapping
Created by
Haebom
Category
Empty
저자
Guanjie Cheng, Mengzhen Yang, Xinkui Zhao, Shuyi Yu, Tianyu Du, Yangyang Wu, Mengying Zhu, Shuiguang Deng
개요
분산 노드 간의 협업 모델 훈련을 가능하게 하는 연합 학습(FL)은 원시 데이터 노출 없이 이루어지지만, 신뢰가 부족한 환경에서 취약하다. LSHFed는 집계 견고성과 개인 정보 보호를 동시에 향상시키는, 통신 효율적인 FL 프레임워크이다. LSHFed는 다중 하이퍼플레인 국소 민감 해싱을 통해 고차원 기울기를 압축된 이진 표현으로 투영하는 새로운 기울기 검증 메커니즘인 LSHGM을 통합한다. 이는 기울기의 돌이킬 수 없는 해시 형태만 사용하여 악성 기울기를 정확하게 감지하고 필터링할 수 있도록 하여, 개인 정보 유출 위험을 완화하고 전송 오버헤드를 크게 줄인다.
시사점, 한계점
•
시사점:
◦
악의적인 참여자가 최대 50%인 경우에도 높은 모델 성능 유지.
◦
전체 기울기 방식에 비해 기울기 검증 통신량을 최대 1000배까지 줄임.
◦
개인 정보 유출 위험 완화 및 전송 오버헤드 감소.
•
한계점:
◦
논문 내에서 구체적인 한계점 언급 없음. (하지만 논문의 성격상, LSHGM의 해시 기반 특성으로 인한 정보 손실 가능성, LSH의 매개변수 설정에 따른 성능 변화, 특정 공격 유형에 대한 취약성 등이 잠재적 한계점으로 추론 가능)
