An Adaptive Differentially Private Federated Learning Framework with Bi-level Optimization

Created by

Haebom

저자

Jin Wang, Hui Ma, Fei Xing, Ming Yan

💡 개요

본 논문은 연합 학습 환경에서 발생하는 장치 이질성 및 비동등 분포(Non-IID) 데이터 문제로 인한 학습 불안정성과 개인정보 보호 강화를 위한 차분 프라이버시 적용 시 발생하는 성능 저하 문제를 해결하고자 합니다. 이를 위해 클라이언트 측에는 로컬 압축 모듈을 도입하여 그래디언트 변동성을 줄이고, 서버 측에는 동적 그래디언트 클리핑 및 신뢰도 기반 집계 메커니즘을 통해 학습 안정성과 효율성을 높이는 적응형 차분 프라이버시 연합 학습 프레임워크를 제안합니다.

🔑 시사점 및 한계

•

장치 및 데이터 이질성이 높고 차분 프라이버시가 요구되는 복잡한 연합 학습 환경에서도 안정적인 학습 성능을 달성할 수 있음을 보여줍니다.

•

로컬 압축과 적응형 서버 측 최적화 전략을 통해 차분 프라이버시 적용 시 발생하는 노이즈 증폭 및 성능 저하 문제를 효과적으로 완화합니다.

•

CIFAR-10 및 SVHN 데이터셋에서의 실험 결과, 제안된 프레임워크가 기존 방법론 대비 우수한 수렴 안정성과 분류 정확도를 달성했습니다.

•

제안된 방법의 복잡성이 증가함에 따라 실제 서비스에 적용하기 위한 추가적인 계산 효율성 최적화 및 다양한 이질성 시나리오에 대한 추가적인 검증이 필요합니다.

PDF 보기

Made with Slashpage