Federated Learning in Practice: Reflections and Projections
Created by
- Haebom
Category
Empty
저자
Katharine Daly, Hubert Eichner, Peter Kairouz, H. Brendan McMahan, Daniel Ramage, Zheng Xu
개요
분산 학습(FL)은 여러 기관이 자신의 로컬 데이터를 교환하지 않고 공유 모델을 공동으로 학습할 수 있게 하는 기계 학습 기술입니다. 지난 10년 동안 FL 시스템은 다양한 학습 영역에서 수백만 개의 장치로 확장되는 동시에 의미 있는 차등적 개인 정보 보호(DP) 보장을 제공하면서 상당한 발전을 이루었습니다. Google, Apple, Meta와 같은 조직의 프로덕션 시스템은 FL의 실제 적용 가능성을 보여줍니다. 그러나 서버측 DP 보장 확인 및 이종 장치 간의 교육 조정과 같은 주요 과제가 남아 있어 광범위한 채택을 제한합니다. 또한 대규모(다중 모드) 모델 및 교육, 추론 및 개인화 간의 모호한 경계와 같은 새로운 동향은 기존 FL 프레임워크에 도전 과제를 제시합니다. 이에 따라 본 논문에서는 엄격한 정의보다는 개인 정보 보호 원칙을 우선시하는 재정의된 FL 프레임워크를 제안합니다. 또한 신뢰할 수 있는 실행 환경과 오픈 소스 에코시스템을 활용하여 이러한 과제를 해결하고 FL의 미래 발전을 촉진하는 방향을 제시합니다.
시사점, 한계점
•
시사점:
◦
엄격한 정의보다 개인 정보 보호 원칙을 우선시하는 재정의된 FL 프레임워크 제안
◦
신뢰할 수 있는 실행 환경과 오픈 소스 에코시스템 활용을 통한 FL 발전 방향 제시
◦
대규모 모델 및 다양한 학습 영역에서의 FL 적용 가능성 확인
•
한계점:
◦
서버 측 DP 보장 확인의 어려움
◦
이종 장치 간의 교육 조정의 어려움
◦
대규모(다중 모드) 모델 및 교육, 추론, 개인화 간의 모호한 경계에 대한 명확한 해결책 부재
