Unlocking the Value of Decentralized Data: A Federated Dual Learning Approach for Model Aggregation
Created by
Haebom
Category
Empty
저자
Junyi Zhu, Ruicong Yao, Taha Ceritli, Savas Ozkan, Matthew B. Blaschko, Eunchung Noh, Jeongwon Min, Cho Jung Min, Mete Ozay
개요
본 논문은 분산된 데이터에서 AI 모델을 학습하는 연합 학습(Federated Learning, FL)의 효율성을 높이는 새로운 이중 학습 접근 방식을 제안합니다. 기존 FL 방식은 데이터 분포의 이질성과 통신 지연으로 중앙 집중식 학습의 성능에 미치지 못하는 한계를 가지고 있습니다. 본 논문에서는 서버가 일부 데이터에 접근하고 나머지 데이터는 클라이언트에 분산되어 있는 하이브리드 데이터 환경에 주목합니다. 서버의 중앙 데이터를 활용하여 클라이언트의 모델 업데이트를 효과적으로 병합하는 이중 학습 방식을 통해 데이터 이질성 문제를 해결하고 비동기적 통신을 용이하게 합니다. 서버 데이터가 클라이언트 데이터와 도메인이 다를 경우에도 적용 가능하며, 이론적 분석과 실험 결과를 통해 기존 방식보다 빠른 수렴 속도와 향상된 성능을 보임을 입증합니다.
