Cette page résume et organise les publications en intelligence artificielle du monde entier. Les contenus sont synthétisés grâce à Google Gemini et le service est proposé à but non lucratif. Les droits d'auteur des articles appartiennent à leurs auteurs ou institutions respectives ; en cas de partage, il suffit d'en mentionner la source.
Apprentissage fédéré efficace avec données hétérogènes et abandon adaptatif
Created by
Haebom
Auteur
Ji Liu, Beichen Ma, Qiaolin Yu, Ruoming Jin, Jingbo Zhou, Yang Zhou, Huaiyu Dai, Haixun Wang, Dejing Dou, Patrick Valduriez
Contour
Dans cet article, nous proposons un cadre FedDHAD pour résoudre les problèmes de dégradation des performances causés par l'hétérogénéité des données et les ressources limitées des périphériques en apprentissage fédéré (FL). FedDHAD combine deux nouvelles méthodes : l'agrégation dynamique de modèles hétérogènes (FedDH) et l'abandon adaptatif (FedAD). FedDH ajuste dynamiquement les pondérations de chaque modèle local en fonction du degré d'hétérogénéité des données afin de résoudre le problème des données non IID, et FedAD effectue des calculs adaptatifs au niveau neuronal en fonction des périphériques hétérogènes pour améliorer la précision et l'efficacité. Les résultats expérimentaux montrent que FedDHAD surpasse les méthodes de pointe existantes en termes de précision (jusqu'à 6,7 % d'amélioration), d'efficacité (jusqu'à 2,02 x d'amélioration) et de coût de calcul (jusqu'à 15,0 % de réduction).
Takeaways, Limitations
•
Takeaways:
◦
Nous présentons un nouveau cadre qui aborde efficacement l’hétérogénéité des données et les ressources limitées des appareils périphériques dans l’apprentissage fédéré.
◦
Combinaison de FedDH et FedAD pour améliorer simultanément la précision, l'efficacité et le coût de calcul.
◦
Surmonter les limites de performance de l’apprentissage fédéré existant et accroître son applicabilité pratique.
•
Limitations:
◦
Les performances de la méthode proposée peuvent dépendre d’ensembles de données et d’environnements spécifiques.
◦
Des expériences et des analyses supplémentaires sont nécessaires pour différents types d’appareils périphériques et d’environnements réseau.
◦
Des recherches supplémentaires sont nécessaires sur l’optimisation des hyperparamètres de FedDH et FedAD.
