Daily Arxiv

Cette page résume et organise les publications en intelligence artificielle du monde entier.
Les contenus sont synthétisés grâce à Google Gemini et le service est proposé à but non lucratif.
Les droits d'auteur des articles appartiennent à leurs auteurs ou institutions respectives ; en cas de partage, il suffit d'en mentionner la source.

Surmonter le changement d'étiquette grâce à l'apprentissage fédéré axé sur les cibles

Created by
  • Haebom

Auteur

Edvin Listo Zec, Adam Breitholtz, Fredrik D. Johansson

Contour

Cet article propose une nouvelle méthode d'agrégation de modèles, FedPALS, pour remédier à la dégradation des performances causée par le décalage d'étiquettes entre les domaines client et cible dans l'apprentissage fédéré. FedPALS exploite les informations de distribution d'étiquettes provenant d'un serveur central pour ajuster l'agrégation du modèle en fonction du domaine cible, obtenant ainsi une généralisation robuste sur diverses données client avec décalage d'étiquettes. FedPALS garantit des mises à jour sans distorsion en descente de gradient stochastique fédérée (SGD), et des expériences approfondies sur des tâches de classification d'images démontrent ses performances supérieures aux méthodes existantes. Plus précisément, nous démontrons que les méthodes d'apprentissage fédéré existantes subissent une dégradation importante des performances lorsque les étiquettes client sont très insuffisantes, soulignant l'importance de l'agrégation sensible au domaine cible proposée par FedPALS.

Takeaways, Limitations

Takeaways:
Démontrer empiriquement la gravité du problème de changement d’étiquette dans l’apprentissage fédéré.
Proposition de FedPALS, une méthode d'agrégation de modèles efficace pour résoudre le problème de décalage d'étiquette.
Adaptabilité améliorée du domaine cible en utilisant les informations de distribution d'étiquettes du serveur central.
Souligne la nécessité de prendre en compte la rareté des étiquettes dans les données client.
Une méthode permettant de surmonter les limites des méthodes d’apprentissage fédérées existantes et d’améliorer leurs performances est présentée.
Limitations:
Une validation supplémentaire des performances de généralisation de la méthode proposée est nécessaire (des expériences sur divers ensembles de données et scénarios sont nécessaires).
Dépendance à l'exactitude des informations de distribution d'étiquettes provenant du serveur central (nécessite une analyse de l'impact des informations de distribution d'étiquettes erronées).
Une analyse des coûts de calcul et des frais de communication est nécessaire.
Des recherches supplémentaires sont nécessaires sur l’applicabilité et la praticité dans des environnements d’application réels.
👍