[공지사항]을 빙자한 안부와 근황 
Show more

Daily Arxiv

Cette page résume et organise les publications en intelligence artificielle du monde entier.
Les contenus sont synthétisés grâce à Google Gemini et le service est proposé à but non lucratif.
Les droits d'auteur des articles appartiennent à leurs auteurs ou institutions respectives ; en cas de partage, il suffit d'en mentionner la source.

FedRef : Réglage fin bayésien efficace en communication avec un modèle de référence

Created by
  • Haebom

Auteur

Taehwan Yoon, Bongjun Choi

Contour

Cet article propose une méthode d'apprentissage fédéré basée sur un modèle de référence afin d'améliorer les performances des modèles d'apprentissage fédéré (AF). L'apprentissage fédéré existant présente des avantages en termes de protection de la vie privée, mais présente des limites : ses performances sont insuffisantes et il est difficile de répondre aux diverses demandes des utilisateurs. La méthode proposée, dérivée de l'apprentissage par transfert bayésien efficace en termes de paramètres, surmonte l'oubli catastrophique qui se produit à chaque tour en utilisant un modèle de référence incluant le terme de proximité optimal et intégrant les paramètres du modèle précédent. Elle permet ainsi d'obtenir des performances de modèle élevées et un faible coût de calcul client.

Takeaways, Limitations

Takeaways:
Présentation d'une méthode efficace pour améliorer les performances des modèles et répondre aux besoins des utilisateurs dans l'apprentissage fédéré
Résoudre le problème de l'oubli fatal en exploitant les modèles de référence
Obtenir simultanément des performances de modèle élevées et de faibles coûts de calcul client
Limitations:
La méthode proposée doit être vérifiée pour les performances de généralisation sur divers ensembles de données et environnements réels.
Des recherches supplémentaires sont nécessaires sur la conception et l’optimisation du modèle de référence.
Une évaluation plus approfondie est nécessaire pour garantir qu’elle répond à toutes les exigences diverses des utilisateurs.
👍