每日 Arxiv

本页面整理了世界各地发表的人工智能相关论文。
本页面使用 Google Gemini 汇总而成，并以非盈利为基础运营。
论文版权归作者及相关机构所有，分享时请注明出处。

FedRTS：通过组合汤普森采样进行联邦稳健剪枝

Created by
  • Haebom

作者

黄洪、杨海洋、陈远、叶家勋、吴大鹏

大纲

联邦学习 (FL) 允许在无需分布式数据共享的情况下进行协同模型训练，为了满足其计算和通信需求，本文提出了基于组合汤普森采样的联邦稳健剪枝 (FedRTS) 框架。FedRTS 是一种新颖的框架，旨在即使在本地数据不平衡和部分客户端参与的环境中也能构建稳健的稀疏模型。FedRTS 通过基于汤普森采样的调整 (TSAdj) 机制，利用基于稳定长期信息的概率决策，而非像现有方法那样依赖不稳定的短期信息，从而提升模型的稳健性和性能。实验结果表明，FedRTS 在计算机视觉和自然语言处理任务中取得了最佳性能，并且在数据异构和部分客户端参与的场景下尤其能够有效降低通信成本。

Takeaways，Limitations

•
Takeaways：
◦
FedRTS 提高了联邦学习环境中稀疏模型的鲁棒性和性能。
◦
我们通过基于汤普森采样的调整（TSAdj）机制克服了现有方法的缺点。
◦
在数据异构、部分客户端参与的环境下表现出了优异的性能。
◦
它通过降低通信成本适用于资源受限的环境。
◦
在计算机视觉和自然语言处理任务中取得了最先进的表现。
•
Limitations：
◦
论文中没有具体说明Limitations。（仅根据摘要中提供的信息很难判断。）
👍
Made with Slashpage