基于类别不平衡数据联邦学习的设备选择算法

TP391; 考虑移动边缘计算下的联邦学习,其中全局服务器通过网络连接大量移动设备共同训练深度神经网络模型.全局类别不平衡和设备本地类别不平衡的数据分布往往会导致标准联邦平均算法性能下降.提出了一种基于组合式多臂老虎机在线学习算法框架的设备选择算法,并设计了一种类别估计方案.通过每一轮通信中选取与前次全局模型的类别测试性能偏移最互补的设备子集,使得训练后线性组合的全局模型各类别测试性能更平衡,从而获得更快的收敛性、更稳定的训练过程以及更好的测试性能.数值实验充分探究了不同参数对基于类别不平衡联邦平均算法的影响,以及验证了所提设备选择算法的有效性....

Full description

Saved in:
Bibliographic Details
Published in计算机应用研究 Vol. 38; no. 10; pp. 2968 - 2973
Main Authors 王惜民, 范睿
Format Journal Article
LanguageChinese
Published 上海科技大学 信息科学与技术学院,上海201210 2021
Subjects
联邦学习;移动边缘计算;深度学习;组合式多臂老虎机;隐私保护
Online AccessGet full text

Cover

More Information
Summary:TP391; 考虑移动边缘计算下的联邦学习,其中全局服务器通过网络连接大量移动设备共同训练深度神经网络模型.全局类别不平衡和设备本地类别不平衡的数据分布往往会导致标准联邦平均算法性能下降.提出了一种基于组合式多臂老虎机在线学习算法框架的设备选择算法,并设计了一种类别估计方案.通过每一轮通信中选取与前次全局模型的类别测试性能偏移最互补的设备子集,使得训练后线性组合的全局模型各类别测试性能更平衡,从而获得更快的收敛性、更稳定的训练过程以及更好的测试性能.数值实验充分探究了不同参数对基于类别不平衡联邦平均算法的影响,以及验证了所提设备选择算法的有效性.
ISSN:1001-3695
DOI:10.19734/j.issn.1001-3695.2021.03.0045