面向联邦算力物联网的隐私预算自适应优化方案

TP309.2; 联邦算力物联网(IoT,Internet of things)旨在通过联邦学习深度融合算力与物联网资源,从而实现对泛在离散部署的海量物联网数据和异构资源的高效利用.为了应对联邦算力物联网中模型反演和梯度泄露等新兴隐私攻击威胁,学术界和产业界对差分隐私(DP,differential privacy)这一高效的隐私保护技术进行了广泛研究和应用.然而,现有差分隐私技术在设定隐私预算时,未考虑本地算力节点的数据特征和隐私预算分配公平性的问题,造成了严重的模型精度损失.因此,提出了一种面向联邦算力物联网的隐私预算自适应优化方案——基于克拉美罗下界差分隐私的联邦学习(FedCDP,fe...

Full description

Saved in:
Bibliographic Details
Published in物联网学报 Vol. 8; no. 4; pp. 54 - 69
Main Authors 马文玉, 陈谦, 胡宇翔, 闫皓楠, 胡涛, 伊鹏
Format Journal Article
LanguageChinese
Published 信息工程大学,河南 郑州 450001%西安交通大学,陕西 西安 710049%西安电子科技大学,陕西 西安 710126 2024
Subjects
Online AccessGet full text

Cover

Loading…
More Information
Summary:TP309.2; 联邦算力物联网(IoT,Internet of things)旨在通过联邦学习深度融合算力与物联网资源,从而实现对泛在离散部署的海量物联网数据和异构资源的高效利用.为了应对联邦算力物联网中模型反演和梯度泄露等新兴隐私攻击威胁,学术界和产业界对差分隐私(DP,differential privacy)这一高效的隐私保护技术进行了广泛研究和应用.然而,现有差分隐私技术在设定隐私预算时,未考虑本地算力节点的数据特征和隐私预算分配公平性的问题,造成了严重的模型精度损失.因此,提出了一种面向联邦算力物联网的隐私预算自适应优化方案——基于克拉美罗下界差分隐私的联邦学习(FedCDP,federated learning based on Cramér-Rao lower bound differential privacy).首先,基于克拉美罗下界理论分析边缘算力节点的隐私预算估计值,实现自适应隐私预算规划;其次,通过计算边缘算力节点的上传模型与算力聚合服务器的聚合模型之间的相似度和隐私预算占比,分析得到每个节点的全局贡献度,进一步联合隐私预算估计值公平实时地优化隐私预算设定.理论分析证明了该方案可确保本地模型严格遵守ε-差分隐私,并保证全局模型收敛.基于多个公开数据集上的实验结果表明,在满足相同隐私保护需求的前提下,该方案将全局模型精确度最多提升了10.19%.
ISSN:2096-3750
DOI:10.11959/j.issn.2096-3750.2024.00440