基于最大-最小策略的纵向联邦学习隐私保护方法

• Published in: 自动化学报 Vol. 50; no. 7; pp. 1373 - 1388
• Main Authors: 李荣昌, 刘涛, 郑海斌, 陈晋音, 刘振广, 纪守领
• Format: Journal Article
• Language: Chinese
• Published: 浙江工业大学网络空间安全研究院 杭州 310023%浙江大学网络空间安全学院 杭州 310007%浙江大学计算机科学与技术学院 杭州 310007 01.07.2024; 浙江工业大学网络空间安全研究院 杭州 310023%浙江工业大学信息工程学院 杭州 310023; 浙江工业大学信息工程学院 杭州 310023%浙江工业大学计算机科学与技术学院 杭州 310023
• Subjects: 属性推断攻击; max-min strategy; property inference attack; privacy preservation; industrial internet; 工业互联网; Vertical federated learning(VFL); 纵向联邦学习; 隐私保护; 最大-最小策略
• ISSN: 0254-4156
• DOI: 10.16383/j.aas.c211233

纵向联邦学习(Vertical federated learning,VFL)是一种新兴的分布式机器学习技术,在保障隐私性的前提下,利用分散在各个机构的数据实现机器学习模型的联合训练.纵向联邦学习被广泛应用于工业互联网、金融借贷和医疗诊断等诸多领域中,因此保证其隐私安全性具有重要意义.首先,针对纵向联邦学习协议中由于参与方交换的嵌入表示造成的隐私泄漏风险,研究由协作者发起的通用的属性推断攻击.攻击者利用辅助数据和嵌入表示训练一个攻击模型,然后利用训练完成的攻击模型窃取参与方的隐私属性.实验结果表明,纵向联邦学习在训练推理阶段产生的嵌入表示容易泄漏数据隐私.为了应对上述隐私泄漏风险,提出一种基于最大-最小策略的纵向联邦学习隐私保护方法(Privacy preservation method for vertical federated learning based on max-min strategy,PPVFL),其引入梯度正则组件保证训练过程主任务的预测性能,同时引入重构组件掩藏参与方嵌入表示中包含的隐私属性信息.最后,在钢板缺陷诊断工业场景的实验结果表明,相比于没有任何防御方法的VFL,隐私保护方法将攻击推断准确度从95％下降到55％以下,接近于随机猜测的水平,同时主任务预测准确率仅下降2％.