面向网络空间防御的对抗机器学习研究综述

• Published in: 自动化学报 Vol. 48; no. 7; pp. 1625 - 1649
• Main Authors: 余正飞, 闫巧, 周鋆
• Format: Journal Article
• Language: Chinese
• Published: 国防科技大学系统工程学院 长沙410073 01.07.2022; 国防科技大学信息系统工程重点实验室 长沙410073%深圳大学计算机与软件学院 深圳518061
• Subjects: 规避攻击; 网络空间防御; 对抗机器学习; 投毒攻击; 对抗样本
• ISSN: 0254-4156
• DOI: 10.16383/j.aas.c210089

机器学习以强大的自适应性和自学习能力成为网络空间防御的研究热点和重要方向.然而机器学习模型在网络空间环境下存在受到对抗攻击的潜在风险,可能成为防御体系中最为薄弱的环节,从而危害整个系统的安全.为此科学分析安全问题场景,从运行机理上探索算法可行性和安全性,对运用机器学习模型构建网络空间防御系统大有裨益.全面综述对抗机器学习这一跨学科研究领域在网络空间防御中取得的成果及以后的发展方向.首先,介绍了网络空间防御和对抗机器学习等背景知识;其次,针对机器学习在网络空间防御中可能遭受的攻击,引入机器学习敌手模型概念,目的是科学评估其在特定威胁场景下的安全属性;然后,针对网络空间防御的机器学习算法,分别论述了在测试阶段发动规避攻击、在训练阶段发动投毒攻击、在机器学习全阶段发动隐私窃取的方法,进而研究如何在网络空间对抗环境下,强化机器学习模型的防御方法;最后,展望了网络空间防御中对抗机器学习研究的未来方向和有关挑战.