-
题名深度学习中的对抗攻击与防御
被引量：19
- 1
-
-
作者
刘西蒙
谢乐辉
王耀鹏
李旭如
-
机构
福州大学数学与计算机科学学院
广东省数据安全与隐私保护重点实验室
华东师范大学计算机与科学学院
-
出处
《网络与信息安全学报》
2020年第5期36-53,共18页
-
基金
国家自然科学基金(U1804263,61702105)
广东省数据安全与隐私保护重点实验室开放项目(2017B030301004-12)
陕西省重点研发项目(2019KW-053)。
-
文摘
对抗样本是被添加微小扰动的原始样本,用于误导深度学习模型的输出决策,严重威胁到系统的可用性,给系统带来极大的安全隐患。为此,详细分析了当前经典的对抗攻击手段,主要包括白盒攻击和黑盒攻击。根据对抗攻击和防御的发展现状,阐述了近年来国内外的相关防御策略,包括输入预处理、提高模型鲁棒性、恶意检测。最后,给出了未来对抗攻击与防御领域的研究方向。
-
关键词
对抗样本
对抗攻击
对抗防御
深度学习安全
-
Keywords
adversarial examples
adversarial attacks
adversarial defenses
deep learning security
-
分类号
TP18
[自动化与计算机技术—控制理论与控制工程]
-
