针对深度学习的对抗攻击综述

被引：12

作者：

刘会

赵波

郭嘉宝

彭钺峰

机构：

[1] 武汉大学国家网络安全学院

来源：

密码学报 | 2021年 / 8卷 / 02期

关键词：

深度学习; 对抗样本; 对抗攻击; 逃逸攻击; 计算机视觉;

D O I：

10.13868/j.cnki.jcr.000431

中图分类号：

TP18 [人工智能理论];

学科分类号：

081104 ; 0812 ; 0835 ; 1405 ;

摘要：

深度学习在图像、文本、语音等多种数据类型的处理上取得了显著进展.然而,深度学习的不可解释性导致深度学习的输出缺乏可信性,致使其在许多安全领域的应用受到了严重的制约.研究人员发现通过对原始样本加入微小扰动所生成的对抗样本能够有效欺骗深度学习模型,并将生成对抗样本的方式称之为对抗攻击.对抗攻击能够使深度学习以高置信度的方式给出错误的输出,实现针对深度学习检测服务的逃逸攻击.本文首先介绍了对抗攻击的基本原理,并从扰动范围、攻击者掌握目标模型知识的情况、攻击目标的针对性、攻击频次等4个方面对对抗攻击进行分类.然后,总结了近年来计算机视觉领域中对抗攻击研究的代表性成果,对比分析各种攻击方案的特点.特别针对对抗攻击在自然语言处理、语音识别、恶意软件检测和可解释性对抗样本等4种典型场景下的应用进行了详细介绍,进一步揭示了对抗样本对深度学习服务的安全威胁.最后,通过回顾对抗攻击的发展历程,探究该技术面临的主要挑战并指出其未来潜在的发展方向.

引用

页码：202 / 214

页数：13

共 9 条

[1] FoolChecker: A platform to evaluate the robustness of images against adversarial attacks [J].

Liu Hui ;

Zhao Bo ;

Huang Linquan ;

Guo Jiabao ;

Liu Yifan .

NEUROCOMPUTING, 2020, 412 :216-225

[2]

Selective Audio Adversarial Example in Evasion Attack on Speech Recognition System..[J].Hyun Kwon;Yongchul Kim;Hyunsoo Yoon;Daeseon Choi.IEEE Trans. Information Forensics and Security.2020,

[3]

Connecting the Digital and Physical World: Improving the Robustness of Adversarial Attacks.[J].Steve T.K. Jan;Joseph Messou;Yen Chen Lin;Jia Bin Huang;Gang Wang.Proceedings of the AAAI Conference on Artificial Intelligence.2019,

[4]

Invisible Adversarial Attack against Deep Neural Networks: An Adaptive Penalization Approach.[J].Wang Zhibo;Song Mengkai;Zheng Siyan;Zhang Zhifei;Song Yang;Wang Qian.IEEE Transactions on Dependable and Secure Computing.2019, 3

[5] One Pixel Attack for Fooling Deep Neural Networks [J].

Su, Jiawei ;

Vargas, Danilo Vasconcellos ;

Sakurai, Kouichi .

IEEE TRANSACTIONS ON EVOLUTIONARY COMPUTATION, 2019, 23 (05) :828-841

[6] ImageNet Classification with Deep Convolutional Neural Networks [J].

Krizhevsky, Alex ;

Sutskever, Ilya ;

Hinton, Geoffrey E. .

COMMUNICATIONS OF THE ACM, 2017, 60 (06) :84-90

[7]

Defensive Distillation is Not Robust to Adversarial Examples..[J].Nicholas Carlini;David A. Wagner 0001.CoRR.2016,

[8]

Domain-Adversarial Training of Neural Networks..[J].Yaroslav Ganin;Evgeniya Ustinova;Hana Ajakan;Pascal Germain;Hugo Larochelle;François Laviolette;Mario Marchand;Victor S. Lempitsky.Journal of Machine Learning Research.2016,

[9] Gradient-based learning applied to document recognition [J].

Lecun, Y ;

Bottou, L ;

Bengio, Y ;

Haffner, P .

PROCEEDINGS OF THE IEEE, 1998, 86 (11) :2278-2324

← 1 →