对抗样本生成技术综述

被引：53

作者：

潘文雯

王新宇

宋明黎

陈纯

机构：

[1] 浙江大学计算机科学与技术学院

来源：

软件学报 | 2020年 / 31卷 / 01期

关键词：

深度学习; 对抗样本生成; 扰动; 目标定向; 目标非定向; 黑盒测试;

D O I：

10.13328/j.cnki.jos.005884

中图分类号：

TP391.41 []; TP18 [人工智能理论];

学科分类号：

080203 ; 081104 ; 0812 ; 0835 ; 1405 ;

摘要：

如今,深度学习已被广泛应用于图像分类和图像识别的问题中,取得了令人满意的实际效果,成为许多人工智能应用的关键所在.在对于模型准确率的不断探究中,研究人员在近期提出了"对抗样本"这一概念.通过在原有样本中添加微小扰动的方法,成功地大幅度降低原有分类深度模型的准确率,实现了对于深度学习的对抗目的,同时也给深度学习的攻方提供了新的思路,对如何开展防御提出了新的要求.在介绍对抗样本生成技术的起源和原理的基础上,对近年来有关对抗样本的研究和文献进行了总结,按照各自的算法原理将经典的生成算法分成两大类——全像素添加扰动和部分像素添加扰动.之后,以目标定向和目标非定向、黑盒测试和白盒测试、肉眼可见和肉眼不可见的二级分类标准进行二次分类.同时,使用MNIST数据集对各类代表性的方法进行了实验验证,以探究各种方法的优缺点.最后总结了生成对抗样本所面临的挑战及其可以发展的方向,并就该技术的发展前景进行了探讨.

引用

页码：67 / 81

页数：15

共 10 条

[1] 卷积神经网络研究综述 [J].

周飞燕 ;

金林鹏 ;

董军 .

计算机学报, 2017, 40 (06) :1229-1251

[2] 深度学习及其在图像物体分类与检测中的应用综述 [J].

刘栋 ;

李素 ;

曹志冬 .

计算机科学, 2016, 43 (12) :13-23

[3] 大数据下的机器学习算法综述 [J].

何清 ;

李宁 ;

罗文娟 ;

史忠植 .

模式识别与人工智能, 2014, 27 (04) :327-336

[4] 基于有监督学习的依存句法分析模型综述 [J].

董喜双 ;

关毅 .

智能计算机与应用, 2013, 3 (02) :11-15+19

[5] 浅析黑盒测试与白盒测试 [J].

赵宸 .

硅谷, 2010, (11) :39-39

[6]

Deep learning in neural networks: An overview[J] . Jürgen Schmidhuber.Neural Networks . 2014

[7]

A classification system for beans using computer vision system and artificial neural networks[J] . Journal of Food Engineering . 2006 (3)

[8]

Large-scale video classification with convolutional neural networks .2 KARPATHY A,TODERICI G,SHETTY S,et al. Computer Vision and Pattern Recognition . 2014

[9]

Robustness of network of networks under targeted attack .2 DONG G,GAO J,DU R,et al. Physical Review E,Statistical,Nonlinear,and Soft Matter Physics . 2013

[10]

The limitations of deep learning in adversarial settings .2 Papernot N,McDaniel P,Jha S.et al. Proc of the 1st European Symp on Security and Privacy . 2016

← 1 →