面向自然语言处理的对抗攻防与鲁棒性分析综述

被引：11

作者：

郑海斌 ^{[1
]}

陈晋音 ^{[1
,2
]}

章燕 ^{[1
]}

张旭鸿 ^{[3
]}

葛春鹏 ^{[4
]}

刘哲 ^{[4
]}

欧阳亦可 ^{[5
]}

纪守领 ^{[6
]}

机构：

[1] 浙江工业大学信息工程学院

[2] 浙江工业大学网络空间安全研究院

[3] 浙江大学控制科学与工程学院

[4] 南京航空航天大学计算机科学与技术学院

[5] 华为技术有限公司南京研究所

[6] 浙江大学计算机科学与技术学院

来源：

计算机研究与发展 | 2021年 / 58卷 / 08期

基金：

浙江省自然科学基金;

关键词：

深度神经网络; 自然语言处理; 对抗攻击; 防御; 鲁棒性;

D O I：

暂无

中图分类号：

TP391.1 [文字信息处理];

学科分类号：

081203 ; 0835 ;

摘要：

随着人工智能技术的飞速发展,深度神经网络在计算机视觉、信号分析和自然语言处理等领域中都得到了广泛应用.自然语言处理通过语法分析、语义分析、篇章理解等功能帮助机器处理、理解及运用人类语言.但是,已有研究表明深度神经网络容易受到对抗文本的攻击,通过产生不可察觉的扰动添加到正常文本中,就能使自然语言处理模型预测错误.为了提高模型的鲁棒安全性,近年来也出现了防御相关的研究工作.针对已有的研究,全面地介绍自然语言处理攻防领域的相关工作,具体而言,首先介绍了自然语言处理的主要任务与相关方法;其次,根据攻击和防御机制对自然语言处理的攻击方法和防御方法进行分类介绍;然后,进一步分析自然语言处理模型的可验证鲁棒性和评估基准数据集,并提供自然语言处理应用平台和工具包的详细介绍;最后总结面向自然语言处理的攻防安全领域在未来的研究发展方向.

引用

页码：1727 / 1750

页数：24

共 16 条

[1] 自动文本摘要研究综述 [J].

李金鹏 ;

张闯 ;

陈小军 ;

胡玥 ;

廖鹏程 .

计算机研究与发展, 2021, 58 (01) :1-21

[2] 基于类卷积交互式注意力机制的属性抽取研究 [J].

尉桢楷 ;

程梦 ;

周夏冰 ;

李志峰 ;

邹博伟 ;

洪宇 ;

姚建民 .

计算机研究与发展, 2020, (11) :2456-2466

[3] 面向中文文本分类的词级对抗样本生成方法 [J].

仝鑫 ;

王罗娜 ;

王润正 ;

王靖亚 .

信息网络安全, 2020, 20 (09) :12-16

[4] 神经机器翻译综述 [J].

李亚超 ;

熊德意 ;

张民 .

计算机学报, 2018, 41 (12) :2734-2755

[5] HanLP-Based Technology Function Matrix Construction on Chinese Process Patents [J].

Yang, Yuexin ;

Ren, Gongchang .

INTERNATIONAL JOURNAL OF MOBILE COMPUTING AND MULTIMEDIA COMMUNICATIONS, 2020, 11 (03) :48-64

[6]

Is BERT Really Robust? A Strong Baseline for Natural Language Attack on Text Classification and Entailment[J] . Di Jin,Zhijing Jin,Joey Tianyi Zhou,Peter Szolovits.Proceedings of the AAAI Conference on Artificial Intelligence . 2020 (05)

[7]

Joint Character-Level Word Embedding and Adversarial Stability Training to Defend Adversarial Text[J] . Hui Liu,Yongzheng Zhang,Yipeng Wang,Zheng Lin,Yige Chen.Proceedings of the AAAI Conference on Artificial Intelligence . 2020 (05)

[8]

MixPoet: Diverse Poetry Generation via Learning Controllable Mixed Latent Space[J] . Xiaoyuan Yi,Ruoyu Li,Cheng Yang,Wenhao Li,Maosong Sun.Proceedings of the AAAI Conference on Artificial Intelligence . 2020 (05)

[9]

An evidential analytics for buried information in big data samples: Case study of semiconductor manufacturing[J] . Yu-Chien Ko,Hamido Fujita.Information Sciences . 2019

[10]

Domain-Adversarial Training of Neural Networks[J] . Yaroslav Ganin,Evgeniya Ustinova,Hana Ajakan,Pascal Germain,Hugo Larochelle,Fran?ois Laviolette,Mario Marchand,Victor S. Lempitsky.Journal of Machine Learning Research . 2016

← 1 2 →