面向智能驾驶视觉感知的对抗样本攻击与防御方法综述

论文摘要

现如今,深度学习已然成为机器学习领域最热门的研究方向之一,其在图像识别、目标检测、语音处理、问答系统等诸多领域都取得了巨大成功.然而通过附加经过特殊设计的细微扰动而构造出的对抗样本,能够破坏深度模型的原有性能,其存在使许多对安全性能指标具有极高要求的技术领域,特别是以视觉感知为主要技术优先的智能驾驶系统,面临新的威胁和挑战.因此,对对抗样本的生成攻击和主动防御研究,成为深度学习和计算机视觉领域极为重要的交叉性研究课题.本文首先简述了对抗样本的相关概念,在此基础上详细介绍了一系列典型的对抗样本攻击和防御算法.随后,列举了针对视觉感知系统的多个物理世界攻击实例,探讨了其对智能驾驶领域的潜在影响.最后,对对抗样本的攻击与防御研究进行了技术展望.

论文目录

• 0 引言
• 1 对抗样本攻击算法
•   1.1 无目标指向的攻击
•   1.2 有目标指向的攻击
• 2 对抗样本防御算法
•   2.1 对数据集进行修改
•   2.2 修改网络模型本身
•   2.3 使用附加模块
• 3 智能驾驶与对抗样本
•   3.1 路标识别攻击
•     1) Disappearance Attack Loss
•     2) Tatal Variation Loss
•     3) Non-printability Loss
•   3.2 行人检测攻击
•   3.3 道路场景的其他恶意攻击
• 4 研究展望

文章来源

类型: 期刊论文

作者: 杨弋鋆,邵文泽,王力谦,葛琦,鲍秉坤,邓海松,李海波

关键词: 对抗样本,目标检测,语义分割,智能驾驶

来源: 南京信息工程大学学报(自然科学版) 2019年06期

年度: 2019

分类: 工程科技Ⅱ辑,信息科技

专业: 汽车工业,计算机软件及计算机应用

单位: 南京邮电大学通信与信息工程学院,南京审计大学统计与数学学院,瑞典皇家理工学院计算机科学与通信学院

基金: 国家自然科学基金(61771250,61602257,61972213,11901299,61872424,6193000388)

分类号: U463.6;TP309

DOI: 10.13878/j.cnki.jnuist.2019.06.003

页码: 651-659

总页数: 9

文件大小: 2610K

下载量: 251