人工智能技术在应用中的安全风险与管控研究

论文摘要

作为新型通用技术之一,人工智能正与实体经济逐步融合,推动社会经济各领域向智能化转型,但围绕人工智能技术的安全性威胁问题也日益凸显。本文对人工智能技术在应用中面临的主要安全风险进行梳理分析,并对现有管控政策和措施进行梳理概括,在此基础上,针对基础电信企业应对人工智能安全风险提出初步建议。

论文目录

• 1 AI安全风险分析
•   1.1 网络安全风险分析
•     1.1.1 AI产品、应用面临的网络安全风险
•     1.1.2 AI技术被恶意利用加剧网络安全风险
•   1.2 数据安全风险分析
•     1.2.1 模型窃取攻击导致的AI数据安全风险
•     1.2.2 AI技术的不当使用加剧数据安全风险
•   1.3 信息安全风险分析
•     1.3.1 AI技术被恶意使用产生有害信息内容
•     1.3.2 智能服务机器人被恶意使用加剧不良信息问题
•   1.4 算法安全风险分析
•     1.4.1 AI技术不成熟导致算法决策风险
•     1.4.2 人为或训练样本因素导致算法潜藏歧视和偏见
• 2 AI安全管控相关政策法规、标准规范和技术手段
•   2.1 出台政策法规，加强对突出问题的规制
•     2.1.1 针对AI信息安全风险突出问题的规制
•     2.1.2 针对AI数据安全风险突出问题的规制
•     2.1.3 针对AI算法安全风险突出问题的规制
•   2.2 制定准则、规范和指南，促进发展可信AI共识形成
•     2.2.1 制定AI管理、治理相关框架、原则和准则
•     2.2.2 制定AI设计、开发、评估、应用相关准则和规范
•   2.3 探索创新技术手段，积极应对AI安全威胁
•     2.3.1 探索应对AI网络安全问题的技术
•     2.3.2 探索应对AI信息安全问题的技术
•     2.3.3 探索应对AI算法歧视问题的技术
•     2.3.4 探索应对AI算法决策问题的技术
• 3 基础电信企业AI安全风险应对建议

文章来源

类型: 期刊论文

作者: 朱丽芳

关键词: 人工智能,安全风险,应对措施

来源: 电信工程技术与标准化 2019年12期

年度: 2019

分类: 信息科技,经济与管理科学

专业: 计算机软件及计算机应用,自动化技术,信息经济与邮政经济

单位: 中国移动通信集团广东有限公司

分类号: F626;TP18;TP309

DOI: 10.13992/j.cnki.tetas.2019.12.007

页码: 33-37

总页数: 5

文件大小: 1337K

下载量: 169