机器学习训练数据集的成员推理综述

论文摘要

机器学习作为人工智能的一种重要工具,在解决分类、预测以及辅助决策等问题上表现出了卓越的能力。随着机器学习技术的逐渐提高,机器学习的使用也日益广泛,其隐私问题也受到越来越多的关注。其中,有关训练数据集的隐私问题也备受关注,成员推理攻击正是一种会威胁数据集隐私的攻击方法。然而,目前还缺少有关于成员推理最新研究的综述。文章首先介绍了何为成员推理攻击,分类以及其存在的原因,并归纳和对比了现有的攻击算法。然后,对成员推理攻击的防御算法进行了归纳和总结,并介绍了如何利用成员推理攻击来审计模型是否有未授权使用用户数据集。最后,文章给出了仍需解决的问题和未来研究方向。

论文目录

• 1 引言
• 2 成员推理攻击
•   2.1 成员推理攻击的定义
•   2.2 成员推理攻击模型
•   2.3 成员推理攻击的分类
•     2.3.1 黑盒成员推理攻击vs白盒成员推理攻击
•     2.3.2 独立模型vs联邦学习或联合学习
•     2.3.3 被动成员推理攻击vs主动成员推理攻击
•   2.4 成员推理攻击产生的原因
•     2.4.1 过拟合（overfitting）
•     2.4.2 训练集数据不具有代表性
•   2.5 成员推理攻击现有算法
•   2.6 现有算法对比
• 3 成员推理攻击的防御方法
•   3.1min-max game
•   3.2 对抗样本
•   3.3 知识蒸馏
•   3.4 随机失活
•   3.5 模型堆叠
•   3.6 差分隐私
• 4 利用成员推理来进行审计
•   4.1 语音审计
•   4.2 文本审计
• 5 开放问题和未来研究方向
•   5.1 公开问题
•   5.2 未来研究方向
• 6 结束语

文章来源

类型: 期刊论文

作者: 王璐璐,张鹏,闫峥,周晓康

关键词: 机器学习,成员推理攻击,训练数据集隐私,防御技术

来源: 网络空间安全 2019年10期

年度: 2019

分类: 信息科技

专业: 计算机软件及计算机应用,自动化技术

单位: 西安电子科技大学网络与信息安全学院,滋贺大学数据科学院

分类号: TP181;TP309

页码: 1-7

总页数: 7

文件大小: 1318K

下载量: 102