基于条件生成对抗网络和超限学习机的小样本数据处理方法研究

论文摘要

随着科学技术的不断进步,数据的重要性不断凸显,从大量数据中获取蕴藏的知识是数据处理的目标所在。然而,许多如医学医药、国防工业、航空航天等领域因环境、时间、成本等多方面因素,无法获取足够多的数据。由于样本数目较少,现有基于数据驱动的机器学习方法在小样本数据上处理性能不高。如何对小样本数据进行有效的处理为现有机器学习方法提出了新的挑战。本文在条件生成对抗网络扩大小样本数据的基础上,利用基于粒子群优化的超限学习机实现小样本数据的特征提取和分类。主要工作如下:(1)现有的条件生成对抗网络所生成的样本,存在类间差异度较小、不同类别的生成样本难以区分的缺陷。针对此,本论文提出一种基于类间距离的条件生成对抗网络方法。首先,运用最大期望算法对原始样本中的缺失值进行填充,然后在条件生成对抗网络模型的生成网络中加入类间区分度信息。在带有类别信息标签数据的情况下,有效地生成具有区分度的不同类别样本。所提出的方法在扩充样本数量的同时可以对各个类别样本起到积极的区分作用,有助于机器学习算法对包含所生成样本的扩充后的数据集展开进一步分析。实验结果表明,在多个小样本数据集及MNIST上,改进的条件生成对抗网络所生成的样本相比于传统方法具有较大的类间距离以及较为明显的类间区分度。(2)针对传统超限学习机方法因随机初始化权值影响其泛化性能的鲁棒性问题,本文提出一类基于粒子群优化算法的双隐层超限学习机,旨在提升小样本数据的特征提取和特征分类性能。模型的第一层采用基于自动编码器结构的变长超限学习机,以此提取有效的数据特征;模型的第二层采用基于粒子群优化算法的变长超限学习机,即利用粒子群算法分别通过拟合误差及分类交叉熵作为适应值函数,优化双隐层网络中的权值,以此对小样本数据进行更为准确地分类。除此之外,该方法有效限制了隐含层节点的过度增长,避免了超限学习机的过拟合问题。实验结果表明,在六个基准分类数据集上,改进的算法可以获取小样本数据集上有效的特征表示,相比于传统算法分类准确度更高。

论文目录

• 摘要
• ABSTRACT
• 第1章 绪论
•   1.1 研究背景及意义
•   1.2 小样本数据
•   1.3 小样本数据分析处理方法国内外研究现状
•     1.3.1 小样本数据分析方法
•     1.3.2 基于机器学习的小样本数据处理方法
•   1.4 研究内容及章节安排
• 第2章 相关研究基础
•   2.1 生成对抗网络
•     2.1.1 生成对抗网络原理
•     2.1.2 生成对抗网络衍生模型
•   2.2 超限学习机
•     2.2.1 超限学习机原理
•     2.2.2 超限学习机的相关改进
•   2.3 粒子群优化算法
•     2.3.1 基本粒子群优化算法
•     2.3.2 粒子群优化算法的相关应用
•     2.3.3 粒子群优化算法的优缺点
•   2.4 本章小结
• 第3章 基于改进条件生成对抗网络的小样本数据扩充
•   3.1 引言
•   3.2 条件生成对抗网络
•     3.2.1 条件生成对抗网络原理
•     3.2.2 条件生成对抗网络的优缺点
•   3.3 基于改进条件生成对抗网络的数据扩充
•   3.4 实验结果与分析
•     3.4.1 小样本数据集的实验结果与分析
•     3.4.2 非小样本数据集上的实验结果与分析
•   3.5 本章小结
• 第4章 基于双隐层变长超限学习机的小样本数据分类方法
•   4.1 引言
•   4.2 基于双隐层变长超限学习机的小样本数据分类
•     4.2.1 自动编码器结构
•     4.2.2 改进的双隐层超限学习机
•   4.3 实验结果与分析
•     4.3.1 实验结果
•     4.3.2 参数讨论
•   4.4 本章小结
• 第5章 总结与展望
•   5.1 工作总结
•   5.2 展望
• 参考文献
• 致谢
• 攻读硕士期间发表的论文

文章来源

类型: 硕士论文

作者: 李秋玮

导师: 韩飞

关键词: 小样本数据,条件生成对抗网络,超限学习机,粒子群优化

来源: 江苏大学

年度: 2019

分类: 基础科学,信息科技

专业: 数学,自动化技术

单位: 江苏大学

分类号: TP18;O212.2

总页数: 61

文件大小: 2882K

下载量: 337