基于L2.1稀疏限制的增量式非负矩阵分解

论文摘要

在这个信息数据急速膨胀的时代,很多数据信息可以看作是一个高维矩阵,因此矩阵降维就成为当前研究的重要领域,根据实际需要,学者提出了很多矩阵降维方法,其中最为典型的一种是由Lee等人提出的非负矩阵分解算法（Non-negative matrix factorization,简写NMF）,在分解过程中非负约束是符合客观实际的,在数据挖掘,图像处理等方面应用广泛,引起了很多学者的积极肯定.本文是把非负矩阵分解与增量式学习相结合,再加入稀疏限制,提出了两种算法,并研究了其有效性,具体研究内容有以下两方面:第一,利用增量式非负矩阵分解（INMF）中近似的原理将前一步的分解结果参与了后续运算,在图像识别等方面具有较好的应用.为了提高增量式非负矩阵分解算法的有效性,同时提高分解后数据的稀疏度,该算法对增量数据的分解部分用L2,1范数来度量,提出了一种L2,1稀疏限制下非负矩阵分解的L2,1增量学习算法,它使得在迭代运算中具有更快的收敛速度和分解后数据有较好的稀疏度.用两种图片数据库检验了本节方法的优越性.第二,对系数矩阵增加稀疏限制的情况下鲁棒非负矩阵分解与增量式学习相结合,针对鲁棒非负矩阵分解的运算规模随训练样本逐渐增多而不断增大的问题,我们又提出了一种L2.1稀疏限制的增量式鲁棒非负矩阵分解算法,并给出了它的迭代求解过程.数值实验部分,主要将该算法与鲁棒非负矩阵分解算法、稀疏限制的鲁棒非负矩阵分解算法进行了比较.通过对两种人脸数据库进行数值验证,该算法在运算时间和分解后数据的稀疏度等方面均优于其他两个算法,而且还具有较好的聚类准确率.

论文目录

• 摘要
• Abstract
• 1 绪论
•   1.1 研究背景及问题描述
•   1.2 本文主要的研究内容
•   1.3 本文的结构安排
• 2 预备知识
•   2.1 标准非负矩阵分解
•     2.1.1 采用F-范数逼近
•     2.1.2 采用Kullback-Leibler divergence散度逼近
•   2.2 鲁棒非负矩阵分解
•   2.3 增量式非负矩阵分解
•     2.3.1 模型建立
•     2.3.2 模型求解
•   2.4 本章小结
• 2,1稀疏限制下非负矩阵分解的L_2,1增量学习算法'>3 L_2,1稀疏限制下非负矩阵分解的L_2,1增量学习算法
•   3.1 稀疏限制
•   3.2 模型建立
•   3.3 模型求解
•   3.4 实验验证及其结论
•     3.4.1 数据描述及其参数设置
•     3.4.2 收敛效果对比
•     3.4.3 运行时间对比
•     3.4.4 稀疏限制的度量
•   3.5 本章小结
• 2.1稀疏限制的增量式鲁棒非负矩阵分解'>4 L_2.1稀疏限制的增量式鲁棒非负矩阵分解
•   4.1 模型建立
•   4.2 模型求解
•   4.3 数值实验及结果分析
•     4.3.1 数据描述及其参数设置
•     4.3.2 收敛效果对比
•     4.3.3 聚类准确率对比
•     4.3.4 运行时间对比
•     4.3.5 稀疏限制的度量
•   4.4 本章小结
• 5 结论与展望
•   5.1 总结
•   5.2 展望
• 参考文献
• 攻读硕士学位期间所做的工作
• 致谢

文章来源

类型: 硕士论文

作者: 杨亮东

导师: 杨志霞

关键词: 非负矩阵分解,聚类,范数,鲁棒非负矩阵分解,增量式非负矩阵分解

来源: 新疆大学

年度: 2019

分类: 基础科学

专业: 数学

单位: 新疆大学

分类号: O151.21

总页数: 44

文件大小: 2621K

下载量: 74