非高斯统计模型的变分学习算法及其应用研究

论文摘要

目前,对于海量数据信息处理的方法多种多样,其中概率混合模型是一种常用的数据建模与分析的方法。高斯混合模型（Gaussian Mixture Model,GMM）由于具有计算方便等诸多优点得到广泛应用。但是对于有界或半有界数据的统计建模,如文本、图像等数据,GMM不能达到很好的拟合效果,对此,非高斯概率统计模型展现出更优越的性能。本文致力于研究非高斯统计模型的变分学习算法,所提出的扩展变分学习框架可以在图像处理,入侵检测等应用中解决模型问题。首先,本文简要阐述了概率混合模型的研究背景及意义,并介绍了非高斯统计模型建模现状。给出概率混合模型定义,列举几种常用的概率密度函数形式。介绍两种解决概率混合模型参数估计问题的常用算法,极大似然方法和变分贝叶斯,并进行简要介绍及推导。接着,本文对贝塔混合模型（Beta Mixture Model,BMM）的变分推理算法进行了研究。BMM是常用于对有界数据进行建模分析的非高斯统计模型,但是在解决模型参数及模型选择问题时,由于其中的Gamma函数及其导数积分表达式过于复杂,使得参数估计困难。本文提出一种高效变分学习算法,能够解决大多数统计模型中所存在的上述问题。该算法选择形式简单的分布代替复杂分布,提出BMM下界定理,应用扩展变分推理算法将单下界引入变分目标函数中,最大化模型证据下界求解出参数估计值。此外,在迭代过程中只优化唯一的目标函数,在理论上保证了算法的收敛性。本文给出详细的算法推导过程,并通过在人工数据集验证了算法的可行性,以及给出对比实验进一步验证本文算法的高效性。最后,本文选择三组学术上公认的目标图像集,Caltech4、ETH-80以及MIT Scene进行算法的应用研究,使用RHOG特征描述子得到图像的特征矢量集。利用本文所提出的贝塔混合模型的高效变分学习算法进行目标分类,通过实验结果图可知该算法可以很好的应用于目标分类应用中。

论文目录

• 摘要
• ABSTRACT
• 第一章 绪论
•   1.1 研究背景及意义
•   1.2 国内外研究现状
•     1.2.1 非高斯概率混合建模现状
•     1.2.2 概率混合模型的学习与推理
•   1.3 本文研究内容及工作安排
• 第二章 概率混合模型及其学习与推理
•   2.1 概率混合模型定义
•   2.2 概率混合模型的参数学习
•     2.2.1 极大似然法
•     2.2.2 变分贝叶斯
•   2.3 本章总结
• 第三章 贝塔混合模型的变分推理
•   3.1 贝塔混合模型
•   3.2 贝塔混合模型的变分学习
•     3.2.1 贝叶斯框架
•     3.2.2 扩展变分推理
•     3.2.3 变分后验分布
•     3.2.4 变分学习算法
•     3.2.5 狄利克雷过程
•   3.3 实验结果与分析
•   3.4 本章总结
• 第四章 贝塔混合模型算法的应用研究
•   4.1 特征描述子
•   4.2 目标分类
•   4.3 本章总结
• 第五章 结论与展望
•   5.1 主要结论
•   5.2 研究展望
• 参考文献
• 在学期间的研究成果
• 致谢

文章来源

类型: 硕士论文

作者: 高宁

导师: 赖裕平,张军保

关键词: 贝塔混合模型,变分学习算法,参数估计,模型选择,目标分类

来源: 北方工业大学

年度: 2019

分类: 基础科学

专业: 数学

单位: 北方工业大学

分类号: O212

总页数: 59

文件大小: 4510K

下载量: 50