有限混合回归模型下若干统计推断问题的研究

论文摘要

有限混合模型是用来处理来自几个未知的同质总体的变量之间关系的一种统计工具,它是由几个分布加权混合而成的.有限混合模型也被称作无监督学习模型,在聚类分析、数值分类等方面有着广泛的应用.有限混合回归模型是有限混合模型的进一步推广,随着现实生活中高维数据的不断出现,有限混合回归模型中的变量选择问题逐渐成为统计推断研究的热点问题.有限混合回归模型下的变量选择问题在统计建模中经常遇到,但大部分都是假设回归误差为正态分布,而正态分布在处理噪音数据和偏斜数据时是不合适的.鉴于此,本文主要在厚尾数据、偏斜数据等复杂数据下对有限混合回归模型中的稳健参数估计问题、变量选择问题进行系统地研究.更进一步,我们还考虑了对混合比例进行建模,从而将有限混合回归模型推广到有限混合专家回归模型,并提出一种新的稳健参数估计方法.具体地讲,本文所开展的研究工作如下:针对厚尾数据下的有限混合回归模型,基于t分布考虑了一种稳健的变量选择方法.采用基于惩罚似然的变量选择方法对均值回归模型中参数部分解释变量进行变量选择,该方法不仅能选择出均值回归模型中参数部分重要的解释变量,而且在对均值模型中参数部分进行估计时对异常值有较好的稳健性.进一步,在选择合适的调整参数的情况下,证明了模型中的极大惩罚似然估计值具有相合性和神谕性质.最后通过模拟研究和实例分析,研究了所提出方法的有限样本性质,结果表明所提出的变量选择方法是可行且有效的.针对偏斜数据,研究了偏正态分布下有限混合回归模型的变量选择问题.采用基于惩罚似然的变量选择方法对均值回归模型中参数部分解释变量进行变量选择,提出的变量选择方法能够将均值回归模型参数部分中不重要的解释变量从模型中剔除,而且研究发现,当偏度参数取不同的值时,该变量选择过程的表现没有显著的变化.进一步,在选择合适的调整参数的情况下,得到了模型中参数估计值的渐近性质.最后,该方法同时用来进行了模拟研究和实例分析,结果表明提出的变量选择方法是有效的.针对皮尔逊Ⅶ型分布下的有限混合专家回归模型,主要研究了一种新的参数估计方法.采用改进的EM算法,在对数似然函数的基础上对其增加一个混合比例模型中回归系数的二范数惩罚,从而使参数估计结果表现出较好的性质.更进一步,证明了混合比例模型中参数估计值不仅具有相合性,而且在有限样本中也表现出很好的估计结果.此外,该方法对均值回归模型中参数部分的估计相对于传统的估计方法具有较好的稳健性.最后,该方法同时用来进行了模拟研究和实例分析,结果表明提出的变量选择方法是有效的.

论文目录

• 摘要
• ABSTRACT
• 第一章 绪论
•   1.1 研究背景及国内外研究现状
•   1.2 本文研究内容及结构安排
• 第二章 预备知识
•   2.1 有限混合模型
•     2.1.1 有限混合模型的定义
•     2.1.2 极大似然估计
•     2.1.3 EM算法
•   2.2 有限混合回归模型
•     2.2.1 有限混合回归模型的定义
•     2.2.2 基于正态假设的EM算法
•   2.3 有限混合回归模型的可识别性
•   2.4 有限混合回归模型下的变量选择方法
• 第三章t分布下的有限混合回归模型的稳健变量选择过程
•   3.1 t分布
•   3.2 t分布下的混合回归模型
•   3.3 基于惩罚似然的变量选择方法
•   3.4 渐近性质
•   3.5 改进的EM算法
•     3.5.1 极大化算法
•     3.5.2 调整参数的确定
•     3.5.3 混合成分数目的确定
•   3.6 模拟研究
•     3.6.1 数值模拟实验一
•     3.6.2 数值模拟实验二
•   3.7 实例分析
•   3.8 本章小结
• 第四章 偏正态分布下的有限混合回归模型的变量选择过程
•   4.1 偏正态分布
•   4.2 偏正态混合回归模型
•   4.3 基于惩罚似然的变量选择方法
•   4.4 渐近性质
•   4.5 改进的EM算法
•     4.5.1 极大化算法
•     4.5.2 调整参数的确定
•     4.5.3 混合成分数目的确定
•   4.6 模拟研究
•     4.6.1 数值模拟实验一
•     4.6.2 数值模拟实验二
•     4.6.3 数值模拟实验三
•   4.7 实例分析
•   4.8 本章小结
• 第五章 皮尔逊Ⅶ型分布下的有限混合专家回归模型的稳健参数估计
•   5.1 皮尔逊Ⅶ型分布
•   5.2 皮尔逊Ⅶ型分布下的混合专家回归模型
•   5.3 估计过程与相关理论性质
•   5.4 模拟研究
•     5.4.1 模拟实验一
•     5.4.2 模拟实验二
•   5.5 实例分析
•   5.6 本章小结
• 第六章 总结与展望
• 致谢
• 参考文献
• 附录 发表/已完成的论文

文章来源

类型: 硕士论文

作者: 尹军辉

导师: 戴琳,吴刘仓

关键词: 有限混合回归模型,变量选择,算法,稳健性,相合性,性质

来源: 昆明理工大学

年度: 2019

分类: 基础科学

专业: 数学

单位: 昆明理工大学

分类号: O212.1

DOI: 10.27200/d.cnki.gkmlu.2019.000896

总页数: 75

文件大小: 2196K

下载量: 26