自变量向量多元混合正态分布假设下基于分布加权最小二乘的变量选择

论文摘要

非参数或半参数回归问题中,自变量向量维数较高时,回归函数的拟合将会变得困难。因此,在拟合之前对自变量进行筛选,是一个非常必要的步骤。然而,由于非参数和半参数回归中并不对回归函数的形式做出很具体的假设,故常用的自变量选择方法(如:LASSO,SCAD等)通常不能直接适用于非参数或半参数模型。若能不依赖于回归函数形式而找到自变量向量的少数几个线性组合,使得在给定这几个线性组合之时,因变量与所有自变量相互条件独立,则所有回归信息实际上已全部包含在因变量与这些线性组合的关系里,如此,就可以通过对线性组合的系数向量施加惩罚而得到稀疏的组合系数向量,从而达到变量选择的目的。幸而目前已有许多寻找这样的自变量线性组合的理论和方法,这就是充分降维理论。如何基于充分降维理论进行非参数或半参数回归中的变量选择的问题已受到了关注,并已经有一些方法被提出,这些方法多依赖一定的分布假设,如:线性设计条件,常数条件方差等等。然而,现实中,这些分布假设得不到满足的情形并不罕见,比如,混合正态分布就并不满足这些条件。本文考虑当自变量向量服从混合正态分布时,如何基于充分降维方法进行单指标模型下的变量选择。我们设计的变量选择方法基于一种高效的充分降维方法—一分布加权最小二乘法。基本思路是,将分布加权最小二乘法推广到自变量向量服从混合正态分布的情形下,在此基础上,构造一个总体形式的目标函数,使得降维中心子空间中的某个非零向量是该目标函数的最小值点,然后,通过一个重抽样方法,获取该目标函数的样本形式,并在其上施加SCAD惩罚,从而获取降维中心子空间中的某个非零向量的压缩估计,完成变量选择。我们通过两个模拟示例对所提出的方法进行了说明。

论文目录

• 摘要
• Abstract
• 第一章 引言
•   第一节 选题背景及研究意义
•   第二节 国内外相关研究动态及文献综述
•   第三节 研究内容
•   第四节 研究方法和技术路线
•   第五节 论文结构安排
• 第二章 充分降维和变量选择方法简介
•   第一节 充分降维理论回顾
•   第二节 分布加权最小二乘估计理论回顾
•   第三节 线性设计条件下单指标模型中的变量选择方法回顾
• 第三章 自变量混合正态分布假设下单指标模型中的变量选择
•   第一节 自变量混合正态分布假设下分布加权最小二乘估计的改进
•     一. 目标函数的总体形式
•     二. 目标函数的样本形式
•   第二节 自变量混合正态分布假设下基于惩罚下的分布加权最小二乘的自变量选择
• 第四章 模拟分析
• 第五章 讨论
• 参考文献
• 致谢
• 本人读研期间完成的研究成果

文章来源

类型: 硕士论文

作者: 叶忠昌

导师: 陈飞

关键词: 单指标模型,变量选择,混合正态分布,压缩估计,分布加权最小二乘

来源: 云南财经大学

年度: 2019

分类: 基础科学

专业: 数学

单位: 云南财经大学

分类号: O212

DOI: 10.27455/d.cnki.gycmc.2019.000005

总页数: 40

文件大小: 1410K

下载量: 55