L2-L1模型解路径研究

论文摘要

解路径研究源自于优化问题β（λ）=arg minβL（y,xβ）+λJ（β）,其中L（y,xβ）为损失函数,J（β）为惩罚函数,λ称为惩罚系数,我们称{β（λ）:λ≥0}为解路径。本文主要研究了广义Lasso模型的解路径和L2-L1模型的解路径,分别得到前者解路径形态为分段线性,后者为分段曲线。针对广义Lasso模型解路径,从分段线性的特性出发,求出αβ（λ）/αλ,对最小角回归算法进行修正使其可以产生广义lasso模型的解路径。并可以将鲁棒Lasso模型转化为广义Lasso模型,从而知道它的解路径也为分段线性的,以及可以求解其解路径。针对L2-L1模型,通过运用KKT条件,得到其解路径斜率表达式,得到分段条件,并针对不同的条件对L2-L1模型与Lasso模型进行比较,研究两者之间区别。

论文目录

• 摘要
• Abstract
• 1 绪论
•   1.1 背景
•   1.2 国内外研究现状及发展动态分析
•   1.3 本文主要工作
•     1.3.1 广义Lasso模型的解路径
•     1.3.2 L2-L1解路径的研究
• 2 预备知识
•   2.1 基础知识
•     2.1.1 范数
•     2.1.2 分块矩阵求逆公式
•     2.1.3 拉格朗日函数
•     2.1.4 Karush-Kuhn-Tucker条件（KKT条件）
•   2.2 最小角回归算法
•   2.3 损失函数+惩罚函数的关于λ解路径
• 3 广义Lasso模型解路径
•   3.1 解路径算法
•   3.2 鲁棒Lasso模型解路径
•   3.3 计算复杂度
•   3.4 实例分析
• 4 L2-L1模型解路径
•   4.1 L2-L1模型解路径形态
•   4.2 L2-L1模型与Lasso模型比较
• p'>    4.2.1 情况1:n>p
•     4.2.2 情况2:n
• 结论
• 参考文献
• 附录A Matlab代码
• 攻读硕士学位期间发表学术论文情况
• 致谢

文章来源

类型: 硕士论文

作者: 赵玉鑫

导师: 张立卫

关键词: 解路径,广义模型,最小角回归,模型

来源: 大连理工大学

年度: 2019

分类: 基础科学

专业: 数学

单位: 大连理工大学

分类号: O212.1

DOI: 10.26991/d.cnki.gdllu.2019.001347

总页数: 48

文件大小: 1954K

下载量: 24