?0范数的逼近及其在稀疏优化中的应用

论文摘要

压缩感知理论在过去的十几年间得到快速的发展,不仅极大地丰富数字信号处理领域的研究内容,而且也为其他专业领域的研究提供一种新的方法和思路,具有广阔的应用前景。本文主要关注几类稀疏逼近函数来处理?0最小化问题,通过构造?0范数的非凸、非光滑逼近函数来设计新的求解算法。另外,本文利用?0范数的连续可微逼近函数来研究?0最小化问题的解与最小二乘解之间的关系。首先,利用?1范数的Moreau正则化函数的极小值问题的唯一解构造两类?0范数的非凸、非光滑的全局Lipschitz连续的逼近函数,并导出一些与?0范数有关的不等式,接着又给出这两类逼近函数所满足的等式关系,而且还进一步地把此等式关系与广义极大极小凹罚函数建立起重要联系;之后,又把这两类逼近函数应用到压缩感知中,基于逼近函数的特殊的数学表达形式,构造了两类新权值的迭代加权的?1算法和?2算法,并证明由此两个算法产生的迭代序列的有界性。另外,再利用所构造的逼近函数导出了一个依赖于支撑集合的混合优化模型,以此来解释为什么加权的?1最优化问题可以促进解的稀疏性。其次,考虑一个比较特殊的?1/?2最优化问题。由于此优化问题的目标函数是非凸、非光滑和非Lipschitz连续的,因此在确保其最优解的存在性之后,构造迭代加权的?1/?2算法得到此问题的一个局部最优解。鉴于其目标函数的特殊形式,先是构造一个特殊的迭代加权的?1算法,接着以构造的基于ISTA算法的变阈值的TIST算法来证明由迭代加权的?1算法产生的序列的收敛性,并进一步地给出TIST算法的收敛性证明。之后,以此来证明原来的迭代加权的?1/?2算法的收敛性。再次,本文通过?0的连续可微逼近函数来研究?0最优化问题的解和最小二乘解之间的关系,从而求出原始问题的一个近似解。利用?0范数的连续可微逼近函数,在感知矩阵满足唯一表示性质的前提下,构造?0最优化问题的一个近似优化问题。接着,通过一个简单的转换技巧,把此近似问题分解为两个易于求解的优化问题,一个是无约束的优化问题,另一个是带有不同的观测向量的基追踪问题。基于以上的处理,可以通过求解以上被分解的两个优化问题的解来近似?0最优化问题的解。最后,在每章的最后一个小节中给出一些数值实验,来验证本文所构造的算法的可行性和有效性。由于很多算法之间的数值表现在其他文献中已经被测试比较过,所以本文的数值实验主要是与一些常用的算法进行信号恢复成功率和图像去噪的比较。

论文目录

• 摘要
• Abstract
• 第1章 绪论
•   1.1 课题研究背景及意义
•   1.2 研究现状
•     1.2.1 贪婪算法
•     1.2.2 凸松弛算法
•     1.2.3 近似算法
•   1.3 预备知识
•   1.4 本文主要研究内容
• 0准范数的最优逼近的稀疏信号恢复'>第2章 基于?₀准范数的最优逼近的稀疏信号恢复
•   2.1 引言
• 0准范数的最优逼近函数'>  2.2 两类?₀准范数的最优逼近函数
•   2.3 在压缩感知中的应用
•     2.3.1 基于稀疏逼近的稀疏信号恢复
• 1范数和?₀准范数的混合优化问题'>    2.3.2 ?₁范数和?₀准范数的混合优化问题
•   2.4 数值实验
•   2.5 本章小结
• 1/?₂最优化问题的迭代加权的?₁算法的收敛性分析'>第3章 ?₁/?₂最优化问题的迭代加权的?₁算法的收敛性分析
•   3.1 引言
•   3.2 截断的迭代伸缩阈值算法
•   3.3 数值实验
•   3.4 本章小结
• 第4章 基于两个分解的优化问题的稀疏近似恢复
•   4.1 引言
•   4.2 优化问题的分解
•     4.2.1 辅助引理
• 0最优化问题的分解'>    4.2.2 ?₀最优化问题的分解
•   4.3 数值实验
•     4.3.1 稀疏信号恢复实验
•     4.3.2 图像去噪恢复实验
•   4.4 本章小结
• 结论
• 参考文献
• 攻读博士学位期间发表的论文及其他成果
• 致谢
• 个人简历

文章来源

类型: 博士论文

作者: 王俊

导师: 王兴涛

关键词: 压缩感知,准范数,最优化,加权的最优化,稀疏信号恢复,稀疏近似,稀疏优化,迭代软阈值算法

来源: 哈尔滨工业大学

年度: 2019

分类: 基础科学

专业: 数学

单位: 哈尔滨工业大学

分类号: O224

DOI: 10.27061/d.cnki.ghgdu.2019.000366

总页数: 95

文件大小: 2565K

下载量: 75