导读:本文包含了非光滑优化论文开题报告文献综述、选题提纲参考文献及外文文献翻译，主要关键词:光滑,梯度,条件,方法,算法,水平,共轭。
非光滑优化论文文献综述
黎勇,李智群[1]（2019）在《一种求解大规模非光滑优化问题的共轭梯度法》一文中研究指出针对大规模非光滑优化问题,利用Moreau-Yosida正则化技术和Armijo-type线搜索技术,设计了一种修正LS共轭梯度算法.算法的搜索方向不仅满足充分下降条件,而且具有信赖域性质.可以证明新算法在适当条件下全局收敛.初步的数值实验表明,新算法在求解大规模非光滑无约束凸优化问题方面比LMBM方法和MPRP方法更有效.(本文来源于《华中师范大学学报(自然科学版)》期刊2019年03期）
钱伟懿,杨岩[2]（2018）在《一类非光滑优化问题的邻近交替方向法》一文中研究指出非光滑优化问题在现实生活中有着广泛应用.针对一类带有结构特征为两个连续凸函数与具有Lipschitz梯度的二次可微函数的和的无约束非光滑非凸优化问题,给出了一种邻近交替方向法,称之为二次上界逼近算法.该算法结合交替方向法与邻近点算法的思想,将上述优化问题转化为平行的子问题.在求解子问题的过程中,对目标函数中的光滑部分线性化,此时子问题被转化为凸优化问题.然后分别对两个凸优化子问题交替利用邻近点算法求解.基于以上思想,首先我们给出算法的伪代码,然后建立了算法收敛性的充分条件,最后证明在该条件下,算法产生迭代序列的每个极限点是原问题的临界点.(本文来源于《渤海大学学报(自然科学版)》期刊2018年02期）
杨岩[3]（2018）在《一类非光滑优化问题的邻近交替算法》一文中研究指出现实生活中,很多应用方面的问题都可以用非光滑函数抽象化表达,比如图像的压缩传送、信号处理、矩阵的分解、稀疏信号恢复等等。很多问题都可以归结为在实数空间上有限个函数和的极小化问题。因此研究具有函数和结构的非光滑优化问题是有理论意义和应用价值的.问题模型包含目标和约束两部分,若问题中存在一个非凸的函数则问题就是非凸优化,否则是凸优化.本文研究的是一类带有结构特征无约束非光滑优化问题,目标函数的结构为φ(x,y)=f(x)+g(y)+h(x,y),Attouch~([1])和Bolte~([2])等人对此类结构问题进行了讨论.本文根据问题的凸性从两方面着手:一是求解该结构函数是非光滑凸的优化问题;二是求非光滑非凸优化问题.本文利用邻近交替方法来求解两类非光滑优化.对非光滑凸优化问题,目标函数中f,g是连续凸函数,h是连续可微凸函数,即叁个凸函数的和.对变量x和y,函数h的偏导数分别满足Lipschitz条件.对x和y分别邻近二次项正则化,用经典Guass-Seidel迭代方法把原问题转化为求解两个凸的子问题,然后是对两个子问题邻近交替极小化.本文对这类结构优化问题提出了新的算法,称为二次上界非精确邻近交替算法(SUIPAD).对非光滑非凸优化问题,目标函数中f,g是连续凸函数,h是具有Lipschitz梯度的二次可微函数.求解这类非光滑非凸问题是利用交替法的Guass-Seidel迭代把原问题转化为逼近的两个子问题.其子问题中,函数h分别对变量x和y的线性化,对变量x和y分别添加二次邻近项来逼近.本文将邻近算子和交替方向法相结合,在合理的条件假设下对非光滑非凸问题提出了新的邻近交替方法,即二次上界逼近算法(QUA).我们的主要结果如下:在凸与非凸两种情况,分别给出了结构性优化问题的求解算法.对于凸的目标函数,证明了算法迭代产生的序列极限点是问题的全局最优解;对于非凸的目标函数,证明了迭代序列的极限点是原问题的临界点.(本文来源于《渤海大学》期刊2018-06-01）
梁玲[4]（2018）在《非光滑优化基本非精确数据的加速水水束方法》一文中研究指出最优化是运筹学与控制论学科的重要分支,一直是国内外的研究热点.非光滑优化是一类特殊的优化问题,广泛应用于最优控制、联合机会约束规划、信号处理和随机规划等实际领域.近年来,随着最优化在实际应用的不断深入,大部分问题往往表现出两大特点:一是规模庞大,结构特殊;二是问题的函数值和次梯度较难或无法精确计算.从而导致传统的非光滑优化方法无法有效求解.因此,研究这类非光滑优化问题稳定、高效的数值算法有着重要的理论意义和应用价值.本学位论文提出了求解非光滑优化问题的基于非精确数据的两类加速水平束方法.首先,提出求解非光滑优化问题的基于非精确数据的加速水平束方法.基于某些问题的函数值和次梯度无法被精确计算的事实,利用目标函数的非精确函数值和非精确次梯度构造了一种对原目标函数的分段线性近似模型,该模型位于目标函数的下侧.结合加速思想,加速是指在迭代过程中引入叁个迭代点列,分别用于更新割平面模型、邻近中心和原问题最优目标函数值的上界.最后,对所提出的方法进行复杂度分析,得到求解非光滑优化问题的最优迭代复杂度,该复杂度不依赖于任何的问题参数如Lipschitz常数和可行集的直径等.其次,文本学位论文在以上方法的基础上进行改进,提出求解非光滑优化问题的基于非精确数据的加速邻近水平束方法.在算法迭代过程中,用一般的邻近函数取代原来的欧几里得范数,该方法既可以有效利用可行集的几何特性,又可以控制割平面模型中所使用的割平面的数量,从而保证了存储割平面所需的内存不会随着迭代次数的增加而线性递增,进而克服了非精确加速水平束方法产生的算法迭代效应,即随着迭代次数的增加,计算量增大导致算法收敛性减弱.此外,该算法不需要输入任何的问题参数也仍然能够得到其最优迭代复杂度.最后,对所提算法进行数值实验,数值试验的结果表明本学位论文提出的用于求解非光滑优化问题的基于非精确数据的加速水平束方法和基于非精确数据的加速邻近水平束方法优于传统的非精确水平束方法.(本文来源于《广西大学》期刊2018-06-01）
黎勇,袁功林[5]（2018）在《求解大规模非光滑优化问题的一种修正Hestenes-Stiefel共轭梯度算法》一文中研究指出利用Moreau-Yosida正则化技术和非单调线搜索技术,设计了一种针对大规模非光滑优化问题的修正Hestenes-Stiefel共轭梯度算法.该算法的搜索方向不仅自动满足充分下降条件,而且属于信赖域.在适当条件下,新算法全局收敛.初步的数值实验也表明新算法对于求解大规模非光滑无约束凸优化问题是有效的.(本文来源于《西南大学学报(自然科学版)》期刊2018年05期）
黎勇,王松华[6]（2018）在《求解非光滑优化问题的修正HS叁项共轭梯度法》一文中研究指出为了提高大规模非光滑优化问题的求解效率,克服其他方法存储需求大、算法复杂等缺点,提出求解非光滑优化问题的一种修正HS共轭梯度算法。在经典HS叁项共轭梯度法的基础上提出一种新的搜索方向,并利用Moreau-Yosida正则化技术和Armijo-type线搜索技术进行设计。新算法满足充分下降条件,搜索方向属于信赖域,在适当条件下证明了新算法全局收敛。初步的数值实验表明新算法在求解非光滑无约束优化问题方面比LMBM方法更有效。新算法不仅具有较好的收敛性质,而且数值表现良好,为更加高效地求解非光滑优化问题提供了新的方法。(本文来源于《河北科技大学学报》期刊2018年02期）
高亚丽[7]（2018）在《非光滑优化信赖域束方法及其收敛性分析》一文中研究指出对于求解非光滑优化问题,目前人们使用的比较广泛的方法是束方法,此方法具有一定的稳定性,同时可以保证目标函数的下降,它的特点在于利用信息束保留已获取的迭代信息,这样可以防止丢掉“最好的”点,便于找到所求问题的最优解.本文中,我们主要研究束方法中的一种─信赖域束方法,此方法利用信赖域思想构造一种新的子问题,在Salter约束规范条件下,将约束子问题转化成无约束优化子问题,利用对偶空间思想,运用对偶定理将原问题与对偶问题相互转化,分别求出它们的最优解,再通过研究子问题解的表达式,得到重要的衍生相关结论,最后进一步提出整体信赖域束算法,并对算法收敛性进行分析.本文主要利用信赖域思想,以构造迭代子问题为基础,从对偶角度出发,以无约束优化的结果为相关依据,将带有约束的非光滑优化子问题转化为无约束优化子问题进行求解.全文分为四个部分,主要内容如下:第一章,我们首先给出一些基本概念和已有结论,之后介绍了几种求解非光滑优化问题的基本方法,如:最速下降法、黑盒子法、次梯度法、切平面法以及一般束方法,这些方法是本文进行深入研究的理论基础.第二章,我们借助已有的稳定原则和已获取的函数信息,采用信赖域思想构造新型子问题,当信息束中的元素足够多时,我们利用集技术对模型进行处理.第叁章,从对偶空间角度,我们对信赖域子问题的Lagrangian函数进行了深入研究,并在对偶空间中展开探讨原子问题与对偶子问题之间的联系,得到了原子问题的最优解的相关表达形式,此外,我们还给出了叁个重要衍生结论.第四章,具体的信赖域束算法在这一部分给出,并且我们从两种情况出发,也就是信赖域束算法产生无限多个下降步的情况以及信赖域束算法产生最后一个下降迭代点之后紧随产生无限多个零步的情况,给出了具体信赖域束算法的收敛结果.(本文来源于《辽宁师范大学》期刊2018-04-01）
赵睿[8]（2018）在《关于一类非光滑优化水平束方法的理论研究》一文中研究指出非光滑优化问题是指目标函数和约束函数中至少有一个不是连续可微的数学规划问题,它是最优化理论与方法中一个重要的分支,由于其不具有连续可微的性质,传统的微分概念和优化理论就不再适用,所以这类问题相应的求解方法一直以来都是优化理论研究的重点。非光滑优化问题基本的解决方法包括:一般下降法、最速下降法、次梯度方法、切平面方法、黑盒子法、束方法等。在这些方法中,束方法是将下降性和稳定性相结合的一种方法,它的优势在于能保留上一次的迭代信息,构成一个信息束,这样我们就不会有丢掉“最好的”点的可能,从而迅速准确的找到问题的最优解。本文研究束方法其中的一种---水平束方法。它利用黑盒子中的信息构造原始问题中目标函数的分段仿射模型,将水平集作为约束构造子问题产生下一个迭代点,随着迭代次数的增加,我们采用压缩模式控制子问题的规模。通过对子问题的Lagrangian函数及其对偶问题进行研究,得出原子问题最优解的显示表达,叁个重要结论及其整体算法的收敛性结果~([1])。第一章,为了更好的理解文章的内容,首先阐明一些与水平束方法相关的基本概念、方法和结论,比如,凸函数、约束规范、算法步骤等。第二章,给出本文研究的原始问题,构造其目标函数的分段仿射模型,进一步提出子问题具体形式,对其Lagrangian函数和其对偶问题进行透彻分析,得到其最优解的显性表示。第叁章,进一步对子问题进行分析,做出相应推理,得出与算法收敛性密切相关的重要结论。第四章,根据第叁章得出的相应重要结论,我们对算法的收敛性进行分析。在这一章,将会分成两部分进行证明。一部分,我们对算法的可收敛进行分析,确定其收敛。另一部分,我们给出了算法具体的收敛点,并表明其就是原始函数的最小值点。(本文来源于《辽宁师范大学》期刊2018-04-01）
张清叶,高岩[9]（2017）在《基于CVaR投资组合优化问题的非光滑优化方法》一文中研究指出对选定的风险资产进行组合投资,以条件风险价值(CVaR)作为度量风险的工具,建立单期投资组合优化问题的CVaR模型。目标函数中含有多重积分与极大值函数,首先利用蒙特卡洛模拟产生情景矩阵将多重积分计算转化成求和运算,之后目标函数为分片光滑(非光滑)函数,设计相应的非光滑优化方法并给出其收敛性分析。初步的数值试验表明了本文算法的有效性。(本文来源于《中国管理科学》期刊2017年10期）
王怡洋[10]（2017）在《非凸非光滑优化问题在图像处理和机器学习中的算法与应用》一文中研究指出在信息科学研究领域,基于能量模型求解特定问题的过程常常包含两个步骤:建立能够较好地刻画问题的能量模型,并提出有效的优化方法进行求解。遗憾的是,这两个步骤往往不能同时两全:相比于凸函数来说,非凸非光滑的模型对刻画实际问题的能力更强;然而相比于凸优化问题,非凸非光滑模型也更难被优化求解。因此,不论是为实际应用问题提出能够更好地刻画问题的非凸非光滑模型,还是为非凸非光滑优化问题设计有具有普适性且有效的收敛算法,他们都是当前研究工作中非常具有研究意义的热点问题。本文从非凸非光滑问题在图像处理和机器学习中的算法与应用两方面展开研究,取得了一系列重要成果。本文的工作内容主要包括:(1)针对线性等式约束优化问题的LADMP算法。为线性等式约束优化问题,提出一种基于ADMM的LADMP算法。通过引入辅助变量,将其带来的额外约束惩罚到目标函数上,通过这样做可以证明LADMP算法产生的序列是收敛到原问题的一个KKT点。并且,由于LADMP算法在每次迭代内部使用的是LADM算法,因此它能够保证子问题具有闭形式解。在信号表示和图像去噪问题上的实验结果,表明了 LADMP算法具有较好的收敛性和有效性。(2)针对无约束优化问题学习带Bregman距离的优化算法。为无约束优化问题,提出带Bregman距离的AMBM算法。它针对不同的子问题,使用特定的Bregman距离,以寻求子问题能够更容易被求解。与此同时,它还能获得针对一般非凸非光滑问题较理想的收敛性结果。此外,基于学习的思想,作者提出了 LAMBM算法。它能够从训练数据中自适应地学习算法参数,以使得目标函数值能够快速地下降。(3)一种不精确的优化算法框架。提出了一种不精确的IPAD算法,用来求解无约束的优化问题。在作者给出的不精确条件下,任何有效的算法都能够被融入到IPAD的算法框架中。因此IPAD算法框架是非常灵活的,并且,它同时还保有针对一般非凸非光滑问题较理想的收敛性结果。此外,考虑到子问题的多样性,作者提出了一种混合形式的IPAD算法(HIPAD)。作者在合成和实际数据上验证了 IPAD和HIPAD算法,通过实验可以证实本章提出算法的收敛性和有效性。(4)基于非局部L0模型的显着性检测及其扩展。通过对希望得到的显着性检测结果的刻画,作者为图像显着性检测问题提出了一种非局部的L0模型(NLL0)。NLL0模型中使用的非局部图结构比之前工作中所用的局部图结构能得到更一致的显着性检测结果。作者提出了两种不同的显着性引导图,其中一个是由感知先验产生的,而另外一个是通过对训练数据的学习得到的。此外,这种基于学习策略的NLL0模型也能够被用于交互式图像分割问题中。通过大量的实验证实了作者提出的模型的有效性。(本文来源于《大连理工大学》期刊2017-06-01）
非光滑优化论文开题报告
（1）论文研究背景及目的
此处内容要求：
首先简单简介论文所研究问题的基本概念和背景，再而简单明了地指出论文所要研究解决的具体问题，并提出你的论文准备的观点或解决方法。
写法范例：
非光滑优化问题在现实生活中有着广泛应用.针对一类带有结构特征为两个连续凸函数与具有Lipschitz梯度的二次可微函数的和的无约束非光滑非凸优化问题,给出了一种邻近交替方向法,称之为二次上界逼近算法.该算法结合交替方向法与邻近点算法的思想,将上述优化问题转化为平行的子问题.在求解子问题的过程中,对目标函数中的光滑部分线性化,此时子问题被转化为凸优化问题.然后分别对两个凸优化子问题交替利用邻近点算法求解.基于以上思想,首先我们给出算法的伪代码,然后建立了算法收敛性的充分条件,最后证明在该条件下,算法产生迭代序列的每个极限点是原问题的临界点.
（2）本文研究方法
调查法：该方法是有目的、有系统的搜集有关研究对象的具体信息。
观察法：用自己的感官和辅助工具直接观察研究对象从而得到有关信息。
实验法：通过主支变革、控制研究对象来发现与确认事物间的因果关系。
文献研究法：通过调查文献来获得资料，从而全面的、正确的了解掌握研究方法。
实证研究法：依据现有的科学理论和实践的需要提出设计。
定性分析法：对研究对象进行“质”的方面的研究，这个方法需要计算的数据较少。
定量分析法：通过具体的数字，使人们对研究对象的认识进一步精确化。
跨学科研究法：运用多学科的理论、方法和成果从整体上对某一课题进行研究。
功能分析法：这是社会科学用来分析社会现象的一种方法，从某一功能出发研究多个方面的影响。
模拟法：通过创设一个与原型相似的模型来间接研究原型某种特性的一种形容方法。
非光滑优化论文参考文献
[1].黎勇,李智群.一种求解大规模非光滑优化问题的共轭梯度法[J].华中师范大学学报(自然科学版).2019
[2].钱伟懿,杨岩.一类非光滑优化问题的邻近交替方向法[J].渤海大学学报(自然科学版).2018
[3].杨岩.一类非光滑优化问题的邻近交替算法[D].渤海大学.2018
[4].梁玲.非光滑优化基本非精确数据的加速水水束方法[D].广西大学.2018
[5].黎勇,袁功林.求解大规模非光滑优化问题的一种修正Hestenes-Stiefel共轭梯度算法[J].西南大学学报(自然科学版).2018
[6].黎勇,王松华.求解非光滑优化问题的修正HS叁项共轭梯度法[J].河北科技大学学报.2018
[7].高亚丽.非光滑优化信赖域束方法及其收敛性分析[D].辽宁师范大学.2018
[8].赵睿.关于一类非光滑优化水平束方法的理论研究[D].辽宁师范大学.2018
[9].张清叶,高岩.基于CVaR投资组合优化问题的非光滑优化方法[J].中国管理科学.2017
[10].王怡洋.非凸非光滑优化问题在图像处理和机器学习中的算法与应用[D].大连理工大学.2017
论文知识图
