导读:本文包含了无约束最优化问题论文开题报告文献综述、选题提纲参考文献及外文文献翻译，主要关键词:最优化,梯度,无约束,全局,方法,共轭,收敛性。
无约束最优化问题论文文献综述
刘金魁[1]（2016）在《无约束最优化问题与非线性方程组的若干解法研究》一文中研究指出本文主要研究求解大规模无约束最优化问题的非线性共轭梯度法和谱梯度法及它们的推广形式,并进一步扩展和构建求解大规模非线性单调方程组问题的无导数投影法,建立方法的全局收敛性定理,并利用大量的数值试验展示方法的有效性和稳定性。我们首先在第1章回顾了将要研究问题的背景和已有结果,然后阐述了本文的选题动机和主要工作。在第2-3章,我们从不同角度研究了求解无约束优化问题的杂交LS-DY共轭梯度法和叁项HS共轭梯度法,分别记为HLSDY方法和TMHS方法。这两种方法的重要性质是HLSDY方法的搜索方向即满足D-L共轭条件又与牛顿搜索方向一致,TMHS方法的搜索方向即满足传统共轭条件又具有充分下降性质。重要的是,这些性质不依赖于线搜索条件。在精确线搜索下,HLSDY方法和TMHS方法分别退化为传统的LS方法和HS方法。对于非线性共轭梯度法,搜索方向的性质对于算法的收敛性研究和数值效果具有重要影响,我们在HLSDY方法中采用了着名的Powell重新开始准则,在强Wolfe线搜索条件下也证明了HLSDY方法能产生充分下降方向,且对一般无约束最优化问题具有全局收敛性。在适当的假设条件下,我们证明了TMHS方法在标准Wolfe线搜索下用于求解无约束最优化问题的全局收敛性。通过对CUTEr函数库中大量的无约束测试问题进行试验,大量数值结果表明,HLSDY方法和TMHS方法是非常有效的。我们在第4章提出一种修正的谱梯度法,该方法的一个重要特征是在没有任何线搜索时总能产生充分下降方向。在Armijo线搜索条件下,所提方法对求解无约束最优化问题具有全局收敛性。特别是,我们结合两阶段法将该方法应用于脉冲噪音去噪问题。在两阶段算法的第一阶段,采用自适应中值滤波方法来检测图像中的噪声点;在第二个阶段中采用修正的谱梯度法求解一个极小化问题来恢复检测到的噪声点。在第5章,基于一种修正的HS方法,我们首先提出一种求解大规模无约束优化问题的叁项共轭梯度法,该方法的搜索方向满足D-L共轭条件,并在一定条件下与无记忆BFGS方法的搜索方向保持一致。然后,在Solodov和Svailter提出的投影技术基础上,我们推广上述方法建立求解大规模无约束非线性单调方程组问题的叁项无导数投影法,记为TTDFP方法。在适当的假设条件下,我们证明了TTDFP方法的全局收敛性和R-线性收敛速度。在第6章,基于传统DY方法的稳定性和多元谱梯度方法的有效性,我们讨论了求解大规模非线性方程组问题的无导数多元谱DY型投影法,记为MSDYP方法。在适当的假设条件下,无需借助评价函数,我们证明了MSDYP方法对带凸约束条件的非线性单调方程组是全局收敛的,并且具有R-线性收敛速度。在第7章,针对压缩感知中的1正则化问题,在CGD方法的基础上我们研究了一种修正的无导数投影法。在适当的条件下,我们建立了方法的全局收敛性定理,并且给出了数值试验结果。最后,简要总结了本文内容,并且提出了一些遗留的问题和今后准备思考的问题。(本文来源于《重庆大学》期刊2016-03-01）
蔡海鸾[2]（2015）在《惩罚函数法在约束最优化问题中的研究与应用》一文中研究指出惩罚函数法是解决约束优化问题的一种常用且有价值的方法,而如何构建有效的惩罚函数是此方法的关键。遗传算法是一种高效的随机搜索算法,它通过模拟自然进化去搜索最优解。将惩罚函数法与遗传算法相结合是当前最优化领域研究的热点。本文在介绍惩罚函数法和遗传算法的基础上,重点研究如何构建惩罚函数。首先介绍了静态惩罚函数、动态惩罚函数、退火惩罚函数和自适应惩罚函数这几类常用的惩罚函数,并分析了它们的优缺点。然后本文提出了一种结构简单、通用性强的新自适应惩罚函数,证明了该函数的收敛性,并将其和遗传算法结合为混合遗传算法,详述了混合算法的实现步骤并证明了混合算法的收敛性。本文通过多组数值实验例子比较了静态惩罚函数(HSSP),动态惩罚函数(KPDP),退火惩罚函数(JHAP),自适应惩罚函数(BHAP)和新的自适应惩罚函数(NAP)与遗传算法相结合后的性能。实验结果表明,在大多数算例中,相对于HSSP、KPDP、JHAP,基于BHAP和NAP的混合遗传算法精度更高,稳定性更强。在处理高维非线性优化问题时,基于NAP的混合遗传算法相比于BHAP的混合遗传算法性能有进一步提升,在保持解精度的同时,收敛速度更快,稳定性更强。为了进一步提升基于NAP的混合遗传算法的性能,本文又将混合遗传算法与约束变尺度法相结合,给出了其实现步骤。理论分析和数值实验结果表明,与约束变尺度法结合能够在保证收敛速度和稳定度的同时,提高解的精度。(本文来源于《华东师范大学》期刊2015-05-20）
高蒙[3]（2014）在《求解无约束最优化问题算法比较》一文中研究指出无约束最优化问题的计算方法是数值计算领域的重要研究课题,快速求解无约束最优化问题具有重要意义。由于现行求解无约束最优化问题的方法很多,而在选择求解方法时,需要选择一个较为快速且复杂度较小的方法,为解决这个问题,在详细介绍求解无约束问题的算法基础上,结合MATLAB软件针对具体问题将求解无约束最优化问题的六种算法进行对比研究,根据其时间复杂度和数值计算结果的精确度来确定一个相对有效的算法。(本文来源于《市场周刊(理论研究)》期刊2014年05期）
张鑫春[4]（2014）在《解约束最优化问题的凝聚函数法（英文）》一文中研究指出凝聚函数法(AFM)是用于求解约束最优化问题的有效方法之一,然而,凝聚函数法本身存在解发散和数据溢出问题。为系统地解决凝聚函数法的以上缺陷,本文提出一种全新的凝聚函数,通过增加稳定项来解决解发散的问题,增加指数渐消因子解决数值计算中的数据溢出问题。此外,本文还给出凝聚函数和改进的凝聚函数的性质。(本文来源于《新型工业化》期刊2014年01期）
李伦[5]（2013）在《关于多目标锥约束最优化问题的弱Pareto最优的相关性质》一文中研究指出在这篇文章中,解决了一类多目标锥约束最优化问题(简称VP)的弱ε-有效解及其解的紧致集合的存在性.我们还给出了该VP问题的标量最小化问题和在满足一定条件下得到该VP问题的弱ε-有效解存在的充要条件.此外,基于该VP问题的拉格朗日乘子,还建立了一类无约束的向量优化问题,以及在一定的假设条件下,得到它们的等价性.(本文来源于《赤峰学院学报(自然科学版)》期刊2013年20期）
王祝君,朱德通[6]（2013）在《非线性等式和有界约束最优化问题的仿射内点过滤线搜索算法》一文中研究指出提出了求解变量有界的非线性等式约束最优化问题的过滤线搜索仿射内点算法.算法的总体收敛性和局部收敛速率的分析可参考文献[4].数值结果证实了算法的有效性.(本文来源于《湖南工程学院学报(自然科学版)》期刊2013年03期）
孟继东[7]（2013）在《对求解无约束最优化问题的非线性共轭梯度算法的研究》一文中研究指出在求解大规模无约束优化问题的方法中，共轭梯度法相比于牛顿法、拟牛顿法具有算法简单、易于编程、存储需求小等优点，因此共轭梯度法是求解大规模无约束优化问题的一种重要方法。本文着重研究具备充分下降性的共轭梯度算法，通过大量的数值测试函数来检验算法的有效性。主要工作如下：第二章中给出了一种修正的LS共轭梯度算法。通过对LS方法进行迭代格式上的修正，得到了不依赖线搜索而具备充分下降性的的新算法，并且证明了在一般函数的情况下，新算法具备全局收敛性，通过一定的数值算例证明了算法的有效性。在第叁章中，结合韦增欣教授研究的新拟牛顿条件，进一步改进第二章中MLS方法，得到了良好的理论与数值效果。第四章利用程万友提出的迭代格式对戴志峰基于新的割线条件提出的HS方法做进一步的修正，在Armijo线搜索下证明了算法对一致凸函数的全局收敛性，同时证明了在Wolfe线搜索下对一般函数的全局收敛性。数值实验显示改进后的HS方法优于原来的HS方法。第五章利用Gram-Schmidt正交化技术对谱Perry共轭梯度方法做进一步的修正，提出一类具有充分下降性的修正谱Perry共轭梯度方法，并且在弱Wolfe线搜索下证明了算法对一致凸函数的全局收敛性。数值实验表明修正的Perry共轭梯度法计算效果更优。(本文来源于《重庆师范大学》期刊2013-05-01）
刘景辉[8]（2013）在《无约束最优化问题的信赖域方法研究》一文中研究指出本文主要研究求解无约束优化问题的带线搜索的信赖域算法.目前,线搜索方法和信赖域方法是求解无约束问题的两类重要方法.与线搜索方法相比,信赖域方法需要的迭代次数少,且有很好的稳健性和较强的收敛性.此外,信赖域方法不仅能很好地求解良态问题,而且也能有效地处理病态问题.在近叁、四十年来受到了最优化研究界的重视.传统的信赖域方法在试探步失败时需重解信赖域子问题,造成不易求解新的迭代点、计算量大等缺点.为克服重解信赖域子问题的缺陷,Jorge和Yuan[6,7], Michael Gertz[8]等相继提出了将信赖域与线搜索相结合的新算法.本文针对无约束优化问题,提出了两种新的带线搜索的信赖域方法,主要内容如下：第一章,在传统信赖域方法的基础上,提出了求解无约束优化问题的一个新的带线搜索的信赖域算法.该算法采用大步长Armijo线搜索技术获得迭代步长,克服了每次迭代求解信赖域子问题时计算量较大的缺点,因而适用于求解大型的优化问题.在适当的条件下,我们证明了算法的全局收敛性.数值实验结果表明本文所提出的算法是有效的.第二章,首先提出一种新的非单调非精确线搜索技术,并将其结合到信赖域方法中,用来求解无约束优化问题.在新的线搜索中,当前的非单调项是先前的非单调项与当前目标函数值的凸组合,而不是当前的目标函数值.当非单调项与信赖域方法结合后我们可在每步线搜索获得大步长并保有算法的非单调性.与传统信赖域方法不同,新算法在试探步不被接受时避免了重解信赖域子问题.在合适的条件下建立了算法的全局收敛性.数值实验表明新算法对求解无约束优化问题是有效的.第叁章,对本文的工作进行总结,并展望未来的研究工作.(本文来源于《福建师范大学》期刊2013-04-01）
经红霞[9]（2013）在《无约束最优化问题的算法研究与实现》一文中研究指出本文研究了两类无约束最优化问题的实用算法,其中主要介绍了一种改进的子空间搜索算法和一种改进的混合优化算法。在“子空间搜索”章,就无约束最优化问题,本文提出了一种改进的策略——子空间搜索算法,并将此算法应用于一些经典的无约束优化算法中,譬如最速下降法(GM)、FR共轭梯度法和PRP共轭梯度法,然后同应用了一维线搜索准则下的算法进行数值比较,根据不同类型测试函数的执行结果和各自的性能特点,来验证子空间搜索算法的可行性和优越性。数值试验结果表明,子空间搜索算法是可行有效的。再者,本着从实际应用的角度考虑,本文也对子空间搜索算法和已有的线搜索算法进行了相关的对比分析。由分析结果可知,改进的子空间搜索算法提高了算法的计算效率,节省了大量的计算代价。在“改进的混合优化算法”章,本文针对无约束最优化问题又提出了一种改进的混合优化算法。此算法的核心思想是：首先用最速下降法迭代,在大范围内找到一个好的初始点给修正牛顿法,然后在最优点附近改用修正牛顿法进行迭代。此算法能有效弥补牛顿算法要求目标函数“凸性”的局限性,从而推广了牛顿算法的使用范围,在一定条件下此算法仍具有全局收敛性和二次收敛性。试验结果表明,新算法是有效可行的。(本文来源于《北京邮电大学》期刊2013-03-11）
陈姗[10]（2013）在《求解无约束最优化问题的一个新的拟牛顿方法》一文中研究指出拟牛顿法(Quasi-Newton Methods)是求解非线性无约束最优化问题最有效的方法之一,并且许多最小化问题的解决方法都是由牛顿法的变形而得到的,本文着重对无约束最优化问题的拟牛顿法进行了研究,本文的前半部分简单给出了求解无约束最优化问题的各种常用方法以及拟牛顿法的研究背景,本文的后半部分给出了一个新的拟牛顿方程,并给出了相应于新的拟牛顿方程的一类新算法。本文首先利用了由Zhang等人在2001年运用张量方法推导的拟牛顿方程的思想构造了一个新的拟牛顿方程,它包含了一般拟牛顿方程的大部分性质。其次,基于新的拟牛顿方程给出了一类新的算法,该算法中包含了较多形式的秩一修正和秩二修正形式的公式,同时它的秩二形式的公式包含了由最初的拟牛顿方程和张建中的新拟牛顿方程所导出的秩二修正公式,具有广泛的应用性。再次本文给出了△Bk的两种较简单的形式,并证明了相应的两种BFGS-TYPE迭代算法的全局收敛性和超线性收敛性,最后进行数值试验来验证我们的理论分析,并且表明了该算法具有较好的实用性。(本文来源于《南京理工大学》期刊2013-01-01）
无约束最优化问题论文开题报告
（1）论文研究背景及目的
此处内容要求：
首先简单简介论文所研究问题的基本概念和背景，再而简单明了地指出论文所要研究解决的具体问题，并提出你的论文准备的观点或解决方法。
写法范例：
惩罚函数法是解决约束优化问题的一种常用且有价值的方法,而如何构建有效的惩罚函数是此方法的关键。遗传算法是一种高效的随机搜索算法,它通过模拟自然进化去搜索最优解。将惩罚函数法与遗传算法相结合是当前最优化领域研究的热点。本文在介绍惩罚函数法和遗传算法的基础上,重点研究如何构建惩罚函数。首先介绍了静态惩罚函数、动态惩罚函数、退火惩罚函数和自适应惩罚函数这几类常用的惩罚函数,并分析了它们的优缺点。然后本文提出了一种结构简单、通用性强的新自适应惩罚函数,证明了该函数的收敛性,并将其和遗传算法结合为混合遗传算法,详述了混合算法的实现步骤并证明了混合算法的收敛性。本文通过多组数值实验例子比较了静态惩罚函数(HSSP),动态惩罚函数(KPDP),退火惩罚函数(JHAP),自适应惩罚函数(BHAP)和新的自适应惩罚函数(NAP)与遗传算法相结合后的性能。实验结果表明,在大多数算例中,相对于HSSP、KPDP、JHAP,基于BHAP和NAP的混合遗传算法精度更高,稳定性更强。在处理高维非线性优化问题时,基于NAP的混合遗传算法相比于BHAP的混合遗传算法性能有进一步提升,在保持解精度的同时,收敛速度更快,稳定性更强。为了进一步提升基于NAP的混合遗传算法的性能,本文又将混合遗传算法与约束变尺度法相结合,给出了其实现步骤。理论分析和数值实验结果表明,与约束变尺度法结合能够在保证收敛速度和稳定度的同时,提高解的精度。
（2）本文研究方法
调查法：该方法是有目的、有系统的搜集有关研究对象的具体信息。
观察法：用自己的感官和辅助工具直接观察研究对象从而得到有关信息。
实验法：通过主支变革、控制研究对象来发现与确认事物间的因果关系。
文献研究法：通过调查文献来获得资料，从而全面的、正确的了解掌握研究方法。
实证研究法：依据现有的科学理论和实践的需要提出设计。
定性分析法：对研究对象进行“质”的方面的研究，这个方法需要计算的数据较少。
定量分析法：通过具体的数字，使人们对研究对象的认识进一步精确化。
跨学科研究法：运用多学科的理论、方法和成果从整体上对某一课题进行研究。
功能分析法：这是社会科学用来分析社会现象的一种方法，从某一功能出发研究多个方面的影响。
模拟法：通过创设一个与原型相似的模型来间接研究原型某种特性的一种形容方法。
无约束最优化问题论文参考文献
[1].刘金魁.无约束最优化问题与非线性方程组的若干解法研究[D].重庆大学.2016
[2].蔡海鸾.惩罚函数法在约束最优化问题中的研究与应用[D].华东师范大学.2015
[3].高蒙.求解无约束最优化问题算法比较[J].市场周刊(理论研究).2014
[4].张鑫春.解约束最优化问题的凝聚函数法（英文）[J].新型工业化.2014
[5].李伦.关于多目标锥约束最优化问题的弱Pareto最优的相关性质[J].赤峰学院学报(自然科学版).2013
[6].王祝君,朱德通.非线性等式和有界约束最优化问题的仿射内点过滤线搜索算法[J].湖南工程学院学报(自然科学版).2013
[7].孟继东.对求解无约束最优化问题的非线性共轭梯度算法的研究[D].重庆师范大学.2013
[8].刘景辉.无约束最优化问题的信赖域方法研究[D].福建师范大学.2013
[9].经红霞.无约束最优化问题的算法研究与实现[D].北京邮电大学.2013
[10].陈姗.求解无约束最优化问题的一个新的拟牛顿方法[D].南京理工大学.2013
论文知识图
![绝对值函数及其次微分[130]](/uploads/article/2020/01/06/a848d70de125c6cc72eefa0b.jpg)
