一、一个新的改进的BFGS方法（论文文献综述）
李朋原[1]（2021）在《一类修正的拟牛顿算法》文中研究说明最优化设计在实际生活中的应用非常广泛,我们可以通过数值最优化中的基础知识和计算方法来解决实际生活中的问题,运用科学的计算方法和网络编程来使我们的工作变得更加效率、科学,所以研究无约束最优化问题的计算方法是意义重大的.拟牛顿法是解非线性方程组及最优化计算中最有效的方法之一,如今,优化软件中包含了大量的拟牛顿算法用来解决无约束、约束和大规模的优化问题.因此,更进一步地研究拟牛顿算法的性质和应用显得尤为重要.本文主要研究求解无约束优化问题的一类修正的拟牛顿算法.BFGS方法在众多优化软件中有着广泛的应用,是求解无约束优化问题的一种基本而重要的拟牛顿方法.BFGS方法的一个有趣的特性是它的自校正性质,为了使BFGS方法在这一性质下拥有更好的性能,本文提出了一种新的单参数自缩放BFGS方法.另外,介绍了一种改进的弱Wolfe-Powell线搜索,即Yuan-Wei-Lu（YWL）线搜索,并证明了在YWL线搜索下单参数自缩放BFGS方法的全局收敛性.初步的数值实验表明,该方法的计算效率具有很好的竞争性.其次,通过对标准BFGS方法的前两项和后一项进行不同参数的缩放,本文又提出了一种新的双参数自缩放BFGS方法.基于弱Wolfe-Powell线搜索,本文证明了新的双参数自缩放BFGS方法对非凸函数的全局收敛性.实验表明,提出的新方法相较于标准的BFGS方法会更加有效.
卢俊宇[2]（2021）在《两类非线性共轭梯度算法》文中研究说明随着科技进步与社会高速发展,日渐增加的现实问题促使人们研究最优化方法.该方法主要针对不同问题所提出各种科学的解决方案,致力于在其中寻找出最优决策方案.实际生活中最优化方法被广泛地应用到金融、贸易、工程管理等领域.故最优化方法有广阔的研究前景.随着优化问题的规模增大和维数增加,优化问题的求解变得困难,学者们致力于寻找更好的最优化方法.本学位论文是关于求解大规模无约束优化问题的算法研究.针对求解大规模无约束优化问题,本文提出了一种基于自适应有限内存BFGS公式的三项共轭梯度算法.算法中采用了一种改进的WWP线搜索技术来获得步长αk.搜索方向可通过带有两个正参数的对称Perry矩阵与函数梯度信息来获得,并且算法能保证充分下降性不依赖于文中所应用的线搜索技术.为避免受迭代中失败的点影响算法引入一个抛物面,将其视为投影面,下一个迭代点xk+1由新的投影技术生成.在改进的WWP线搜索下,新算法能保证满足全局收敛性,同时在数值实验中表现比其他算法出色.针对求解大规模无约束优化问题,本文提出了基于新共轭条件的修正DL共轭梯度算法.算法中结合两个不同的拟牛顿方程,得到新的共轭条件.基于新共轭条件,改进的DL共轭梯度法同时包含梯度和函数值信息.在一些合适的假设条件下,该算法具有全局收敛性.数值实验包括无约束优化问题和图像恢复问题,数值结果表明该方法是有效的.
贾金梁[3]（2021）在《循环神经网络的自动高速结构优化》文中研究指明循环神经网络（Recurrent Neural Networks,RNN）是一个简洁高效的非线性通用模型,加上时间元素之后,能有效地处理动态系统（包括时间序列）问题。在实践中,RNN的网络结构（包括反馈位置,隐藏层神经元个数,激活函数等）通常需要人为预先确定,这要求丰富的经验或者繁琐的反复实验;另外,RNN的权值参数优化一直是基于梯度方法的,梯度消失和梯度爆炸问题表现得尤为突出,这些都导致了RNN结构设计困难或者网络性能不佳。为了提高RNN的结构设计效率和网络性能,本文首先提出了一种RNN的自动化结构设计方法,由此形成了层内时间延迟神经网络（Intra-layer Time Delay Neural Network,ILTDNN）模型。ILTDNN模型引入延迟时间,延迟权值,激活函数种类三种结构参数增强网络性能,从两个方面体现了自动化结构设计:1).不用预先确定网络大小,而是通过网络生长确定;2).不用预先确定网络结构参数,而是通过优化算法得到。另外,该模型还将时间序列特征预处理过程并入网络结构设计过程中,实现了特征处理自动化,这也避免了当RNN网络性能表现不佳时,难以确定是特征处理不当还是网络结构设计不当的困境。传统的基于梯度的算法无法对结构优化,收敛缓慢,也很容易陷入局部最优,而进化算法可以通过编码和种群来高效地搜索结构参数空间。因此,本文还为ILTDNN模型设计了基于网络生长的增量优化策略和优化网络结构参数的混合进化算法。增量优化策略解决了网络从小到大生长时哪些参数会被优化的问题,一方面可以避免先前的优化努力不会浪费,另一方面可以减少要优化的结构参数数量。混合进化算法是基于改进收敛性的自然进化策略算法和具有超线性收敛的二阶局部搜索算法设计,其使用局部搜索增强种群搜索的梯度方向。实验表明,混合进化算法能够很好的处理复杂多模态问题。在实践中,将混合进化算法与并行计算技术结合,在多核处理器上能够实现RNN结构参数的高速准确求解。此外,本文比较了ILTDNN模型的几种结构参数对网络性能的影响,并将该网络模型应用于几个经典的混沌时间序列预测问题和轴承系统故障预测问题,证明了其有效性。与现有的大多数其它神经网络相比,通过自动化结构设计方法和混合进化算法生成的网络结构更加小型化,预测更准确。因此,网络模型更简洁,具有更好的泛化能力和应用前景。
张丽媛[4]（2020）在《IMRT中子野形状生成优化算法研究》文中提出放射治疗为治疗肿瘤的三大常规手段之一,超过半数的癌症患者在治疗过程中需要接受放射治疗。放射治疗利用射线照射病灶,通过射线能量破坏癌细胞染色体以达到杀死癌细胞、治疗肿瘤的目的。放射治疗在利用射线照射病灶时,会不可避免地照射到病灶周围的正常组织,从而引起辐射损伤。为了减少正常组织在放射治疗过程中所接收的剂量、降低正常组织并发症发生的概率,调强放射治疗（Intensity-modulated Radiation Therapy,IMRT）应运而生。IMRT利用多种调强技术,依据优化算法所得放射治疗计划设置子野形状和权重,使得照在人体上的射线高剂量区域与靶区区域高度重合,降低靶区周围正常组织所接收到的剂量。本研究立足于IMRT的多叶准直器静态调强技术,对子野形状生成优化算法展开了深入研究,主要工作如下:（1）针对在IMRT方案优化中,物理准则目标函数无法准确反映生物组织在非均匀剂量照射下的生物反应、有限内存的BFGS算法（Limited memory BFGS,L-BFGS）无法直接求解IMRT方案优化问题等问题,提出一种基于生物准则的IMRT方案优化方法,并应用于求解采用两步法实现IMRT静态调强过程中的注量图优化（Fluence Map Optimization,FMO）问题。所提方法首先将生物准则引入到IMRT方案优化问题的总目标函数构造中,研究生物准则的特性以及对应子目标函数的函数性质,并对比基于物理准则目标函数和基于生物准则目标函数对优化结果的影响;然后采用带边界约束的L-BFGS算法（L-BFGS for bound constrained,L-BFGS-B）求解FMO问题,对比L-BFGS算法与L-BFGS-B算法在求解FMO问题过程中的异同之处。研究表明,在优化问题的总目标函数中引入生物准则子目标函数,能够更准确地反映生物组织的放射剂量学效应,合理预测正常组织的并发症概率并予以反馈;采用L-BFGS-B算法直接求解IMRT方案优化问题,能够进一步降低求解问题的计算量。（2）针对列生成（Column Generation,CG）算法直接利用子野梯度信息生成临床可接受的治疗计划存在计算量大的问题,提出一种基于区域生长的CG算法,以降低CG算法生成子野形状的计算量。首先,对经计算所得的子野梯度图进行非线性变换,研究子射束梯度与子野形状之间的关系。其次,对处理后的子野梯度图进行区域生长,并对区域生长后的梯度图进行合并,分析所提方法降低计算量的性能。然后,利用处理后的子野梯度图构造图论方法所需的网络图,采用最短路径算法求解代价问题,获得临床可接受的子野形状,并将其添加到治疗计划中。最后,对已生成的子野的权重进行优化。研究表明,相较于一般的CG算法,所提方法能够在不改变算法结构的基础上降低生成子野的计算量,实现算法加速,并且能够提高所得治疗计划质量。（3）针对采用负梯度下降方向搜索极值、在极值附近存在收敛速度变慢的问题,提出一种基于动量梯度下降方向的子野形状生成算法,用以加速现有CG算法采用负梯度下降方向搜索子野形状的收敛进程。在子野形状生成过程中,首先,获得子野梯度图,研究相较于最速下降法,动量梯度下降法加速搜索进程、减少搜索方向振荡的原理。然后,根据子野梯度图中的梯度元素计算动量梯度,分析动量梯度不改变极值的特性。最后,构造动量梯度下降方向用以搜索临床可接受的子野形状,研究动量梯度下降方向的加速性能。研究表明,所提方法能够利用更少的子野获得比一般的CG算法的优化结果质量要好的治疗计划。（4）此外,为了克服CG算法采用负梯度下降方向生成子野形状存在收敛速度慢的缺陷,提出基于共轭梯度下降方向的CG算法。所提方法在子野形状生成过程中,利用子野梯度图中梯度构造共轭梯度下降方向,用以搜索临床可接受子野形状。实验结果表明,所提方法能够在减少治疗计划所需的子野数目的同时,降低算法优化时间,同时改善各个器官上的剂量分布。进一步地,为了加快基于单一的共轭梯度下降方向搜索子野形状的进程,提出了基于两种共轭梯度下降方向联合决策的CG算法。在代价问题求解过程中,根据子野梯度图中的梯度信息分别构造两种共轭梯度下降方向,然后随着迭代次数的增加,调节两种共轭梯度下降方向在决定子野形状搜索方向时的权重,以获得临床可接受的子野形状并加入到治疗计划中。研究表明,相较于一般的CG算法和基于单一的共轭梯度下降方向的CG算法,所提方法的目标函数的下降速度最为理想,算法速度最快,并且所得治疗计划的质量得到了提高。
赵文娟[5]（2020）在《基于BFGS修正的共轭梯度法》文中研究说明共轭梯度法是解决无约束优化问题的有效方法之一.近年来,众多学者对共轭梯度法进行研究探索,并得到了好的进展.目前大部分文献主要研究共轭梯度法的共轭参数和共轭方向.通过对共轭参数和共轭方向进行改进得到了很多有效解决无约束优化问题的共轭方向法.本文基于BFGS方法,提出了四种改进的共轭梯度法.第一,将性能优于传统拟牛顿法的调比拟牛顿法与对称调比的Perry共轭梯度法结合起来,在Perry共轭梯度法的基础上进行改进,利用最小距离法求出了数值效果较好的共轭参数,同时对搜索步长进行加速处理,提出了基于无记忆BFGS的改进加速的共轭梯度法（XGACGSSV）.第二,对常参数的共轭梯度法进行了改进,用最小距离法将共轭方向逼近拟牛顿方向获得了自适应的参数,得到了性能更好的共轭梯度法,该方法具有拟牛顿法和共轭梯度法的优点,称为基于无记忆BFGS的新的共轭梯度法（NCGSSV）.第三,无记忆的BFGS法可以减少存储空间,共轭梯度法具有较快的收敛性,将BFGS法和共轭梯度法的优点结合起来,并对共轭梯度法的搜索方向进行改进得到了一种新的搜索方向,在原有的PRP共轭梯度法上改进得到了基于无记忆BFGS的改进的PRP共轭梯度法（MPRP）.第四,对Dai-Liao（DL）共轭梯度法中的共轭参数进行改进,把原有的共轭参数改为自适应的共轭参数,得到一种既满足下降性和全局收敛性且数值实验效果较好的自适应的Dai-Liao共轭梯度法.
谢丽[6]（2020）在《基于割线条件和逼近思想的修正共轭梯度法》文中指出非线性共轭梯度算法因其迭代格式简单、计算量及储存所需空间小等优点,使其成为在求解大规模无约束最优化问题时的重要算法.本文从充分下降性、全局收敛性以及数值计算效果上入手,分别对共轭梯度法以及谱共轭梯度法作了进一步的研究修正,给出了不依赖线搜索具有充分下降性的修正共轭梯度法.第一部分,首先介绍了在求解无约束优化问题时经常会用到的几个线搜索以及几个经典的共轭梯度法和它们各自的优缺点,接着对近年来非线性共轭梯度法的一些研究现状作了综述.然后介绍了在证明非线性共轭梯度法的收敛性时会用到的两个基本假设以及重要引理,最后简单的概述了本文的主要工作.第二部分,基于修正割线条件并结合Liu等人提出的共轭梯度法,推导出了一个新的共轭梯度法（简称MD方法）.为了得到更好的理论证明,对MD方法做了进一步的修正得到了相应的共轭梯度法（简称MD+方法）.理论上,MD方法和MD+方法不依赖线搜索满足充分下降性.在Wolfe线搜索下,MD方法对一致凸函数满足强收敛,MD+方法对一般函数满足全局收敛性.数值计算上,MD方法和MD+方法均略优于DK+方法.第三部分,基于逼近思想,考虑将第二章中的MD共轭梯度法与谱梯度法相结合,得到了谱参数的有效选取.为得到该方法的充分下降性,采用双截断技巧对谱参数作了相应的截断,提出了一个新的谱共轭梯度法（简称MJC方法）.理论上,MJC方法不依赖线搜索满足充分下降性,在Wolfe线搜索下对一般函数具有全局收敛性.数值计算上,MJC方法明显优于DK+方法.
陈昱含[7]（2020）在《基于混合割线方程修正的L-BFGS算法》文中研究表明L-BFGS方法是解决大规模无约束优化问题最有效的拟牛顿方法之一,该方法既保持了BFGS方法在理论上良好的收敛性,又克服了拟牛顿法储存量大、计算量大的困难。大量研究表明,对割线方程进行修正能更好地逼近目标函数的二阶曲率信息,进而改善BFGS方法的计算效率。基于Li和Yuan等人提出的两种割线方程,构造了一种新的混合割线方程,并用该方程修正了L-BFGS算法,提出了一个基于混合割线方程修正的L-BFGS算法（ML-BFGS）。在适当的假设条件下,建立了ML-BFGS方法在一致凸函数上的全局收敛性,并证明了该方法是R-线性收敛的。数值结果表明,在某些情况下,ML-BFGS方法要比L-BFGS方法更优。
刘鑫波[8]（2020）在《对抗样本技术在恶意软件检测和自动驾驶应用中的研究》文中研究表明基于机器学习、人工神经网络方法的人工智能技术及其相关应用,目前正得到前所未有的发展机遇。近年来,随着高性能计算技术的升级、各类优化算法的完善、5G网络的商用化,智能物联网技术的发展,以人工智能技术为基础的产品研究与应用正得到了国内外各行各业的重视。近年来从中央政府到地方机构,各级政府正在大力建设智慧城市、人工智能产业园区,行业巨头也正在逐渐完善各自在人工智能领域的产业链布局,创新型企业也正在加大对人工智能垂直领域的深度融合。然而事物总是一分为二的,当前深度神经网络研究中出现的对抗样本技术带来了人工智能研究领域中的新问题。对抗样本是指在原样本中通过人为增加某些少量的特定干扰,可以在人类无法准确分辨差异的情况下使得某些人工智能模型产生错误的判定结果。这种误判现象对于人工智能研究领域却是灾难性的。特别是针对应用较为广泛的人脸识别、无人驾驶、恶意软件检测等技术领域,相关研究的安全问题引起人们的普遍重视。论文主要就对抗样本技术在当前值得关注的恶意软件检测、以及自动驾驶等领域的应用展开研究,并提出相应的攻击与防御方法。论文的主要工作和创新点包括以下几个方面内容:（1）针对对抗样本技术进行了综述。其中,包括与对抗样本技术相关的基础概念、对抗样本的生成方法、防御对抗样本的策略、以及与对抗样本相关的实际应用技术。论文中详细分析了六种经典的对抗样本攻击方法以及五种防御性策略;同时,介绍了当前对抗样本技术新颖的拓展性领域,综合、详细的讨论了对抗样本技术的进展。（2）针对对抗样本技术对恶意软件检测器的攻击进行研究。提出一种对抗性纹理恶意软件攻击方法,即ATMPA方法。该攻击方法利用基于梯度下降和L-范数优化算法,将转化后的恶意软件样本图片进行微小的扰动,最终致使基于机器学习的可视化检测方法失效。在开源数据集上进行的测试结果表明,只需微弱的干扰就能使得多种基于机器学习的检测方法失效;同时,ATMPA在攻击不同的检测方法之间还能获得较高的转移率。攻击实验结果表明,通过微弱的干扰,可以获得100%的成功率。此外,通过对基于机器学习的不同检测方法之间的可转移性测试,该方法能够获得88.7%的最大可转移率以及74.1%的平均可转移效率。（3）研究了利用对抗样本技术强化恶意软件检测器和提高检测准确度的问题。提出一种基于对抗性训练的恶意软件可视化检测方法,即Visual-AT方法。不同于传统的基于数字签名、静态代码分析、以及动态代码分析的检测方法,Visual-AT方法不仅可以提高恶意软件在分析判别中的检测效率,而且可以防御恶意软件对抗样本的可能攻击、以及与之相关变种样本的潜在威胁,并达到防止零日攻击的效果。通过对两种开源的恶意软件数据库进行检测,实验结果表明Visual-AT方法不仅可以达到防止零日攻击的目的,而且还能获得最高97.73%的准确率,以及96.25%的平均准确率。同时,在多项性能的评价指标上Visual-AT方法也明显优于现有的几种检测方法。（4）研究了对抗样本技术在自动驾驶系统中的安全问题。结合现有的对抗性技术与图像缩放技术提出一种基于对抗样本的自动驾驶交通标示攻击方法,即AE-Sign方法。该方法分析了自动驾驶技术的安全性问题,指出了基于深度学习方法在实际应用中存在的误判现象。AE-Sign方法通过图像缩放技术,在原始实景图中利用对抗样本方法添加微弱的干扰信息,可以在不破坏原图可识别性的情况下达到干扰交通标示识别系统的目的,由此导致自动驾驶系统失误。通过开源实时数据集的实验测试,AE-Sign攻击方法表现出较高的准确度,较少的干扰可以达到100%的成功率,并且,平均转移率达到86.5%。相比同类型攻击方法,AE-Sign攻击方法不仅具有较强的灵活性与泛化能力,同时还能保持干扰样图与原始样本图的最大一致性,大大提高攻击的可靠性与可信度。（5）针对对抗样本技术以及自动驾驶技术的应用,设计并实现一个对抗样本交通标志攻击系统原型。系统原型首先搭建一个简单的自动驾驶模拟系统,再结合现有的对抗样本攻击方法进行攻击测试。系统按照模拟自动驾驶的实景方式进行攻击,初步实现了基于对抗样本技术针对自动驾驶系统的攻击环境。论文中详细介绍了攻击系统的构架、以及各个功能模块的实现。最后,通过实时路况数据的测试,将实验结果以图、表的形式展示出攻击系统的整体效果。
李闻迪[9]（2020）在《基于目标函数优化的服装纸样调整》文中指出缝纫制品的服装主要制造工艺有三个步骤:设计纸样（包括调整纸样）;使用纸样制造模板;根据模板裁剪布料并缝合。其中,对于不同尺寸的人体进行的纸样调整过程,也称放码过程。一个普适有效的不需要任何先验经验的放码方法,不仅能在娱乐行业中提高不同尺寸人体的穿着真实性,也将对服装制造业中纸样设计过程提供强大的生产力。现有的放码技术中,存在鲁棒性差导致无法放码与基本人体差别大的目标人体、目标函数高度非线性导致优化速度缓慢、优化稳定性差导致收敛失败等问题。为了解决上述问题,本文提出了一种改进的基于目标函数的纸样调整算法。对于目标函数,本文中提出了一种新的边界形状因子,该因子包含原边界形状因子缺失的边界相对旋转控制,解决了原边界形状因子在目标人体相对于基本人体尺寸变化较大时,无法收敛到合理解的鲁棒性问题。对于优化方法,本文提出了一种新的L-BFGS混合加速优化方法,结合了LBFGS方法的完整收敛属性和其他方法的加速收敛属性两方面的优势,在保证收敛到最优解的前提下,大幅度提高了优化算法速度。对于优化过程,本文提出了一种新的三重近似替代策略,解决了优化过程中梯度大小随着时间反复震荡导致优化过程速度变慢,有时甚至无法收敛的问题,大大改善梯度回溯现象,有效地提高了优化的稳定性,并且保证了物理的严谨性。本文考虑了多种不同的服装模型,对大量常见尺寸的人体进行了普适性放码实验,对夸张尺寸的人体进行了鲁棒性放码实验。结合放码结果的合身程度和样式还原水平进行分析,本方法准确地对人体人体的局部细节进行了处理,并且放码结果与目标人体的适配情况与基本情况十分接近,证明本方法的正确性、普适性与鲁棒性。
王靖婷[10]（2019）在《基于深度学习的高动态范围图像质量评价算法研究》文中提出随着移动互联网技术和相机设备的快速发展,多媒体数据呈现爆发式增长,人们通过图片来直接表达意见、传递信息的方式也越来越常见。一方面,尽管高动态范围图像可以细致反映真实场景,为了方便输出,其通常会被图像处理算法将其动态范围压缩至输出显示设备的动态范围以下。这是高动态范围图像研究的热点和重点之一。另一方面,图像质量的主观评价在过去几年引起了很多的关注。传统的图像主观质量评价主要侧重于预测图像的平均意见得分,而忽略了人们对图像意见的多样性的问题。为了解决上述问题,本文提出了图像意见得分分布预测方法,提出了两种高动态范围图像意见得分分布的预测模型。具体工作包括以下两个方面:一、基于标签分布支持向量回归的主观图像质量评价方法:本文将基于深度学习的特征提取和回归预测整合成统一框架,从而联合学习更具分辨力的特征表示和更合理的预测模型。具体来讲,深度学习特征对于捕获图像中全局和局部的信息起着关键作用;回归预测通过把包含图像有效信息的特征转化为意见得分分布。本文提出通过标签分布的方式来表达图像意见的多样性。实验结果表明,所提出的含图像有效信息的特征转化为意见得分分布框架可以有效地预测图像意见得分分布。二、基于深度学习的端到端主观图像质量评价算法:为了进一步促进图像特征转化为意见得分分布过程的高效和相互学习,本文提出将深度学习应用到图像质量评价领域。本文使用的基于深度学习的模型采用基于Res Net50的经典网络[18],最后一个卷积层被一个新的统计感兴趣区域（region of interest,ROI）池化层取代,后面设计两个全连接层。为了促进概率分布学习,该模型使用交叉熵损失而不是经典的均方误差损失进行训练。所提出的算法在六个代表性评估度量方面比现有的标签分布学习方法具有更优越的性能。
二、一个新的改进的BFGS方法（论文开题报告）
（1）论文研究背景及目的
此处内容要求：
首先简单简介论文所研究问题的基本概念和背景，再而简单明了地指出论文所要研究解决的具体问题，并提出你的论文准备的观点或解决方法。
写法范例：
本文主要提出一款精简64位RISC处理器存储管理单元结构并详细分析其设计过程。在该MMU结构中,TLB采用叁个分离的TLB,TLB采用基于内容查找的相联存储器并行查找,支持粗粒度为64KB和细粒度为4KB两种页面大小,采用多级分层页表结构映射地址空间,并详细论述了四级页表转换过程,TLB结构组织等。该MMU结构将作为该处理器存储系统实现的一个重要组成部分。
（2）本文研究方法
调查法：该方法是有目的、有系统的搜集有关研究对象的具体信息。
观察法：用自己的感官和辅助工具直接观察研究对象从而得到有关信息。
实验法：通过主支变革、控制研究对象来发现与确认事物间的因果关系。
文献研究法：通过调查文献来获得资料，从而全面的、正确的了解掌握研究方法。
实证研究法：依据现有的科学理论和实践的需要提出设计。
定性分析法：对研究对象进行“质”的方面的研究，这个方法需要计算的数据较少。
定量分析法：通过具体的数字，使人们对研究对象的认识进一步精确化。
跨学科研究法：运用多学科的理论、方法和成果从整体上对某一课题进行研究。
功能分析法：这是社会科学用来分析社会现象的一种方法，从某一功能出发研究多个方面的影响。
模拟法：通过创设一个与原型相似的模型来间接研究原型某种特性的一种形容方法。
三、一个新的改进的BFGS方法（论文提纲范文）
（1）一类修正的拟牛顿算法（论文提纲范文）
| 摘要 |
| ABSTRACT |
| 符号说明 |
| 第1章 绪论 |
| 1.1 研究背景及意义 |
| 1.2 国内外研究现状 |
| 1.3 本文研究内容与结构 |
| 第2章 预备知识 |
| 2.1 拟牛顿方法相关知识 |
| 2.2 线搜索技术 |
| 2.3 几类修正的BFGS方法 |
| 2.4 本章小结 |
| 第3章 一种单参数自缩放BFGS方法 |
| 3.1 问题的提出 |
| 3.2 单参数自缩放BFGS方法 |
| 3.3 收敛性分析 |
| 3.4 数值结果 |
| 3.5 本章小结 |
| 第4章 一种双参数自缩放BFGS方法 |
| 4.1 问题的提出 |
| 4.2 参数的确定和算法 |
| 4.3 收敛性分析 |
| 4.4 数值实验 |
| 4.5 本章小结 |
| 第5章 结论与展望 |
| 5.1 结论 |
| 5.2 展望 |
| 5.3 主要创新点 |
| 参考文献 |
| 致谢 |
| 攻读硕士学位期间论文发表情况 |
（2）两类非线性共轭梯度算法（论文提纲范文）
| 摘要 |
| ABSTRACT |
| 符号说明 |
| 第1章 绪论 |
| 1.1 研究背景及意义 |
| 1.2 国内外研究现状 |
| 1.3 本文研究内容与结构 |
| 第2章 预备知识 |
| 2.1 基本概念 |
| 2.2 线搜索技术 |
| 2.3 本章小结 |
| 第3章 基于自适应有限内存BFGS公式的三项共轭梯度算法 |
| 3.1 动机与算法 |
| 3.2 算法收敛性证明 |
| 3.3 数值实验 |
| 3.3.1 一般无约束问题 |
| 3.3.2 图像修复问题 |
| 3.4 本章小结 |
| 第4章 基于新共轭条件的修正DL共轭梯度法 |
| 4.1 动机与算法 |
| 4.2 收敛性证明 |
| 4.3 数值实验 |
| 4.3.1 一般无约束优化问题 |
| 4.3.2 图像修复问题 |
| 4.4 本章小结 |
| 第5章 结论与展望 |
| 1 总结 |
| 2 本论文的主要创新点 |
| 3 展望 |
| 参考文献 |
| 致谢 |
| 攻读学位期间发表论文情况 |
（3）循环神经网络的自动高速结构优化（论文提纲范文）
| 摘要 |
| abstract |
| 第一章 绪论 |
| 1.1 研究背景及意义 |
| 1.2 研究现状 |
| 1.2.1 神经网络结构优化研究现状 |
| 1.2.2 用于预测任务的网络结构研究现状 |
| 1.2.3 网络优化算法研究现状 |
| 1.3 主要研究内容 |
| 1.4 论文结构 |
| 第二章 相关理论介绍 |
| 2.1 神经网络的数学模型和主要结构 |
| 2.1.1 感知器的数学模型 |
| 2.1.2 神经网络的三种主要结构 |
| 2.1.3 设计神经网络的三个步骤 |
| 2.2 循环神经网络及其变体 |
| 2.3 循环神经网络的长期依赖问题 |
| 2.4 Vapnik-Chervonenkis维度和结构风险最小化 |
| 2.5 进化算法及其并行实现 |
| 2.6 本章小结 |
| 第三章 循环神经网络的自动化结构框架设计 |
| 3.1 引言 |
| 3.2 循环神经网络的自动化结构框架设计 |
| 3.2.1 相空间重构技术 |
| 3.2.2 层内时间延迟神经网络结构设计 |
| 3.2.3 结构参数描述 |
| 3.2.4 RNN和 ILTDNN的关系 |
| 3.3 网络前向计算算法设计 |
| 3.4 网络自动化结构生长流程设计 |
| 3.5 本章小结 |
| 第四章 循环神经网络的高速结构优化算法设计 |
| 4.1 引言 |
| 4.2 代价函数改进 |
| 4.2.1 预测滞后问题 |
| 4.2.2 带惩罚项的代价函数 |
| 4.3 自然进化策略及其收敛性改进 |
| 4.3.1 自然进化策略 |
| 4.3.2 改进的自然进化策略 |
| 4.3.3 基准测试验证 |
| 4.3.3.1 基准测试和测试函数 |
| 4.3.3.2 基线和实验设置 |
| 4.3.3.3 结果和分析 |
| 4.3.4 全局算法改进总结 |
| 4.4 局部搜索算法收敛性比较 |
| 4.5 混合进化算法设计 |
| 4.5.1 混合进化算法原理及实施过程 |
| 4.5.2 实验结果与分析 |
| 4.5.2.1 测试函数和实验设置 |
| 4.5.2.2 LANES-BFGS的收敛过程 |
| 4.5.2.3 LANES-BFGS与其它启发式算法的比较 |
| 4.5.2.4 LANES-BFGS的种群数量分析 |
| 4.5.3 混合算法设计总结 |
| 4.6 并行计算应用方案设计 |
| 4.7 本章小结 |
| 第五章 实验验证及工程应用 |
| 5.1 引言 |
| 5.2 模型评估误差准则 |
| 5.3 Mackey–Glass混沌时间序列的预测 |
| 5.3.1 不同结构参数对网络性能的影响 |
| 5.3.2 不同优化算法对网络性能的影响 |
| 5.3.3 惩罚代价函数对网络性能的影响 |
| 5.3.4 自动化生成ILTDNN网络 |
| 5.4 Rossler混沌时间序列的预测 |
| 5.5 Lorenz混沌时间序列的预测 |
| 5.6 轴承系统故障预测应用 |
| 5.6.1 CWRU轴承故障数据集介绍 |
| 5.6.2 预测结果和分析 |
| 5.7 本章小结 |
| 第六章 总结与展望 |
| 6.1 结论 |
| 6.2 未来工作 |
| 致谢 |
| 参考文献 |
| 硕士学习期间取得的研究成果 |
（4）IMRT中子野形状生成优化算法研究（论文提纲范文）
| 摘要 |
| abstract |
| 中英文缩略词表 |
| 符号说明 |
| 1 绪论 |
| 1.1 课题研究的背景和意义 |
| 1.2 IMRT方案优化 |
| 1.3 国内外研究现状 |
| 1.3.1 两步法 |
| 1.3.2 DAO |
| 1.4 本文主要内容 |
| 2 基于生物准则的IMRT方案优化方法 |
| 2.1 IMRT方案优化基本流程 |
| 2.2 评价准则 |
| 2.2.1 物理准则约束函数 |
| 2.2.2 生物准则等效凸函数 |
| 2.3 大规模梯度类算法 |
| 2.3.1 拟牛顿算法 |
| 2.3.2 评价准则约束函数的一阶导函数 |
| 2.4 基于生物准则的IMRT方案优化方法 |
| 2.5 实验结果与分析 |
| 2.5.1 实验设置 |
| 2.5.2 实验结果 |
| 2.5.3 分析与讨论 |
| 2.6 本章小结 |
| 3 基于区域生长的CG算法 |
| 3.1 CG算法的基本原理 |
| 3.1.1 剂量计算 |
| 3.1.2 CG算法求解过程 |
| 3.2 图像处理方法 |
| 3.2.1 灰度变换 |
| 3.2.2 区域生长 |
| 3.3 基于区域生长的CG算法 |
| 3.3.1 非线性变换 |
| 3.3.2 区域生长 |
| 3.3.3 合并并求解代价问题 |
| 3.4 实验结果 |
| 3.4.1 头颈部肿瘤病例实验 |
| 3.4.2 前列腺肿瘤病例实验 |
| 3.4.3 实验结果的统计分析 |
| 3.5 分析与讨论 |
| 3.6 本章小结 |
| 4 基于动量梯度下降方向的子野形状优化算法 |
| 4.1 CG算法中负梯度下降方向 |
| 4.2 梯度下降法 |
| 4.2.1 最速下降法 |
| 4.2.2 动量梯度下降法 |
| 4.3 基于动量梯度下降方向的子野形状优化算法 |
| 4.4 实验结果 |
| 4.4.1 评价标准 |
| 4.4.2 目标函数 |
| 4.4.3 实验结果 |
| 4.5 分析与讨论 |
| 4.6 本章小结 |
| 5 基于共轭梯度下降方向的CG算法 |
| 5.1 剂量计算及KKT条件 |
| 5.2 梯度类算法介绍 |
| 5.2.1 牛顿法 |
| 5.2.2 拟牛顿法 |
| 5.2.3 共轭梯度算法 |
| 5.3 子野形状搜索方向的改进 |
| 5.3.1 基于共轭梯度下降方向的CG算法 |
| 5.3.2 基于混合共轭梯度下降方向的CG算法 |
| 5.4 实验结果 |
| 5.4.1 基于共轭梯度下降方向的CG算法 |
| 5.4.2 基于混合共轭梯度下降方向的CG算法 |
| 5.5 分析与讨论 |
| 5.6 本章小结 |
| 6 总结和展望 |
| 6.1 总结 |
| 6.2 展望 |
| 参考文献 |
| 攻读博士学位期间发表论文、参与项目情况 |
| 致谢 |
（5）基于BFGS修正的共轭梯度法（论文提纲范文）
| 摘要 |
| Abstract |
| 主要符号表 |
| 第一章 绪论 |
| §1.1 选题背景 |
| §1.2 国内外的研究现状 |
| §1.3 主要工作和创新 |
| 第二章 基于无记忆BFGS的改进加速的共轭梯度法 |
| §2.1 引言 |
| §2.2 XGACGSSV法的提出 |
| §2.3 收敛性分析 |
| §2.4 数值实验 |
| §2.5 小结 |
| 第三章 基于无记忆BFGS的 NCGSSV共轭梯度法 |
| §3.1 引言 |
| §3.2 NCGSSV法的提出 |
| §3.3 收敛性分析 |
| §3.4 数值实验 |
| §3.5 小结 |
| 第四章 基于无记忆BFGS的 MPRP共轭梯度法 |
| §4.1 引言 |
| §4.2 MPRP法的提出 |
| §4.3 收敛性分析 |
| §4.4 数值实验 |
| §4.5 小结 |
| 第五章 一种自适应Dai-Liao共轭梯度法 |
| §5.1 引言 |
| §5.2 NEWDL方法的提出 |
| §5.3 收敛性分析 |
| §5.4 数值实验 |
| §5.5 小结 |
| 第六章 总结与展望 |
| §6.1 本文总结 |
| §6.2 研究展望 |
| 参考文献 |
| 致谢 |
| 作者在攻读硕士期间的主要科研成果 |
（6）基于割线条件和逼近思想的修正共轭梯度法（论文提纲范文）
| 中文摘要 |
| 英文摘要 |
| 1 绪论 |
| 1.1 研究背景及意义 |
| 1.2 预备知识 |
| 1.3 国内外研究现状 |
| 1.4 基本假设和重要引理 |
| 1.5 本文的主要工作 |
| 2 基于割线条件的修正共轭梯度法 |
| 2.1 方法的提出 |
| 2.2 MD算法和MD+算法 |
| 2.3 充分下降性 |
| 2.4 全局收敛性 |
| 2.5 数值结果 |
| 3 基于逼近思想的修正谱共轭梯度法 |
| 3.1 方法的提出 |
| 3.2 MJC算法 |
| 3.3 充分下降性 |
| 3.4 全局收敛性 |
| 3.5 数值结果 |
| 3.6 本文所有方法的数值比较 |
| 4 结论及展望 |
| 参考文献 |
| 附录A: 作者攻读硕士学位期间发表论文及科研情况 |
| 致谢 |
（7）基于混合割线方程修正的L-BFGS算法（论文提纲范文）
| 引 言 |
| 1 混合割线方程 |
| 2 修正的BFGS方法(ML-BFGS) |
| 3 收敛性分析 |
| 4 数值实验结果 |
| 4 结束语 |
（8）对抗样本技术在恶意软件检测和自动驾驶应用中的研究（论文提纲范文）
| 摘要 |
| Abstract |
| 第1章 绪论 |
| 1.1 研究背景及意义 |
| 1.2 国内外研究现状 |
| 1.2.1 技术层面的研究现状 |
| 1.2.2 应用层面的研究现状 |
| 1.3 本文的主要研究工作与贡献 |
| 1.4 论文的组织结构 |
| 第2章 对抗样本技术综述 |
| 2.1 对抗样本基础知识 |
| 2.1.1 神经网络 |
| 2.1.2 范数 |
| 2.1.3 Lipschitz连续性 |
| 2.2 对抗样本简介及评价指标 |
| 2.2.1 对抗样本简介 |
| 2.2.2 对抗样本的评价指标 |
| 2.3 几种对抗样本的攻击方法与比较 |
| 2.3.1 L-BFGS方法 |
| 2.3.2 FGSM方法 |
| 2.3.3 DeepFool方法 |
| 2.3.4 C&W’s attack方法 |
| 2.3.5 One Pixel方法 |
| 2.3.6 JSMA方法 |
| 2.3.7 其它攻击方法 |
| 2.3.8 几种对抗样本生成方法的性能比较 |
| 2.4 几种对抗样本的防御方法与比较 |
| 2.4.1 对抗性训练方法 |
| 2.4.2 防御性蒸馏 |
| 2.4.3 基于检测器的方法 |
| 2.4.4 其它防御方法 |
| 2.4.5 防御性方法的比较以及其局限性 |
| 2.5 对抗样本技术的应用与挑战 |
| 2.5.1 经典领域 |
| 2.5.2 新兴领域 |
| 2.6 本章小结 |
| 第3章 ATMPA方法对恶意软件检测器的攻击研究 |
| 3.1 引言 |
| 3.2 研究背景 |
| 3.2.1 基于代码分析的恶意软件检测方法 |
| 3.2.2 基于机器学习的恶意软件检测方法 |
| 3.2.3 基于对抗样本的攻击方法 |
| 3.3 基础知识 |
| 3.3.1 恶意软件可视化技术 |
| 3.3.2 基于机器学的检测方法 |
| 3.4 ATMPA攻击方法 |
| 3.4.1 方法结构 |
| 3.4.2 模型训练过程 |
| 3.4.3 恶意软件对抗样本的构建 |
| 3.5 实验部分 |
| 3.5.1 实验数据集 |
| 3.5.2 攻击效率 |
| 3.5.3 攻击转移率 |
| 3.6 讨论与分析 |
| 3.6.1 样本相似性分析 |
| 3.6.2 对抗样本生成的迭代过程讨论 |
| 3.6.3 检测算法结构的分析 |
| 3.6.4 防御性策略 |
| 3.7 本章小结 |
| 第4章 Visual-AT方法强化恶意软件检测器的研究 |
| 4.1 引言 |
| 4.2 研究背景 |
| 4.2.1 基于机器学习的检测方法 |
| 4.2.2 基于非对抗性技术的可视化检测方法 |
| 4.2.3 对抗性技术在恶意软件检测方面的相关工作 |
| 4.3 基础知识 |
| 4.3.1 对抗性训练 |
| 4.4 Visual-AT检测方法 |
| 4.4.1 方法结构 |
| 4.4.2 对抗样本技术模拟恶意软件变体的生成方法 |
| 4.4.3 Visual-AT检测方法的优化 |
| 4.4.4 计算复杂度分析 |
| 4.5 实验部分 |
| 4.5.1 实验数据与步骤 |
| 4.5.2 恶意软件检测方法的定量对比 |
| 4.5.3 Visual-AT方法的性能评估 |
| 4.5.4 方法对比 |
| 4.5.5 Visual-AT的计算开销 |
| 4.6 讨论与分析 |
| 4.6.1 算法结构的讨论 |
| 4.6.2 样本相似性的讨论与分析 |
| 4.6.3 参数影响的分析 |
| 4.7 本章小结 |
| 第5章 AE-Sign方法对自动驾驶系统的攻击研究 |
| 5.1 引言 |
| 5.2 研究背景 |
| 5.2.1 自动驾驶技术简介 |
| 5.2.2 道路标识识别技术 |
| 5.2.3 基于自动驾驶技术的对抗性方法 |
| 5.3 基础知识 |
| 5.3.1 基于CNN的方法 |
| 5.3.2 基于YOLO的方法 |
| 5.3.3 降尺度缩放方法 |
| 5.4 AE-Sign攻击方法 |
| 5.4.1 AE-Sign攻击方法整体结构 |
| 5.4.2 标识样本的识别 |
| 5.4.3 样本缩放与伪装区域 |
| 5.4.4 对抗样本的生成 |
| 5.5 实验部分 |
| 5.5.1 实验数据及设定 |
| 5.5.2 攻击效率测试 |
| 5.5.3 干扰因素测试 |
| 5.5.4 计算开销评估 |
| 5.6 讨论与分析 |
| 5.6.1 缩放因子的影响 |
| 5.6.2 模型训练的因素 |
| 5.6.3 参数干扰的因素 |
| 5.7 本章小结 |
| 第6章 对抗样本交通标志攻击系统的设计与实现 |
| 6.1 系统架构 |
| 6.2 功能简介 |
| 6.3 模块设计和实现 |
| 6.3.1 目标锁定模块 |
| 6.3.2 目标分类模块 |
| 6.3.3 对抗样本攻击模块 |
| 6.4 功能测试 |
| 6.4.1 交通标志检测模块测试 |
| 6.4.2 交通标志识别模块测试 |
| 6.4.3 对抗样本攻击模块测试 |
| 6.5 本章小结 |
| 总结与展望 |
| 参考文献 |
| 附录A 发表论文和参加科研情况说明 |
| 致谢 |
（9）基于目标函数优化的服装纸样调整（论文提纲范文）
| 摘要 |
| Abstract |
| 第1章 绪论 |
| 1.1 课题背景 |
| 1.2 国内外研究现状 |
| 1.2.1 布料仿真技术 |
| 1.2.2 服装纸样设计 |
| 1.3 本文工作 |
| 1.4 论文结构 |
| 第2章 服装准静态仿真 |
| 2.1 问题回顾 |
| 2.2 仿真模型 |
| 2.2.1 弹性拉伸与黏着 |
| 2.2.2 离散弯曲能量 |
| 2.2.3 人体碰撞处理 |
| 2.2.4 L-BFGS优化方法 |
| 2.3 本章小结 |
| 第3章 网格参数化 |
| 3.1 参数选择 |
| 3.2 网格优化 |
| 3.3 参数化关系 |
| 3.4 伴随方法 |
| 3.5 本章小结 |
| 第4章 目标函数优化 |
| 4.1 纸样目标因子 |
| 4.1.1 参数改变因子 |
| 4.1.2 边界形状因子 |
| 4.2 服装目标因子 |
| 4.2.1 距离因子 |
| 4.2.2 拉伸因子 |
| 4.2.3 位置因子 |
| 4.2.4 光滑因子 |
| 4.3 优化过程 |
| 4.3.1 初始值处理 |
| 4.3.2 参数梯度计算 |
| 4.3.3 三重近似替代优化 |
| 4.3.4 L-BFGS混合加速 |
| 4.4 本章小结 |
| 第5章 实验结果与分析 |
| 5.1 实验模型与流程 |
| 5.2 能量优化 |
| 5.3 放码过程 |
| 5.3.1 数据初始化 |
| 5.3.2 三重替代 |
| 5.3.3 优化过程 |
| 5.4 合理性评估方法 |
| 5.4.1 合身程度 |
| 5.4.2 样式还原 |
| 5.5 结果展示与分析 |
| 5.5.1 服装普适性 |
| 5.5.2 人体普适性 |
| 5.5.3 方法鲁棒性 |
| 5.6 本章小结 |
| 第6章 总结和展望 |
| 6.1 本文工作总结 |
| 6.2 后续工作展望 |
| 参考文献 |
| 致谢 |
（10）基于深度学习的高动态范围图像质量评价算法研究（论文提纲范文）
| 摘要 |
| ABSTRACT |
| 第1章 绪论 |
| 1.1 研究背景及意义 |
| 1.2 国内外发展现状 |
| 1.2.1 高动态图像色调映射 |
| 1.2.2 图片质量评价算法 |
| 1.2.3 标签分布学习 |
| 1.2.4 深度卷积神经网络 |
| 1.3 主要研究内容 |
| 1.4 本文组织结构和内容 |
| 第2章 相关工作 |
| 2.1 ESPL-LIVE HDR图像主观质量评价数据库 |
| 2.2 无参考的图像质量评价算法 |
| 2.2.1 基于变换域的方法 |
| 2.2.2 基于字典学习的方法 |
| 2.2.3 基于深度学习的方法 |
| 2.3 标签分布学习 |
| 2.4 深度卷积神经网络 |
| 2.4.1 卷积神经网络 |
| 2.4.2 基于深度学习的标签分布的方法 |
| 第3章 基于标签分布支持向量回归的主观图像质量评价算法 |
| 3.1 引言 |
| 3.2 问题描述 |
| 3.3 深度特征提取 |
| 3.4 标签分布支持向量回归算法 |
| 3.5 实验结果 |
| 3.5.1 实验设置 |
| 3.5.2 评价标准 |
| 3.5.3 深度特征的对比与分析 |
| 3.5.4 与传统标签分布学习方法的对比与分析 |
| 3.6 小结 |
| 第4章 基于深度学习的端到端主观质量分布评价算法 |
| 4.1 引言 |
| 4.2 网络结构 |
| 4.3 交叉熵损失函数 |
| 4.4 实验结果 |
| 4.4.1 实验设置 |
| 4.4.2 算法成分分析 |
| 4.4.3 定性和定量的实验分析 |
| 4.5 小结 |
| 第5章 总结与展望 |
| 5.1 论文总结 |
| 5.2 下一步的研究与展望 |
| 参考文献 |
| 发表论文和参加科研情况说明 |
| 致谢 |
四、一个新的改进的BFGS方法（论文参考文献）
- [1]一类修正的拟牛顿算法[D]. 李朋原. 广西大学, 2021(12)
- [2]两类非线性共轭梯度算法[D]. 卢俊宇. 广西大学, 2021(12)
- [3]循环神经网络的自动高速结构优化[D]. 贾金梁. 电子科技大学, 2021(01)
- [4]IMRT中子野形状生成优化算法研究[D]. 张丽媛. 中北大学, 2020(09)
- [5]基于BFGS修正的共轭梯度法[D]. 赵文娟. 桂林电子科技大学, 2020(04)
- [6]基于割线条件和逼近思想的修正共轭梯度法[D]. 谢丽. 重庆师范大学, 2020(05)
- [7]基于混合割线方程修正的L-BFGS算法[J]. 陈昱含. 四川轻化工大学学报(自然科学版), 2020(02)
- [8]对抗样本技术在恶意软件检测和自动驾驶应用中的研究[D]. 刘鑫波. 湖南大学, 2020(02)
- [9]基于目标函数优化的服装纸样调整[D]. 李闻迪. 浙江大学, 2020(08)
- [10]基于深度学习的高动态范围图像质量评价算法研究[D]. 王靖婷. 天津大学, 2019