导读:本文包含了反向传播学习算法论文开题报告文献综述、选题提纲参考文献及外文文献翻译，主要关键词:算法,神经网络,模糊,多层,全局,函数,模型。
反向传播学习算法论文文献综述
邹伟东[1]（2017）在《基于反向传播的超限学习机算法及其应用研究》一文中研究指出神经网络作为一种非线性的数学模型,具备良好的泛化性能,但支持向量机(SVM)、BP神经网络、RBF神经网络等传统神经网络需人为设定许多的神经网络训练参数,以迭代的方式更新参数,容易陷入局部优化,导致网络训练误差较大。为了减少网络输出误差,提高训练速度,Huang等人提出了超限学习机(Extreme Learning Machine,ELM)。ELM在训练过程中随机产生隐层节点参数,因其高效的训练方式而得到了广泛的应用,然而超限学习机也面临着隐含层节点最优参数选取与过拟合等问题。针对上述问题,本文以超限学习机理论为基础,提出了叁种超限学习机的改进算法,主要工作与创新性成果如下:第一,在递增型ELM算法的基础上,提出了基于反向传播的超限学习机算法(Back Propagation Extreme Learning Machine,BP-ELM),即利用公式化的计算方法求取递增型超限学习机中隐含层节点的最优参数,并且对该算法进行系统分析。仿真结果表明该算法可较好地压缩超限学习机隐含层节点数,进一步简化神经网络结构,提高网络紧凑程度和超限学习机的学习效率。第二,BP-ELM算法虽然有效地解决了隐含层节点参数选取问题,但是在算法的迭代过程中,并未对已有的隐含层节点和输出层的连接权值进行更新,因此减缓了算法收敛速度。结合Barron凸优化理论,构建了基于凸优化与反向传播的超限学习机算法(Back Propagation Convex Extreme Learning Machine,BP-CELM),从理论与仿真两方面验证了BP-CELM算法的泛化性能优于BP-ELM算法。第叁,针对BP-ELM算法和BP-CELM算法难以确定超限学习机中的最优隐含层节点数,同时无法避免因隐含层节点数过大致使网络训练时间变长的问题,在深入研究双端增量超限学习机(Bidirectional Incremental Extreme Learning Machine,BELM)的基础上,对BP-ELM算法做进一步改进,提出了基于反向传播的双端超限学习机算法(Back Propagation Bidirectional Extreme Learning Machine,BP-BELM),并且推导出ELM网络输出权值与输出误差之间的重要关系,即输出权值-误差椭圆方程,从理论与仿真两方面验证了BP-BELM算法的稳定性与泛化性能皆优于BP-CELM算法和BP-ELM算法。最后,针对日光温室温度和湿度时序数据存在非平稳、非线性等特性,采用传统的预测法存在预测精度低、鲁棒性差等问题,结合上述关于超限学习机的理论方法,提出了基于经验模态分解(Empirical Mode Decomposition,EMD)与BP-BELM的日光温室温度和湿度预测模型。建模中利用EMD将非平稳的日光温室温度和湿度时序数据多尺度分解成一系列具有不同特征尺度的本征模态分量(Intrinsic Mode Function,IMF),然后分别采用BP-BELM进行训练建模预测,最后迭加获得日光温室温度和湿度的预测结果,并将该模型应用于日光温室温度和湿度预测中。实验结果表明,基于EMD与BP-BELM的组合预测模型具有较好的泛化性能和较高的预测精度。(本文来源于《北京理工大学》期刊2017-06-01）
李鹏华,柴毅,熊庆宇[2]（2013）在《量子门Elman神经网络及其梯度扩展的量子反向传播学习算法》一文中研究指出针对Elman神经网络的学习速度和泛化性能,提出一种具有量子门结构的新型Elman神经网络模型及其梯度扩展反向传播(Back-propagation)学习算法,新模型由量子比特神经元和经典神经元构成.新网络结构采用量子映射层以确保来自上下文单元的局部反馈与隐藏层输入之间的模式一致;通过量子比特神经元输出与相关量子门参数的修正互补关系以提高网络更新动力.新学习算法采用搜索然后收敛的策略自适应地调整学习率参数以提高网络学习速度;通过将上下文单元的权值扩展到隐藏层的权值矩阵,使其在与隐藏层权值同步更新过程中获取时间序列的额外信息,从而提高网络上下文单元输出与隐藏层输入之间的匹配程度.以峰值检波为例的数值实验结果显示,在量子反向传播学习过程中,量子门Elman神经网络具有较快的学习速度和良好的泛化性能.(本文来源于《自动化学报》期刊2013年09期）
贾立山,谈至明,王知[3]（2011）在《基于随机参数调整的改进反向传播学习算法》一文中研究指出针对BP(反向传播)神经网络学习易陷入局部极小的缺陷,提出了一种改进BP神经网络学习算法——RMBP算法.RMBP算法在学习参数调整中增加了随机性,使其方便地跳出局部极小点,并沿梯度下降方向到达全局极小点.异或问题的学习试验结果表明,RMBP算法较BP学习算法和其他常见的改进BP算法具有学习速度快、学习精度高、资源占用少的优势.最后,结合民航飞机实时飞行仿真系统研究,对一组飞机空气动力参数样本进行了学习,以说明RMBP算法的有效性.(本文来源于《同济大学学报(自然科学版)》期刊2011年05期）
汤新民,钟诗胜[4]（2007）在《基于元模型的模糊Petri网反向传播学习算法》一文中研究指出模糊Petri网是知识表达与并行推理的重要工具,但拓扑为非严格分层的结构。为在不增加虚节点的情况下实现模糊Petri网的反向传播学习,提出模糊Petri网元模型的概念,统一四种基本产生式规则对应的模糊Petri网模型。并建立元模型的结论置信度关于条件置信度的连续映射,给出了正向推理算法。为提高收敛速率,先通过基于回溯策略的反向推理算法,计算元模型结论置信度对条件置信度的梯度函数,最后采用Levenberg-Marquardt算法实现权值优化。(本文来源于《系统仿真学报》期刊2007年14期）
刘铁男,王利国,刘严崴,谢爱华,刘志德[5]（2001）在《神经网络二阶反向传播学习算法及其收敛性》一文中研究指出针对BP算法收敛速度慢的问题 ,提出了多层前向神经网络的新型二阶递推学习算法 .给出了一种新的矩阵求逆引理 ,从Newton迭代法入手 ,推导出新型递推学习算法 .该算法等价于Newton迭代法并且有二阶收敛速度 ,能同时反向传播网络各层误差和二阶导数信息因子 ,还能实现Newton搜索方向和Hessian阵逆的递推运算 .基于微分方程稳定性理论 ,研究了新算法的全局收敛性 .分析表明 ,新算法优于BP算法并且具有全局收敛性(本文来源于《大庆石油学院学报》期刊2001年04期）
张建民,张建文[6]（2001）在《带有反向传播学习算法的自适应模糊炉温控制系统》一文中研究指出本文介绍以控制电加热炉的实际对象为背景研制的一种计算机控制系统。该系统引入了带有基于反向传播学习算法的自适应模糊控制。这种控制方法超调小 ,调整时间快 ,精度高。(本文来源于《自动化与仪表》期刊2001年02期）
徐耀群,崔丹,杨姗姗[7]（2000）在《改进的反向传播学习算法》一文中研究指出采用了激励函数可调的多层神经网络，并对ＢＰ算法进行了改进。(本文来源于《黑龙江商学院学报(自然科学版)》期刊2000年01期）
毛国君,宋广军,杨名生[8]（1998）在《FNN上的反向传播学习算法》一文中研究指出近几年来,模糊神经网络(FNN)的研究引起了广泛的注意。本文对FNN上的反向传播学习方法加以讨论。使用输入均值和输出权重参量来进行模糊化和反模糊化处理,学习的目的是调整这两个参量到合适的值。(本文来源于《计算机应用与软件》期刊1998年04期）
张景元,韩江洪,高隽[9]（1998）在《模糊系统反向传播学习算法在系统辨识中的应用》一文中研究指出文中提出了一种模糊逻辑系统的网络模型，给出了相应的反向传播学习算法，并将其用于非线性系统的辨识，构造了一种模糊动态辨识器．(本文来源于《计算机研究与发展》期刊1998年02期）
黄家英,葛一楠,蔡勇[10]（1997）在《讲座:人工神经网络 第叁讲:误差反向传播学习算法及B-P网络》一文中研究指出1引官由上讲可知，采用线性阀值单元组成的前值多层网络，具有很强的分类功能。但由于同值函数不可做，没有一种有效的学习其法，从而限制了该网络的应用。直到各姆尔哈特（Rumethot）等人发展了误差反向传播学习等法（Back－propsgationTraini(本文来源于《自动化与仪器仪表》期刊1997年03期）
反向传播学习算法论文开题报告
（1）论文研究背景及目的
此处内容要求：
首先简单简介论文所研究问题的基本概念和背景，再而简单明了地指出论文所要研究解决的具体问题，并提出你的论文准备的观点或解决方法。
写法范例：
针对Elman神经网络的学习速度和泛化性能,提出一种具有量子门结构的新型Elman神经网络模型及其梯度扩展反向传播(Back-propagation)学习算法,新模型由量子比特神经元和经典神经元构成.新网络结构采用量子映射层以确保来自上下文单元的局部反馈与隐藏层输入之间的模式一致;通过量子比特神经元输出与相关量子门参数的修正互补关系以提高网络更新动力.新学习算法采用搜索然后收敛的策略自适应地调整学习率参数以提高网络学习速度;通过将上下文单元的权值扩展到隐藏层的权值矩阵,使其在与隐藏层权值同步更新过程中获取时间序列的额外信息,从而提高网络上下文单元输出与隐藏层输入之间的匹配程度.以峰值检波为例的数值实验结果显示,在量子反向传播学习过程中,量子门Elman神经网络具有较快的学习速度和良好的泛化性能.
（2）本文研究方法
调查法：该方法是有目的、有系统的搜集有关研究对象的具体信息。
观察法：用自己的感官和辅助工具直接观察研究对象从而得到有关信息。
实验法：通过主支变革、控制研究对象来发现与确认事物间的因果关系。
文献研究法：通过调查文献来获得资料，从而全面的、正确的了解掌握研究方法。
实证研究法：依据现有的科学理论和实践的需要提出设计。
定性分析法：对研究对象进行“质”的方面的研究，这个方法需要计算的数据较少。
定量分析法：通过具体的数字，使人们对研究对象的认识进一步精确化。
跨学科研究法：运用多学科的理论、方法和成果从整体上对某一课题进行研究。
功能分析法：这是社会科学用来分析社会现象的一种方法，从某一功能出发研究多个方面的影响。
模拟法：通过创设一个与原型相似的模型来间接研究原型某种特性的一种形容方法。
反向传播学习算法论文参考文献
[1].邹伟东.基于反向传播的超限学习机算法及其应用研究[D].北京理工大学.2017
[2].李鹏华,柴毅,熊庆宇.量子门Elman神经网络及其梯度扩展的量子反向传播学习算法[J].自动化学报.2013
[3].贾立山,谈至明,王知.基于随机参数调整的改进反向传播学习算法[J].同济大学学报(自然科学版).2011
[4].汤新民,钟诗胜.基于元模型的模糊Petri网反向传播学习算法[J].系统仿真学报.2007
[5].刘铁男,王利国,刘严崴,谢爱华,刘志德.神经网络二阶反向传播学习算法及其收敛性[J].大庆石油学院学报.2001
[6].张建民,张建文.带有反向传播学习算法的自适应模糊炉温控制系统[J].自动化与仪表.2001
[7].徐耀群,崔丹,杨姗姗.改进的反向传播学习算法[J].黑龙江商学院学报(自然科学版).2000
[8].毛国君,宋广军,杨名生.FNN上的反向传播学习算法[J].计算机应用与软件.1998
[9].张景元,韩江洪,高隽.模糊系统反向传播学习算法在系统辨识中的应用[J].计算机研究与发展.1998
[10].黄家英,葛一楠,蔡勇.讲座:人工神经网络 第叁讲:误差反向传播学习算法及B-P网络[J].自动化与仪器仪表.1997
论文知识图
