最小二乘支持向量回归机论文-熊中刚,刘忠,罗素莲

最小二乘支持向量回归机论文-熊中刚,刘忠,罗素莲

导读:本文包含了最小二乘支持向量回归机论文开题报告文献综述及选题提纲参考文献,主要关键词:模糊加权机理,最小二乘支持向量回归,非线性统,建模方法

最小二乘支持向量回归机论文文献综述

熊中刚,刘忠,罗素莲[1](2019)在《基于模糊加权最小二乘支持向量回归的非线性系统建模方法》一文中研究指出针对非线性系统建模时边界数据会产生较大的建模偏差、数据计算负荷大以及如何从数据集中选取K个近邻点才能保证其性能缺乏统一标准等问题,提出了基于模糊加权最小二乘支持向量回归的非线性系统建模方法。该方法融合了模糊加权机理与最小二乘支持向量回归的优点,通过引入重迭因子,在保证建模精度(均方根误差越小越好)的情况下,去除建模过程中的一些非重要数据,减小建模方法的运算时间,并能将全局与局部建模方法相融合有效解决局部建模方法所产生的边界效应问题。实验验证结果表明,分别对几种方法从训练/测试均方根误差、不同重迭因子、计算时间方面比较都有明显的有效性和优越性。(本文来源于《探测与控制学报》期刊2019年05期)

刘红梅,徐英岚,张博,李荣[2](2019)在《基于最小二乘支持向量回归的水质预测》一文中研究指出水质系统是一个开放的、复杂的、非线性动力学系统,具有时变复杂性,针对水质预测方法的研究虽然已经取得了一些成果,但也存在预测精度与计算复杂度等难题。为此,本文提出一种基于最小二乘支持向量回归的水质预测算法。支持向量机是机器学习中一种常用的分类模型,通过核函数将非线性数据从低维映射到高维空间,在高维空间实现线性分类和回归,最小二乘支持向量回归(LS-SVR)利用所有的样本参与回归拟合,使得回归的损失函数不再只与小部分支持向量样本有关,而是由所有样本参与学习修正误差,提高预测精度;同时该算法将标准SVR求解问题由不等式的约束条件及凸二次规划问题转化成线性方程组来求解,提高了运算速度,解决了非线性复杂特性的水质预测问题。(本文来源于《计算机与现代化》期刊2019年09期)

王定成,陆一祎,邹勇杰[3](2019)在《多输出直觉模糊最小二乘支持向量回归算法》一文中研究指出支持向量机回归是一种重要的机器学习算法,虽然已成功应用于多个领域,但针对复杂系统,单输出支持向量回归算法的训练时间过长并且缺乏实用性。多输出直觉模糊最小二乘支持向量回归(Intuitionistic Fuzzy Least Squares Support Vector Regression,IFLS-SVR)在多输出支持向量机的基础上引入了直觉模糊,解决了不确定多输出复杂系统问题,减少了训练时间。生活中复杂的多输出模型更为常见,文中在传统支持向量回归的基础上对其进行改进,提出多输出IFLS-SVR模型。多输出IFLS-SVR采用直觉模糊算法将实际数据转化为模糊数据,将二次规划优化问题转化为求解一系列线性方程组。与现有的模糊支持向量回归相比,多输出IFLS-SVR采用直觉模糊方法来计算隶属度函数,采用最小二乘法提高了算法的训练效率,减少了训练时间,获得了更精确的解。仿真结果表明,与其他方法相比,多输出IFLS-SVR取得了较好的效果。最后将多输出IFLS-SVR模型应用于复杂的风速风向预测,也取得了较好的效果。(本文来源于《计算机科学》期刊2019年05期)

季泽[4](2019)在《基于最小二乘支持向量回归的序贯设计与建模方法研究》一文中研究指出对于具有多极值质量特性且质量特性变化不均匀的复杂作用关系过程而言,实现工艺参数优化的难度和成本较高,而选择合适的序贯设计和建模方法是降低参数优化成本的关键。现有研究多以某一区域为研究对象,但较少考虑区域内样本点之间的显着性差异。因此,本文重点对样本点的显着性进行了研究,并针对不同的变量类型分别提出了相应的序贯设计与建模方法。主要内容如下:(1)提出了样本点的显着性检验方法。首先选择LS-SVR作为建模方法,其次给出了支持向量的统计分布,而后构造了支持向量的相关统计量,通过对该统计量进行假设检验,获取了代表样本点显着性的P-value,最终构建了样本点的显着性检验方法。(2)针对定量变量和混合变量,分别提出了嵌套型正交设计和嵌套型LHS设计。对于不同的变量类型,首先分别以正交设计和LHS设计作为基础的实验设计方式获取初始样本集。然后利用初始样本集建立初始的LS-SVR模型,其次对样本点进行显着性检验并获取代表样本点显着性的P-value,并以P-value<P_0的样本点作为添加中心并确定添加区域。而后分别在各添加区域内嵌套入新的正交设计和LHS设计添加实验点,并拟合新的LS-SVR模型。最终分别构建了嵌套型正交设计与嵌套型LHS设计。此外,本文设定了相关的统计量,确保了所建LS-SVR模型的合理性,有效避免了“过拟合”现象的产生。(3)针对提出的2种序贯设计方法,分别进行了仿真与实证研究。一方面,本文引入了3个代表复杂过程的仿真函数,并分别进行了嵌套型正交设计与嵌套型LHS设计研究。另一方面,本文引入了Paper helicopter实验,并分别进行了传统单路径式序贯设计和嵌套型正交设计研究。研究结果表明,与一次性LHS设计相比,所提嵌套型正交设计和嵌套型LHS设计方法的MSPE、MaxE分别降低了4.2%、6.6%和29.2%、15.1%以上。与传统单路径式序贯设计相比,所提嵌套型正交设计方法在发现极值点的能力与效率方面具有显着优势。(本文来源于《郑州大学》期刊2019-05-01)

闫丽萍,马家军,陈文兴[5](2019)在《稀疏结构化最小二乘双支持向量回归机》一文中研究指出最小二乘双支持向量回归机(LSTSVR)通过引入最小二乘损失将双支持向量回归机(TSVR)中的二次规划问题简化为两个线性方程组的求解,从而大大减少了训练时间。然而,LSTSVR最小化基于最小二乘损失的经验风险易导致以下不足:(1)"过学习"问题;(2)模型的解缺乏稀疏性,难以训练大规模数据。针对(1),提出结构化最小二乘双支持向量回归机(S-LSTSVR)以提升模型的泛化能力;针对(2),进一步利用不完全Choesky分解对核矩阵进行低秩近似,给出求解S-LSTSVR的稀疏算法SS-LSTSVR,使模型能有效地训练大规模数据。人工数据和UCI数据集中的实验证明SS-LSTSVR不但可以避免"过学习",而且能够高效地解决大规模训练问题。(本文来源于《计算机工程与应用》期刊2019年03期)

李红涛,李春来,杨立滨,丁明昌[6](2018)在《最小二乘支持向量回归的光伏组件故障检测》一文中研究指出光伏组件是光伏发电系统的核心之一,对光伏组件开展及时有效的故障检测有助于提升系统发电效率。在光伏组件机理模型的基础上,采用最小二乘支持向量回归(Ls-SVR)方法对测试样本的I-U曲线进行学习,拟合出光伏组件四大参数在正常运行情况下的内在函数关系,并通过分析函数输出与实际输出之间的残差,实现光伏组件的故障检测。最后采用现有实验数据对所提方法进行验证,效果良好。(本文来源于《电力电子技术》期刊2018年09期)

戴鹏,周平,梁延灼,柴天佑[7](2019)在《基于多输出最小二乘支持向量回归建模的自适应非线性预测控制及应用》一文中研究指出提出一种可有效提高常规预测控制方法控制性能与计算效率的数据驱动自适应非线性模型预测控制方法.首先,为了提高多输出非线性系统最小二乘支持向量回归(least squares support vector regression, LS–SVR)建模的精度,考虑各维输出间的耦合关系,采用在目标函数中加入样本整体拟合误差项,实现多输出LS–SVR(multi-output LS–SVR,M–LS–SVR)预测建模,同时采用粒子群算法优化模型参数;其次,针对动态过程建模的模型失配问题以及由于M–LS–SVR模型复杂导致传统智能算法求解预测控制律缓慢的问题,提出自适应非线性模型预测控制策略,包括两个非线性优化层:第1层采用梯度下降算法实时优化模型和实际过程输出的偏差,以自适应调节模型参数;第2层采用具有全局收敛性和超线性收敛速度序列二次规划(sequential quadratic programming, SQP)算法设计非线性预测控制器,以加速预测控制律的求解速度. Benchmark仿真实例及在高炉炼铁过程的数据试验表明:所提基于M–LS–SVR预测建模的自适应非线性模型预测控制具有较快的求解速度、较好的设定值跟踪和干扰抑制性能以及较强的鲁棒性.(本文来源于《控制理论与应用》期刊2019年01期)

李扬[8](2018)在《最小二乘法、ε-支持向量回归机与最小二乘支持向量回归机的对比研究》一文中研究指出统计学习理论是由Vapnik等人根据统计学方法建立的一套机器学习理论.以统计学习理论为基础,发展出来的新的机器学习方法——支持向量机,在机器学习领域迅速成为了研究热点之一.支持向量机因其在各种小样本、非线性、高维数、局部极小点等实际问题中表现出的优越性,具备着广泛的研究和应用前景.回归问题,作为机器学习领域中的一个典型问题,是支持向量机的一个重要应用.用于回归的支持向量机,我们称之为支持向量回归机,其中最基本的支持向量回归机为ε-支持向量回归机(ε-SVR).而在传统统计学用来解决回归问题的方法之中,最为常见和最典型的方法是最小二乘回归算法(简称最小二乘法,LS).在支持向量回归机中,又存在一种变形,称为最小二乘支持向量回归机(LS-SVR).我们需要比较最小二乘法、ε-支持向量回归机、最小二乘支持向量回归机叁者的特点,以帮助我们更深入地理解支持向量回归机的用法,以及在实际问题中所起的作用,并更好地将其应用于实际问题之中.本文做了如下几方面的研究:1.在参数C变化时,ε-支持向量回归机、最小二乘支持向量回归机分别与最小二乘法具有的联系;2.在实际问题中,在一元线性回归问题、带干扰点问题、多元线性回归问题下ε-支持向量回归机、最小二乘支持向量回归机、最小二乘法叁者回归效果的对比;3.在非线性回归问题下ε-支持向量回归机、最小二乘支持向量回归机、最小二乘法回归效果的对比.得到的若干结论有:1.当C→0时,ε-支持向量回归(ε-SVR)、最小二乘支持向量回归机(LSSVR)都有w→0;当C→∞时,最小二乘支持向量回归机(LS-SVR)等价于最小二乘法(LS);2.对一元线性回归问题,最小二乘法(LS)和最小二乘支持向量回归机(LSSVR)的回归效果相近,并且优于ε-支持向量回归机(ε-SVR);对干扰点,ε-支持向量回归机(ε-SVR)的抗干扰能力强于最小二乘法(LS)和最小二乘支持向量回归机(LS-SVR);对多元线性回归问题,最小二乘法(LS)和最小二乘支持向量回归机(LS-SVR)的回归效果优于ε-支持向量回归机(ε-SVR);3.对非线性回归问题,ε-支持向量回归机(ε-SVR)回归效果优于最小二乘法(LS)和最小二乘支持向量回归机(LS-SVR).(本文来源于《华东师范大学》期刊2018-05-01)

仝玉婷[9](2018)在《最小二乘支持向量回归机的算法研究》一文中研究指出在本论文中我们主要考虑最小二乘支持向量回归机算法。该算法虽然继承了支持向量机算法的小样本、高维性和泛化能力强的优点,但由于其采用平方损失函数,从而导致算法缺乏稀疏性和鲁棒性。另一方面,机器学习算法的参数选择直接影响着模型的预测能力。在本论文中,我们从稀疏性、鲁棒性和参数选择叁方面对最小二乘支持向量回归机算法进行改进,并提出新的算法。本论文的主要研究工作包括以下几个方面:(1)目前大多数最小二乘支持向量回归机的稀疏化算法采用在原空间上筛选支持向量或只考虑特征向量的方式实现。本文提出的基于密度的迭代最小二乘支持向量回归机首先将样本映射到高维空间,使在原空间中隐藏的信息显示出来;然后通过计算类与超平面的距离找出回归间隔边界上的样本;再对初始不在回归超平面边缘范围内的类计算密度,根据密度分布重新进行迭代和聚类,直到训练集包含主要的回归信息。该方法不仅可以通过压缩训练集实现最小二乘支持向量回归机的稀疏化,而且可以有效地避免传统稀疏化算法预测精度低的缺陷。这是本论文的第一个创新之处。(2)Suykens提出的加权最小二乘支持向量回归机算法抗噪能力较差且权值不能随拟合误差分布和异常数据变化。本文在此基础上引入抗噪性比较好的IGGⅢ权函数加权因子对拟合误差加权,同时利用基于密度的迭代最小二乘支持向量回归机算法对权值进行迭代调整,使模型更加稳健。这是本论文的第二个创新之处。(3)针对粒子群算法寻找最小二乘支持向量回归机模型最优参数容易陷入局部最优的缺陷,本文采用随适应值变化而变化的惯性权重因子,使一些粒子在局部最优解附近以较小的步长进行搜索,同时其他的粒子继续以较大步长进行搜索,从而使其跳出局部最优值,克服局部最优的缺陷。这是本论文第叁个创新之处。(4)将上述改进的最小二乘支持向量回归机算法用于5个UCI标准数据集以及基准测试函数上进行数值实验。实验结果显示:本文提出的方法在预测准确率和训练时长上都有明显的提高。此外本文将提出的新方法应用到空气质量预测问题中进行实证研究,结果显示该算法在预测准确率和算法运行时间方面优于支持向量机、人工神经网络和决策树。(本文来源于《浙江师范大学》期刊2018-05-01)

唐辉军,杨志民[10](2018)在《一种模糊最小二乘孪生支持向量回归机的改进算法》一文中研究指出模糊最小二乘孪生支持向量机模型融合了模糊函数和最小二乘孪生支持向量机算法特性,以解决训练数据集存在孤立点噪声和运算效率低下问题。针对回归过程基于统计学习结构风险最小化原则,对该模型进行L_2范数正则化改进。考虑到大规模数据集的训练效率问题,对原始模型进行了L_1范数正则化改进。基于增量学习特性,对数据集训练过程进行增量选择迭加以加快训练速度。在UCI数据集上验证了相关改进算法的优越性。(本文来源于《计算机应用与软件》期刊2018年04期)

最小二乘支持向量回归机论文开题报告

(1)论文研究背景及目的

此处内容要求:

首先简单简介论文所研究问题的基本概念和背景,再而简单明了地指出论文所要研究解决的具体问题,并提出你的论文准备的观点或解决方法。

写法范例:

水质系统是一个开放的、复杂的、非线性动力学系统,具有时变复杂性,针对水质预测方法的研究虽然已经取得了一些成果,但也存在预测精度与计算复杂度等难题。为此,本文提出一种基于最小二乘支持向量回归的水质预测算法。支持向量机是机器学习中一种常用的分类模型,通过核函数将非线性数据从低维映射到高维空间,在高维空间实现线性分类和回归,最小二乘支持向量回归(LS-SVR)利用所有的样本参与回归拟合,使得回归的损失函数不再只与小部分支持向量样本有关,而是由所有样本参与学习修正误差,提高预测精度;同时该算法将标准SVR求解问题由不等式的约束条件及凸二次规划问题转化成线性方程组来求解,提高了运算速度,解决了非线性复杂特性的水质预测问题。

(2)本文研究方法

调查法:该方法是有目的、有系统的搜集有关研究对象的具体信息。

观察法:用自己的感官和辅助工具直接观察研究对象从而得到有关信息。

实验法:通过主支变革、控制研究对象来发现与确认事物间的因果关系。

文献研究法:通过调查文献来获得资料,从而全面的、正确的了解掌握研究方法。

实证研究法:依据现有的科学理论和实践的需要提出设计。

定性分析法:对研究对象进行“质”的方面的研究,这个方法需要计算的数据较少。

定量分析法:通过具体的数字,使人们对研究对象的认识进一步精确化。

跨学科研究法:运用多学科的理论、方法和成果从整体上对某一课题进行研究。

功能分析法:这是社会科学用来分析社会现象的一种方法,从某一功能出发研究多个方面的影响。

模拟法:通过创设一个与原型相似的模型来间接研究原型某种特性的一种形容方法。

最小二乘支持向量回归机论文参考文献

[1].熊中刚,刘忠,罗素莲.基于模糊加权最小二乘支持向量回归的非线性系统建模方法[J].探测与控制学报.2019

[2].刘红梅,徐英岚,张博,李荣.基于最小二乘支持向量回归的水质预测[J].计算机与现代化.2019

[3].王定成,陆一祎,邹勇杰.多输出直觉模糊最小二乘支持向量回归算法[J].计算机科学.2019

[4].季泽.基于最小二乘支持向量回归的序贯设计与建模方法研究[D].郑州大学.2019

[5].闫丽萍,马家军,陈文兴.稀疏结构化最小二乘双支持向量回归机[J].计算机工程与应用.2019

[6].李红涛,李春来,杨立滨,丁明昌.最小二乘支持向量回归的光伏组件故障检测[J].电力电子技术.2018

[7].戴鹏,周平,梁延灼,柴天佑.基于多输出最小二乘支持向量回归建模的自适应非线性预测控制及应用[J].控制理论与应用.2019

[8].李扬.最小二乘法、ε-支持向量回归机与最小二乘支持向量回归机的对比研究[D].华东师范大学.2018

[9].仝玉婷.最小二乘支持向量回归机的算法研究[D].浙江师范大学.2018

[10].唐辉军,杨志民.一种模糊最小二乘孪生支持向量回归机的改进算法[J].计算机应用与软件.2018

标签:;  ;  ;  ;  

最小二乘支持向量回归机论文-熊中刚,刘忠,罗素莲
下载Doc文档

猜你喜欢