基于集成回声状态网络的时间序列预测问题研究

论文摘要

回声状态网络（Echo State Network,ESN）是对时间序列数据进行分析和预测的高效神经网络工具,并已被广泛应用于时间序列分析的各个研究与应用领域。然而,现实中的时间序列往往呈现出高维度、非线性、不平稳、序列特征多变等性质,使用现有的ESN技术对时间序列数据进行分析依然存在不足。集成学习技术通过有效组合若干模型,能够有效克服传统预测方法容易过拟合和不稳定等缺陷,而目前基于集成学习策略的ESN建模方法尚未得到深入研究和广泛应用。本文以时间序列预测为背景,结合各领域实际应用问题,研究基于集成学习策略的ESN预测建模和应用,主要内容包括以下三个方面:首先,由于集成学习方法通常需要组合一定规模的基础模型,因此计算和存储都比较占用资源,并且目前的神经网络集成预测研究很少考虑集成效率和资源消耗,因此本文提出具有稀疏结构的自适应提升集成ESN预测方法(Adaboostsp-ESN),通过在传统的Adaboost集成算法中引入模型筛选机制,Adaboostsp-ESN有效提升了计算效率,并保证了预测精度。结合国内工业用电需求预测实际问题,本文对所提出的Adaboostsp-ESN模型进行了性能验证。其次,虽然ESN对时间序列具有很好的拟合能力,但在面对高维度数据时的特征提取能力不足,无法有效从高维数据中学习到有效的预测特征。为了解决此类问题,本文提出了一种组合堆叠自编码神经网络（Stacked Autoencoder,SAE）和ESN的神经网络集成预测模型（SAEN）,利用SAE深度网络的逐层特征学习能力和ESN的序列拟合能力解决高维时间序列预测问题。本文研究了基于大规模网络搜索指数时间序列的旅游需求预测问题,并结合这一实际预测问题验证了SAEN的预测性能和方法特性。最后,考虑到ESN本身不具备特征选择机制,不能较好地处理多因素时间序列,本文提出了基于随机森林特征分组的ESN集成预测模型（RF-ESN）。RF-ESN是一种融合了特征选择能力的集成ESN方法。RF-ESN使用随机森林对外部因素进行自动分组,得到当前抽样数据集下最具辨识能力的预测特征子集。RF-ESN基于分组特征和抽样数据集学习若干ESN网络,因而提高ESN的泛化能力。RF-ESN适用于多因素影响下的时间序列预测问题,并能基于回归树的特征选择路径对外部因素的重要性进行评估,弥补了集成神经网络特征选择能力的不足。本文基于WTI国际原油价格预测这一经典预测问题,对RF-ESN的性能进行评估,同时基于RF-ESN的输出结果对原油价格影响因素进行分析。

论文目录

• 摘要
• Abstract
• 1 绪论
•   1.1 研究背景与意义
•   1.2 研究面临的关键问题
•   1.3 研究内容及创新点
•   1.4 研究方法与技术路线
•   1.5 论文结构和主要内容
• 2 国内外相关研究综述
•   2.1 时间序列预测研究现状
•   2.2 回声状态网络研究现状
•   2.3 神经网络集成学习研究现状
•   2.4 集成ESN研究现状
•   2.5 本章小结
• 3 基于稀疏自适应提升的ESN工业用电预测方法研究
•   3.1 引言
•   3.2 Adaboostsp-ESN集成预测模型
•   3.3 数据来源、预处理及误差指标
•   3.4 对比算法与参数设置
•   3.5 实验结果展示与讨论
•   3.6 本章小结
• 4 基于SAE-ESN的网络搜索指数旅游需求预测方法研究
•   4.1 引言
•   4.2 SAE架构介绍
•   4.3 SAEN集成预测模型
•   4.4 数据来源、预处理及误差指标
•   4.5 对比算法与参数设置
•   4.6 实验结果展示与讨论
•   4.7 本章小结
• 5 基于RF-ESN的多因素原油价格预测方法研究
•   5.1 引言
•   5.2 回归树与随机森林
•   5.3 RF-ESN集成预测模型
•   5.4 数据来源、预处理及误差指标
•   5.5 对比算法与参数设置
•   5.6 实验结果展示与分析
•   5.7 本章小结
• 6 总结与展望
•   6.1 全文总结
•   6.2 研究展望
• 致谢
• 参考文献
• 附录1 攻读博士学位期间发表的论文
• 附录2 攻读博士学位期间参加的科研课题

文章来源

类型: 博士论文

作者: 吕盛祥

导师: 王林

关键词: 时间序列预测,非线性模型,回声状态网络,集成学习策略,神经网络集成预测

来源: 华中科技大学

年度: 2019

分类: 基础科学,信息科技

专业: 数学,自动化技术

单位: 华中科技大学

分类号: TP183;O211.61

DOI: 10.27157/d.cnki.ghzku.2019.000164

总页数: 147

文件大小: 10475K

下载量: 175