【CN110110243A】一种基于回声状态网络的历史轨迹目的地预测方法【专利】
- 格式:pdf
- 大小:638.12 KB
- 文档页数:12
基于在线回声状态网络的变形数据预测分析单毅;杨建伟;王新志【摘要】结合Kalman滤波与回声状态网络,将在线回声状态网络算法应用于变形数据预测.回声状态网络的输出权值通过Kalman滤波训练,直接对网络的输出权值进行在线更新,克服了传统递归网络需要收集大量样本后才能进行拟合预测的缺陷,同时也保证了预测精度.实例计算验证了该方法的有效性.【期刊名称】《大地测量与地球动力学》【年(卷),期】2016(036)007【总页数】4页(P617-619,629)【关键词】在线学习;变形观测数据;回声状态网络;Kalman滤波【作者】单毅;杨建伟;王新志【作者单位】南京信息工程大学数学与统计学院,南京市宁六路219号,210044;南京信息工程大学数学与统计学院,南京市宁六路219号,210044;南京信息工程大学遥感学院,南京市宁六路219号,210044【正文语种】中文【中图分类】P258神经网络以其强大的自适应性和联想记忆能力,广泛应用于变形数据的建模预测[1-4]。
回声状态网络(ESN)是近年来兴起的一种非线性映射能力很强的神经网络,其采用求伪逆的训练方法,可避免基于梯度下降算法的一些缺陷[5-6]。
目前包括ESN在内的传统神经网络大多采用离线学习方式,在大量样本提交后才会调整网络参数。
然而变形数据在某些情况下不容易观测得到,导致没有足够的观测值供离线学习[1],且离线学习需要占用大量的计算资源,不能实时调节相关参数[7]。
此时,需要一种在线预测方法,在相对节省存储空间的前提下,对快时变的变形数据作出准确预报。
Kalman滤波是一种在线预测算法,但其限制条件苛刻,要求系统模型精确且系统误差模型和观测误差模型已知[8],这在实际应用中很难满足。
基于此,韩敏等[7] 提出一种在线ESN。
本文将这种在线ESN应用于变形数据的预测,采用Kalman滤波实时更新ESN的输出权值。
相比基于求逆或者梯度下降的离线训练方式,该算法训练效率高,能动态调整网络权值,从而提高网络在线预测性能。
专利名称:一种基于改进萤火虫算法优化粒子滤波的轨迹预测的方法
专利类型:发明专利
发明人:吴学礼,高锋,甄然
申请号:CN201910587699.9
申请日:20190702
公开号:CN110348560A
公开日:
20191018
专利内容由知识产权出版社提供
摘要:本发明涉及一种基于改进萤火虫算法优化粒子滤波的轨迹预测的方法,在原始萤火虫算法的基础上,提出萤火虫算法新的位置更新策略和变步长策略,然后结合粒子滤波算法的运行机制用改进的萤火虫算法优化粒子滤波算法,然后将其应用在空域飞行目标轨迹预测中。
在位置更新策略中采用全局优化思想,改善了粒子贫化现象,避免了计算的复杂度;在步长策略中改变传统算法中定步长的思想,利用非线性方程设计了步长动态调整方案,平衡了全局搜索和局部开发的能力。
申请人:河北科技大学
地址:050000 河北省石家庄市裕华区裕翔街26号
国籍:CN
代理机构:石家庄新世纪专利商标事务所有限公司
代理人:张一
更多信息请下载全文后查看。
基于压缩感知的回声状态神经网络在时间序列预测中的应用压缩感知是一种信号处理技术,通过对信号进行稀疏表示和重构,从而实现高效的信号采样和重建。
在时间序列预测领域,压缩感知技术可以帮助我们更好地理解和预测数据的变化趋势,提高预测的准确性和效率。
回声状态神经网络(ESN)是一种基于循环神经网络的模型,具有快速的训练速度和强大的非线性建模能力。
本文将探讨基于压缩感知的回声状态神经网络在时间序列预测中的应用,并分析其在实际场景中的效果和优势。
一、压缩感知在时间序列预测中的应用压缩感知技术可以通过对信号进行稀疏表示和重构,实现高效的信号采样和重建。
在时间序列预测中,我们经常需要对过去一段时间内的数据进行分析和建模,以预测未来一段时间内的变化趋势。
传统的时间序列预测方法通常需要对长时间序列进行完整采样和建模,计算量大,且可能受到数据的高维和复杂结构的影响,导致预测的准确性和效率受到限制。
而压缩感知技术可以帮助我们更好地理解和利用时间序列数据的稀疏性和结构特点,从而实现对时间序列的高效采样和重建。
通过对时间序列数据进行稀疏表示和压缩,我们可以减少采样和存储的成本,提高数据的处理速度和存储效率,同时保持数据的重要信息和结构特点,从而更好地进行时间序列的预测和分析。
回声状态神经网络(ESN)是一种基于循环神经网络的模型,具有快速的训练速度和强大的非线性建模能力。
ESN模型通常由输入层、隐含层和输出层组成,其中隐含层的状态可以反馈到自身或输出层,形成一种回声状态网络结构,从而实现对时间序列数据的建模和预测。
ESN模型具有较少的参数和较快的训练速度,可以快速适应不同的时间序列数据,并具有较强的非线性建模能力,可以有效地处理复杂的时间序列变化趋势和结构特点。
ESN 模型在时间序列预测领域具有广泛的应用前景,可以帮助我们更好地理解和预测时间序列数据的变化趋势,提高预测的准确性和效率。
在实际应用中,基于压缩感知的ESN模型可以广泛应用于气象预测、股票市场分析、工业生产控制等领域,为实际生产和生活提供更准确、更高效的时间序列预测解决方案。
轨迹预测综述
轨迹预测是指通过对目标历史轨迹数据的分析和建模,预测该目标未来可能的运动轨迹。
在人工智能、自动驾驶、智能交通等领域得到广泛应用。
目前,轨迹预测技术主要包括基于物理学模型、基于统计学模型和基于深度学习模型三种方法。
基于物理学模型的轨迹预测主要基于牛顿力学和运动学原理,通过预测目标受到的外部力和其自身状态的变化,预测其未来运动轨迹。
该方法需要对目标的物理特性、环境因素等进行建模,具有较高的准确性,但受限于对物理模型的精确度和对环境的了解程度较大。
基于统计学模型的轨迹预测主要利用目标历史轨迹数据的统计
特征,如均值、方差、频率等,通过对这些特征进行分析和建模,预测目标未来运动轨迹。
该方法不需要对目标的物理特性和环境因素进行建模,具有较好的可扩展性和适应性,但受限于对历史数据的准确性和样本数量的影响。
基于深度学习模型的轨迹预测主要利用深度神经网络对目标历
史轨迹数据进行学习和建模,预测目标未来运动轨迹。
该方法不需要对目标的物理特性和环境因素进行建模,具有较高的准确性和可扩展性,但对数据质量和模型复杂度有较高的要求。
未来,轨迹预测技术将会在智能交通、自动驾驶、机器人等领域得到更广泛的应用,同时也需要进一步研究和发展,提高预测准确性和应用范围。
- 1 -。
基于回声状态网络的海浪谱实时预报方法
张新宇;蔡烽;王骁;石爱国
【期刊名称】《海洋预报》
【年(卷),期】2018(35)5
【摘要】为实现在非线性较强情况下的海浪谱预报,以船载测波雷达实船测量的海浪谱数据为基础,将经验模态分解(EMD)和回声状态神经网络(ESN)相结合,对海浪谱的实船实时预报方法进行了研究。
所提方法利用经验模态分解对子波谱密度值时间序列进行分解,并对分解后各分量分别应用回声状态神经网络进行预报。
将预报结果进行叠加,可以得到子波谱密度的预报值,进一步可合并得到整个海浪谱信息。
结果表明:该方法可以有效解决非线性较强情况下预报效果变差的问题。
方法可为船舶实时掌握海浪谱信息,提高船载测波雷达系统的实用性提供一定的基础。
【总页数】7页(P34-40)
【关键词】回声状态网络;经验模态分解;测波雷达;非线性预报
【作者】张新宇;蔡烽;王骁;石爱国
【作者单位】大连舰艇学院
【正文语种】中文
【中图分类】P731.33
【相关文献】
1.基于回声状态网络的船舶摇荡连续预报方法研究 [J], 石博文;张新宇;刘正江
2.基于Adaboost算法的回声状态网络预报器 [J], 韩敏;穆大芸
3.日径流预报贝叶斯回声状态网络方法 [J], 李保健;程春田;武新宇;王森;
4.基于相空间重构和回声状态网络的舰船摇荡预报 [J], 侯建军;西文韬;张新宇;于汇源
5.基于灰色理论的海浪实时预报 [J], 张本伟;陈瑞峰;孙峰
因版权原因,仅展示原文概要,查看原文内容请购买。
2023-10-28CATALOGUE 目录•研究背景和意义•回声状态网络原理及特性•回声状态网络学习机制研究•回声状态网络的应用研究•结论和展望01研究背景和意义研究背景1研究意义23通过对回声状态网络学习机制的研究,可以深入了解其自适应、自组织和鲁棒性的内在机制。
研究结果可以为回声状态网络的优化和改进提供理论依据和实践指导,促进其在各个领域的应用效果的提升。
通过对比分析和实验验证,可以进一步拓展回声状态网络的应用范围,为解决复杂问题和创新应用提供新的思路和方法。
02回声状态网络原理及特性回声状态网络原理回声状态网络是一种递归神经网络(RNN),能够处理序列数据,并具有长期依赖问题的能力。
它由三部分组成:输入层、隐藏层和输出层。
回声状态网络的原理基于“回声状态”(Echo State)的概念,即网络中的隐藏层状态可以回溯和影响未来的输出。
网络的输入和输出之间存在一种映射关系,而隐藏层则负责记忆和传递这种映射关系。
回声状态网络的训练方法主要是通过调整权重矩阵和偏置矩阵来实现的,使其能够根据输入序列生成期望的输出序列。
长期依赖问题的处理能力稀疏连接随机权重矩阵回声状态网络的特性03回声状态网络学习机制研究回声状态网络学习算法研究回声状态网络的优化算法是指通过优化网络的参数和结构,以提高网络的性能和泛化能力。
回声状态网络优化算法研究基于梯度下降的回声状态网络优化算法:通过计算网络的梯度,逐步更新网络的权重矩阵,使得网络的输出能够更好地拟合目标函数。
基于遗传算法的回声状态网络优化算法:通过引入遗传算法的思想,对网络的参数和结构进行优化,提高网络的性能和泛化能力。
基于粒子群优化算法的回声状态网络优化算法:通过引入粒子群优化算法的思想,对网络的参数和结构进行优化,提高网络的性能和泛化能力。
回声状态网络与其他神经网络融合算法的研究对于提高网络的性能和泛化能力具有重要意义。
基于卷积神经网络的回声状态网络融合算法:通过将卷积神经网络的思想引入回声状态网络中,利用卷积神经网络的特征提取能力,提高回声状态网络的性能和泛化能力。
回声状态网络研究张晋雁;陶宏才【摘要】回声状态网络是一种新型的递归神经网络,近年来引起诸多学者的关注,对回声状态网络的研究也逐步深入.系统介绍回声状态网络的网络结构、学习过程和主要参数,详细论述几种比较热门的改进算法以及回声状态网络目前的应用研究情况,归纳并且比较该算法与BP神经网络、SVM支持向量机等预测模型各自的优缺点以及适用范围,最后总结回声网络目前存在的问题以及未来的研究方向.【期刊名称】《成都信息工程学院学报》【年(卷),期】2015(030)006【总页数】5页(P546-550)【关键词】回声状态网络;储备池;递归神经网络【作者】张晋雁;陶宏才【作者单位】西南交通大学信息科学与技术学院,四川成都611756;西南交通大学信息科学与技术学院,四川成都611756【正文语种】中文【中图分类】TP1830 引言回声状态网络(echo state network,ESN)由 Jaeger[1]于2001年提出,在模型构建与学习算法方面较传统的递归神经网络有较大差别,其相应的学习算法为递归神经网络的研究开启了新纪元。
回声状态网络采用“储备池”代替传统神经网络中的隐层。
储备池由大量稀疏连接的神经元组成,并将输入信号从低维空间映射到高维空间,唯一需要训练的参数即为输出权值矩阵[2]。
这些特点大大简化了回声状态网络的训练算法和求解过程。
回声状态网络在时间序列预测[3-4]、非线性系统识别[5]、图像检测[6]等领域有广泛应用。
针对不同应用领域对回声状态网络的优化改进算法研究也日益倍增,研究方向主要针对储备池的优化。
标准回声状态网络的储备池是随机生成的,但是这并不代表随机生成的即为最优储备池。
所以,针对不同的应用问题,提出不同的储备池优化方法。
文献[7]提出一种最简储备池回声状态网络,构造出仅包含单个节点的储备池网络,简化储备池的拓扑结构。
韩敏等[8]提出一种多储备池回声状态网络,构建出一种多储备池ESN层次结构模型,每一层的核心组成是ESN,ESN 的核心组成又是储备池,由此形成的多储备池ESN具有强大的非线性系统建模能力。
基于改进回声状态网的时间序列预测林健;伦淑娴【期刊名称】《渤海大学学报(自然科学版)》【年(卷),期】2015(036)003【摘要】为了提高回声状态网对时间序列的预测精度,将改进的小世界网络和泄露积分型回声状态网结合,提出了一种新型时间序列预测方法.泄露积分型回声状态网储备池神经元采用随机网络进行连接,首先利用改进的小世界网络替代随机网络,提高了储备池的适应性,从而改善回声状态网的泛化能力和稳定性.然后将利用改进的回声状态网预测典型的非线性时间序列.最后利用Matlab仿真软件进行验证,仿真结果表明,该方法较传统回声状态网预测模型具有更高的效率和预测精度.%In order to improve the prediction accuracy of echo state network for time series, this paper pro-poses an optimization method by combining modified small world network with the leaky echo state network.The neurons of reservoir of leaky echo state network adopt randomly connected network.Firstly,using the modified small world network instead of random network, A small world network is used to improve connection mode of reservoir processing unit and boost the adaptability of reservoir,thus generalization ability and stability of echo state network are improved.Next,the improved echo state network model is used to predict the typical nonlinear time series.Finally,Matlab software is used to verify in this paper.The simulation results show that the method proposed in thispaper has faster convergence speed and higher precision than the traditional echo state network .【总页数】5页(P284-288)【作者】林健;伦淑娴【作者单位】渤海大学工学院,辽宁锦州 121013;渤海大学新能源学院,辽宁锦州121013【正文语种】中文【中图分类】TP272【相关文献】1.基于小世界回声状态网的时间序列预测 [J], 伦淑娴;林健;姚显双2.改进回溯搜索优化回声状态网络时间序列预测 [J], 胡率; 肖治华; 饶强; 廖荣涛3.基于弹性小世界回声状态网络的非线性时间序列预测 [J], 任条娟;钟陈健;刘半藤;郑启航4.基于改进差分进化和回声状态网络的时间序列预测研究 [J], 许美玲;王依雯5.基于改进粒子群算法优化回声状态网络的时间序列预测 [J], 张亚楠;赵丽娜因版权原因,仅展示原文概要,查看原文内容请购买。
(19)中华人民共和国国家知识产权局
(12)发明专利申请
(10)申请公布号 (43)申请公布日 (21)申请号 201910346731.4
(22)申请日 2019.04.27
(71)申请人 华南理工大学
地址 510640 广东省广州市天河区五山路
381号
(72)发明人 欧昭婧 张幸林 张锦怡
赵孔延戈 廖培湧 魏莹
(74)专利代理机构 广州粤高专利商标代理有限
公司 44102
代理人 何淑珍 江裕强
(51)Int.Cl.
G06F 16/9537(2019.01)
G06F 16/215(2019.01)
G06Q 10/04(2012.01)
G06Q 50/26(2012.01)
G01S 19/40(2010.01)G01S 19/42(2010.01)G06N 3/04(2006.01)G06N 3/08(2006.01)
(54)发明名称一种基于回声状态网络的历史轨迹目的地预测方法(57)摘要本发明公开了一种基于回声状态网络的历史轨迹目的地预测方法,包括以下步骤:S1、预测服务提供者对某一区域中行驶轨迹数据进行预处理;S2、构建基础回声状态网络模型;S3、利用训练数据集对基础回声状态网络模型进行训练,得到回声状态网络模型;S4、通过测试数据集对回声状态网络模型进行测试与优化,选出测试结果最优的参数表;S5、将最优的参数表作为到回声状态网络模型的参数,得到预测模型;S6、利用预测模型对实时轨迹数据进行预测,将预测结果返回轨迹数据提供者。
本发明用于解决用户的轨迹预测问题,只要能够采集到足够的历史轨迹数据来进行模型的训练以及修正,得到符合运动特性的模型,
就能大幅度提高预测的准确性。
权利要求书3页 说明书6页 附图2页CN 110110243 A 2019.08.09
C N 110110243
A
权 利 要 求 书1/3页CN 110110243 A
1.一种基于回声状态网络的历史轨迹目的地预测方法,其特征在于,包括以下步骤:
S1、预测服务提供者对某一区域中的移动物体的行驶轨迹数据进行预处理,再将预处理后的数据分为训练数据集和测试数据集;
S2、根据目的地预测的基本特点构建基础回声状态网络模型;
S3、预测服务提供者通过设定模型评估标准,利用训练数据集对步骤S2中的基础回声状态网络模型进行训练,得到回声状态网络模型;
S4、通过测试数据集对回声状态网络模型的不同参数进行测试与优化,选出测试结果最优的参数表;
S5、将S4中的最优的参数表输入到回声状态网络模型中,得到基于回声状态网络的目的地预测模型;
S6、预测服务提供者利用预测模型对轨迹数据提供者的实时轨迹数据进行预测,将预测结果返回轨迹数据提供者。
2.根据权利要求1所述的一种基于回声状态网络的历史轨迹目的地预测方法,其特征在于,所述的预处理是将行驶轨迹数据行进筛选、GPS修正和清洗操作;
所述筛选包括淘汰GPS只有一个数值的无效轨迹;所述清洗包括删除GPS修正不能修改的轨迹;
所述训练数据集包括公开的或者是用户个人的行驶轨迹数据;所述测试数据集包括轨迹提供者提供的行驶轨迹数据;
再分别将训练数据集和测试数据集中的数据分成车辆轨迹数据和行人轨迹数据。
3.根据权利要求1所述的一种基于回声状态网络的历史轨迹目的地预测方法,其特征在于,训练数据集的数据获取具体为:确定需要进行预测任务的区域,确定该区域可能产生轨迹的移动物体集合S,获取S中的个体作为历史行驶轨迹训练数据的候选者,再通过配置的GPS定位仪器收集这些个体的固定时间间隔内的GPS数据,该数据作为训练数据集的数据。
4.根据权利要求1所述的一种基于回声状态网络的历史轨迹目的地预测方法,其特征在于,步骤S2所述的目的地预测的基本特点包括时间和经纬度坐标。
5.根据权利要求1所述的一种基于回声状态网络的历史轨迹目的地预测方法,其特征在于,步骤S2所述的基础回声状态网络模型是基于回声状态网络(Echo State Network,ESN)机制的神经网络模型,包括有K个输入节点的输入层、有M个节点的隐藏层和有L个节点的输出层,其中,输入层的的状态为u(t),隐藏层的状态为x(t),输出层的状态为y(t),各层之间的关系如下:
输入层与隐藏层之间存在连接权值矩阵为W in,隐藏层到隐藏层的连接权值矩阵为W,隐藏层到输入层的连接权值矩阵为W out,同时存在从前一个输出层到当前隐藏层的连接,其连接权值矩阵为W back;
各层的状态公式如下:
u(t)=[u1(t),u2(t),u3(t),…,u K(t)]T
x(t)=[x1(t),x2(t),x3(t),…,x M(t)]T
y(t)=[y1(t),y2(t),y3(t),…,y L(t)]T
其中,u K(t)表示第K个输入节节点的第t个输入状态,t表示第t个状态,K表示输入节点
2。