下载文档原格式
基于神经网络和马尔柯夫链的网络流量预测方法作者：张立燕马华林来源：《数字技术与应用》2011年第03期摘要:本文提出了一种新的网络流量预测方法,该方法根据网络流量历史值,用bp神经网络算法进行预测,然后用马尔柯夫链对bp神经网络算法预测时产生的误差进行修正,从而达到较高的预测精度。
应用此模型对实际网络流量进行预测,结果表明了该方法是有效可行的。
关键词:马尔柯夫链预测误差bp神经网络中图分类号:TP316.8 文献标识码:A 文章编号:1007-9416(2011)03-0095-021、引言网络流量的预测问题可以归为时间序列问题,我们用bp神经网络对网络流量进行了预测,实验发现该算法具有较高的预测精度,但对随机波动性大的数据序列进行预测时预测精度不高。
马尔柯夫链预测法是利用系统现在状态和发展趋势去预测将来的可能状态的概率,或者说预测事件在预测区间发生的概率。
本文结合了bp神经网络和马尔柯夫链的优点,提出了神经网络马尔柯夫链预测模型。
该模型大大提高了模型拟合和预测精度,并将其应用在流量预测中,实验表明了这种方法的有效性。
2、BP神经网络算法Bp神经网络的基本思想是利用LMS学习算法,在网络的学习过程中使用梯度搜索技术,利用误差向后传播来修正权值,从而实现网络实际输出和期望输出的均方差最小化。
本论文中,采用了只有一个隐藏层的神经网络模型。
其中表示输出单元,表示隐藏单元,表示输入单元,从输入单元到隐藏单元的连接权为,从隐藏单元到输出单元的连接权为,和分别对应于适当选定的隐藏层和输出层活化函数,则隐藏单元的输入为其中为输出单元的期望值。
利用梯度下降算法对权进行学习,对于隐藏单元到输出单元之间的连接权矩阵,利用梯度下降规则得到式中:大于0,为适当选定的学习步长。
同理,对于从输入单元到隐藏单元之间的连接权矩阵利用链式法则可得这样可对权实现实时更新:根据这个更新规则,每一步迭代都减小了在线误差,从而达到某一极小值。
158电力技术1 引言 电力综合数据网是为了满足电网的信息化建设，将电力网络性能要求不一的各类业务做统一承载而搭建的支撑性网络[1]。
由于电力业务类型复杂和电力业务需求不断增加，使得电力综合数据网稳定运行及业务保证面临着新挑战。
而通过大量网络流量历史数据对网络未来的流量趋势进行预测分析，将极大提高网络性能和服务质量[2]。
因此，电力综合数据网网络流量预测研究将是保障电力信息业务可靠使用的重要手段。
在通信网络技术的发展中，研究人员常利用一些传统预测方法来实现对网络资源合理地分配和控制。
传统预测方法有回归模型和时间序列预测模型等，是基于线性变化来建立模型。
但随着对网络流量预测的深入研究，网络流量数据呈现出明显的非线性、突发性、长相关性、混纯性、自相似性等特点[3]。
传统方法无法较好地模拟非线性时间序列，于是出现了神经网络、支持向量机等深度学习算法应用于网络流量预测中。
目前，在网络流量的预测领域中，深度学习算法已得到初步应用。
其通过逐层的特征变换，自动学习样本中的抽象特征，重新建立一个更抽象的特征空间来获得差异化的隐含特征，从而进行有针对性地预测来实现更好的预测效果[4]。
RNN 循环神经网络主要是处理和预测序列数据，而LSTM 作为RNN 的一个重要结构，对序列数据的长期记忆方面表现良好。
因此，本文采用LSTM 神经网络预测模型对电力通信综合数据网网络流量进行预测。
仿真试验表明，该算法能够有效地预测电力通信综合数据网网络流量。
2 电力综合数据网 电力综合数据网主要是为各应用系统服务，其承载的业务对网络的可靠性要求较高，例如对带宽要求很高的图像监控，对丢包率忍受度很低的电源性能监控，对综合性能要求最好的电视电话会议等[5]。
电力综合数据网的业务主要包括以下方向： （1）信息系统应用。
如：用电信息采集、营销系统、财务系统、企业门户等共计50余个信息系统。
（2）语音及视频应用。
如：高清会议电视、一体化会议电视、IMS 系统等电视电话会议系统。
基于神经网络的交通流量预测技术研究第一章：前言交通流量预测对于城市交通管理和规划有着重要的意义。
随着城市规模的扩大和交通网络的复杂化，交通拥堵问题愈发突出，如何准确地预测交通流量成为了城市交通管理和规划的重要问题。
神经网络作为一种新兴的预测方法，具有非线性、自适应、通用性强、学习能力强等优点，在交通流量预测中得到广泛应用。
本文将对基于神经网络的交通流量预测技术进行深入研究。
第二章：相关理论2.1 神经网络的基本原理神经网络是模拟人类神经系统的一种计算模型。
它由大量的节点（神经元）和连接这些节点的弧线（突触）组成。
神经网络模型学习的本质是调整网络中各个连接的权值，以达到最优预测效果。
2.2 交通流量预测模型交通流量预测模型一般分为两类：时间序列预测模型和回归模型。
其中，回归模型应用分布式滞后模型（Distributed Lag Model，DLM）进行建模，在时间上选取预测时刻之前的时间步长作为预测因子，对交通流量进行预测。
第三章：数据处理3.1 数据获取交通流量预测需要大量的实时数据，包括历史交通流量和实时交通流量数据。
获取实时交通流量数据可以通过车载GPS或区域道路监控器等设备。
历史交通流量数据可以通过城市交通管理平台和历史交通流量监测记录等手段获取。
3.2 数据分析数据分析是保证交通流量预测质量的重要环节。
在数据分析过程中，需要统计分析交通流量的基本性质，包括交通流量的分布特征、流量序列的相关性以及周期性等特征。
第四章：交通流量预测模型设计4.1 神经网络结构设计神经网络结构设计是交通流量预测模型设计的核心之一，神经网络结构的优劣直接影响交通流量预测的精度和鲁棒性。
常用的神经网络结构包括BP神经网络、RBF神经网络、Elman神经网络和Hopfield神经网络等。
4.2 输入数据预处理输入数据预处理是交通流量预测模型设计的另一个重要方面。
由于交通流量数据存在不同的尺度和数量级，需要对输入数据进行标准化或正则化处理。
基于神经网络的交通流量预测技术研究交通流量预测技术是交通运输领域中一个重要的研究方向。
准确预测交通流量可以帮助交通规划运营管理部门更好地安排交通流，并对城市的发展与交通建设提出科学合理的建议。
如今，随着深度学习、人工智能等新技术的发展，基于神经网络的交通流量预测技术也越来越受到研究者的关注。
本文将对基于神经网络的交通流量预测技术进行分析和探讨。
一、交通流量预测技术的研究现状在传统的交通流量预测技术中，主要采用时间序列模型、回归模型和基于统计学的模型，但这些方法存在的问题是模型的参数需要手动设定、数据需要特征工程处理等，效果受到很大限制。
而随着神经网络的发展，基于神经网络的交通流量预测技术逐渐成为研究热点。
传统的神经网络模型包括自回归（AR）模型、移动平均（MA）模型和自回归移动平均（ARMA）模型。
这些模型主要是根据时间序列分析中的思想，通过建立输入输出之间的映射关系来实现交通流量预测。
但这些模型存在的问题是模型难以训练，容易陷入局部最优解等。
二、基于神经网络的交通流量预测技术研究基于神经网络的交通流量预测技术具有灵活性强、自适应性好、不需要进行特征工程等优点，已经成为交通流量预测技术的主流。
其中，前馈神经网络模型和循环神经网络模型是常用的模型。
1. 前馈神经网络模型前馈神经网络模型是基于多层感知器（Multilayer Perceptron，简称 MLP）的一种模型，也被称为全连接神经网络。
该模型主要是通过输入层、隐层和输出层连接而成，而且每个神经元都与相邻层的所有神经元相连接。
前馈神经网络模型的结构简单，易于操作和训练，可以适用于各种不同的数据。
但缺点是在处理序列数据时，需要事先指定时间步长，因此难以适用于长时间序列数据的处理。
2. 循环神经网络模型循环神经网络模型（Recurrent Neural Network，简称 RNN）是一种基于时间序列数据的神经网络模型。
它通过内部的循环结构，能够有效地实现对时间序列数据的处理，并可以将当前时间步的输出用于下一时间步的计算。
基于神经网络的基站覆盖范围预测模型研究随着现代通讯技术的快速发展，无线移动通讯已经成为了当今社会不可或缺的一部分。
而在无线通讯中，基站是整个网络系统中最为重要的一环。
基站的主要作用就是提供无线信号覆盖范围，使得用户能够在范围内进行通讯。
因此，建立准确的基站覆盖模型对于无线通讯的稳定性和高效性至关重要。
而要建立一个准确的基站覆盖模型，最重要的一点就是准确地预测基站的覆盖范围。
因为只有了解了基站的覆盖范围，才能够选择最佳的基站位置和安排合理的频率资源，从而提高网络的覆盖率、质量和容量。
在过去的研究中，基站覆盖范围预测主要采用了经验分析和测量方法。
经验方法往往是基于实际经验和过去开发的模型进行预测，而测量方法则是通过在实际现场进行多次测量和调查，得出基站的覆盖范围图。
这两种方法具有研究周期短和可操作性强的优点，但是在精度上却存在一定的局限性。
为了得到更为准确的基站覆盖范围预测模型，研究者们开始基于神经网络进行研究。
神经网络是模拟人脑神经元之间相互连接的计算模型，其中包括多个输入层、隐层和输出层。
通过对神经元之间权重和偏置的调整，神经网络能够自动识别和利用输入数据之间的关联性，从而实现对输出结果的预测。
在基站覆盖范围预测模型中，神经网络通常是以监督学习的方式进行训练。
其中，训练集包括了若干个已知基站覆盖范围的数据，而测试集则用于验证所训练出来的神经网络模型的预测精度。
经过多次研究和试验，研究者们已经发现，基于神经网络的基站覆盖范围预测模型能够在一定程度上提高预测精度。
在一项研究中，研究者们采用了一种基于特征提取的神经网络模型来预测基站的覆盖范围。
其中，特征提取使用了卷积神经网络（CNN）来处理基站的数值特征，并将提取的特征用于神经网络的训练中。
结果显示，该模型在预测精度上比传统的方法更为准确。
除此之外，在研究基站覆盖范围预测模型时，还需要注意到一些技术和方法。
例如，要充分利用原始数据中的信息，可以使用多种预处理技术（如降噪、平滑等）。
基于RBF神经网络的网络流量建模及预测
王俊松;高志伟
【期刊名称】《计算机工程与应用》
【年(卷),期】2008(044)013
【摘要】随着计算机网络的迅速发展,目前的网络规模极为庞大和复杂,网络流量预测对于网络管理具有至关重要的意义.根据实际网络中测量的大量网络流量数据,建立了一个基于RBF神经网络的流量模型,给出了RBF神经网络的结构设计及基于正交最小二乘的学习算法,并基于该流量模型时网络流量进行预测.仿真结果表明,该模型具有较高的预测效果,相对于传统线性模型及BP神经网络模型具有更高的预测精度和良好的自适应性.
【总页数】3页(P6-7,11)
【作者】王俊松;高志伟
【作者单位】天津大学,自动化系,天津,300270;天津大学,自动化系,天津,300270【正文语种】中文
【中图分类】TP393.07
【相关文献】
1.基于小波包的RBF神经网络网络流量混沌预测 [J], 冯兴杰;潘文欣;卢楠
2.基于EEMD与RBF神经网络的网络流量预测 [J], 刘付斌;冯丽娜
3.基于RBF神经网络的校园网络流量预测研究 [J], 邵雪梅;肖刚;祁辉;程辉
4.基于遗传RBF神经网络的无线传感器网络流量预测方法 [J], 杨治秋
5.基于RBF神经网络的校园网络流量预测研究 [J], 邵雪梅;肖刚;祁辉;程辉
因版权原因，仅展示原文概要，查看原文内容请购买。
基于神经网络的交通流量预测方法及其应用交通流量是城市交通管理和规划的重要指标之一，而准确预测交通流量则是优化城市交通管理和规划的前提条件。
而在传统的交通流量预测方法中，存在着预测准确度较低、预测范围狭窄等问题。
因此，基于神经网络的交通流量预测方法应运而生，并被广泛应用于城市交通管理和规划中。
一、神经网络的交通流量预测方法神经网络是一种基于生物神经系统工作原理所构建的计算模型，其特点在于可以通过自我学习、自我适应的方式进行模式识别、自适应控制等任务。
基于神经网络的交通流量预测方法，就是使用神经网络模型来对历史交通流量数据进行学习，并根据学习结果预测未来的交通流量水平。
按照神经网络的结构和运行方式，基于神经网络的交通流量预测方法分为前向神经网络和递归神经网络两类。
前向神经网络是指信号在神经元之间按照一定方向前进，从而从输入层经过若干隐含层最终输出到输出层。
递归神经网络则是基于前向神经网络的基础上增加了反馈环节，从而可以处理时间序列数据。
在基于神经网络的交通流量预测方法中，首先需要构建神经网络模型并设置好神经网络的各个参数。
其次，需要将历史交通流量数据输入到神经网络中进行学习，并对学习结果进行验证。
最后，根据学习结果以及当前的交通状况，预测未来的交通流量水平。
二、神经网络的交通流量预测方法的应用基于神经网络的交通流量预测方法已经被广泛应用于城市交通管理和规划中。
例如，可以利用基于神经网络的交通流量预测方法，对城市道路网络进行优化调整，以提高交通运行效率，减少拥堵等问题。
此外，还可以利用基于神经网络的交通流量预测方法，对城市交通运行情况进行实时监测和预测，从而及时采取措施，以保证交通运行的顺畅与安全。
同时，在交通出行方面，基于神经网络的交通流量预测方法也可以为出行者提供较为准确的出行建议。
例如，出行者可以通过交通流量预测结果，选择比较畅通的出行路线，避免遇到交通拥堵，从而提高出行效率和舒适度。
总之，基于神经网络的交通流量预测方法拥有很高的准确度和广泛的应用前景，为城市交通管理和规划提供了重要的技术支持。
基于人工神经网络的交通流量预测与优化随着城市化进程的加快，交通拥堵问题日益严重。
解决交通拥堵是当前城市发展所要面临的重大问题之一。
而交通流量预测和优化是解决交通拥堵的重要手段。
交通流量预测是指根据历史数据和实时数据，通过建立数学模型对未来一定时间内的交通流量进行预测。
传统的交通流量预测方法主要基于时间序列分析和统计学方法，但这些方法存在一些缺陷，比如预测精度低、适用范围窄等问题。
而近年来兴起的人工神经网络技术可以有效地解决这些问题。
人工神经网络模型是一种模拟人脑神经网络的模型，能够进行信息处理和学习，对于非线性、实时性、不确定性等问题有着很好的适应性。
通过训练神经网络，可以有效地预测交通流量，并提高预测精度和准确性。
基于人工神经网络的交通流量预测模型主要包括三个部分：输入层、隐层和输出层。
输入层负责接收交通流量的输入数据，包括历史数据、实时数据和其他预测因素；隐层是神经网络的核心，通过学习输入数据，形成一种复杂而有效的信息处理准则；输出层负责输出预测结果。
在训练神经网络之前，需要对输入数据进行特征提取和预处理，以便更好地适应神经网络模型。
交通流量预测的应用不仅可以提高行车效率，缓解交通拥堵，还可以有助于交通规划和道路建设。
根据预测结果，可以进行交通调度和交通信号控制，提高交通流量运行效率。
此外，交通流量预测还可以帮助交通相关部门进行交通规划和城市规划，合理规划道路建设和公共交通资源配置，优化城市交通结构，提高城市可持续发展水平。
但是，由于交通流量预测涉及到多方面的因素，包括历史数据、实时数据、天气、人口流动等众多因素，因此在建立交通流量预测模型时需要考虑多种因素，深入挖掘数据关系，以提高预测精度和准确性。
此外，针对不同的交通场景和不同的预测需求，需要选择不同的模型和训练方法来满足不同的需求。
在优化交通流量方面，基于人工神经网络的交通信号控制算法可以有效地提高交通运行效率和路面通行能力。
交通信号控制是城市交通流量控制的关键环节，通过优化信号控制算法，可以使交通流动更加顺畅。
基于神经网络的交通流量预测研究交通流量预测是交通规划和管理中的重要组成部分，对交通运输的安全性、效率和可持续性具有重要影响。
随着科技的发展，神经网络模型被广泛应用于交通流量预测，并取得了一定的成果。
本文将基于神经网络的交通流量预测研究进行探讨与分析。
一、神经网络模型的原理神经网络是一种模仿人脑神经元网络结构而设计的数学模型，通过大量的连接和节点处理信息。
神经网络模型的基本结构包括输入层、隐藏层和输出层，其中隐藏层可以有多个。
每个节点都代表一个人工神经元，并具备激活函数来进行信息处理和传递。
神经网络模型基于数据输入和输出之间的关系学习，通过反向传播算法不断优化模型的参数，从而实现对未知数据的预测。
二、数据采集与预处理神经网络模型的性能受数据品质和特征选择的影响较大。
在交通流量预测中，数据采集是关键的一环。
通常可以通过传感器、摄像头、移动设备等方式获取交通流量数据。
数据采集过程中应注意采集到的数据的可靠性和准确性，同时也应保护数据隐私。
在数据预处理阶段，我们需要对原始数据进行清洗、归一化和特征选择等操作，以提高模型的准确性和稳定性。
清洗操作包括处理缺失值、异常值和重复值等；归一化操作则是使得不同特征之间具有可比性；特征选择则是从原始数据中选择对交通流量预测有重要影响的特征，以降低模型的复杂度。
三、神经网络模型在交通流量预测中的应用1. 前馈神经网络模型前馈神经网络模型是最基本而常用的神经网络模型，在交通流量预测中也得到了广泛应用。
该模型通过已知的历史数据，学习时序关系，从而预测未来一段时间内的交通流量。
前馈神经网络模型的优势在于可以处理非线性问题，适用于复杂的交通流量预测任务。
2. 循环神经网络模型循环神经网络模型考虑到了时间序列数据的特性，能够捕捉到时间维度的相关性信息。
在交通流量预测中，循环神经网络模型可以通过前一时刻的交通流量来预测当前时刻的交通流量，实现对交通流量的连续预测。
3. 卷积神经网络模型卷积神经网络模型是一种专门处理图片或图像时空数据的神经网络，对于交通流量预测任务也有一定的应用。
基于神经网络的城市交通流量预测技术研究近年来，城市交通拥堵已经成为了人们日常生活中不可避免的问题，尤其是在大中型城市。
面对城市交通繁忙的情况，很多研究者开始探索利用机器学习的方式对城市交通流量进行预测。
其中神经网络技术正是其中最为广泛应用的一种方法。
本文将围绕神经网络技术的优越性以及在城市交通流量预测方面的应用和研究进展来展开阐述。
一、神经网络技术在交通预测中的应用神经网络是一种基于生物神经系统而发展起来的一种计算模型。
作为一种人工智能技术，神经网络模型能够从数据中学习和发现潜在的关系，并且通过训练来逐渐提高预测准确性。
这项技术在许多领域中都已经得到了广泛应用，比如图像识别、自然语言处理、医疗诊断等领域。
而在城市交通预测方面，神经网络技术也被研究者们广泛应用。
在交通预测领域，神经网络应用的原理是利用历史数据训练神经网络，然后将训练好的神经网络模型进行预测。
这个过程需要在大量的真实数据集上进行，通常需要考虑的因素包括天气、时间、日历节假日、道路状况、人口密度、公共交通线路等方面的因素。
这些因素都会对交通流量的预测产生影响。
在神经网络模型的选择方面，研究者们通常会选择多层感知机（MLP）模型、循环神经网络（RNN）模型等，针对一些介于 MLP 和 RNN 之间的网络结构，也有一些研究正在进行中。
而在数据处理方面，神经网络通常会处理大量的时间序列数据，因此在预处理阶段需要进行时间序列分析（Time Series Analysis），在数据清洗、特征提取、数据转换等方面进行大量的工作。
二、神经网络技术在城市交通预测方面的优越性相对于传统的预测方法，利用神经网络技术进行城市交通预测具有以下的优点：1）非线性关系的建模：相对于线性关系模型，神经网络模型能够捕捉非线性关系的模型，这样就能够更好地把握城市交通流量的多种因素的影响。
2）自适应性强：神经网络模型能够自适应地对数据进行处理，所以对于复杂的城市交通数据表现更好。
文章编号:1671-1742(2008)05-0518-04基于神经网络的话务量预测邓 波, 李 健, 孙 涛, 张金生, 王惠东(四川大学电子信息学院,四川成都610064)
摘要:话务量具有高度的非线性和时变特性,由于神经网络具有较强的非线性映射等特性,将其运用于非线性的话务量短期预测是非常合适的。以青白江2005年10月的话务量作为预测对象,提出基于BP神经网络和基于Elman神经网络的话务量预测模型,仿真实验表明两种模型对于话务量的短期预测均是可行有效的。经过比较,Elman神经网络训练速度比BP神经网络快很多,更适用于实际应用。关 键 词:BP神经网络;Elman神经网络;话务量预测;预测模型中图分类号:TP183 文献标识码:A
收稿日期:2008-06-12;修订日期:2008-07-041 引言近年来移动通信在我国迅速发展,已经成为当今个人通信的主要方式。随着移动通信话务量迅速增长及网络容量的不断扩大,对话务量预测技术的需求就更加急迫,但实际当中,话务量预测技术发展并不理想,对移动通信运营商的网络建设及调整没有起到更为有效的指导作用。目前实际应用到话务预测的算法主要是回归分析、移动平均、指数平滑等一些传统算法,对话务量发展趋势的预测比较准确,但对于短期话务量的周期性变化,预测较为粗糙,对负荷的调整不能起到更好的指导作用。话务量具有高度的非线性和时变特性,它的变化受多方面影响,一方面,话务量变化存在着由未知不确定因素引起的随机波动;另一方面,又具有周期变化的规律性,同时由于受节假日、收费政策等情况影响,又使话务量变化出现差异。而神经网络是由大量简单的基本元件———神经元相互连接,通过模拟人的大脑神经处理信息的方式,进行信息并行处理和非线性转换的复杂网络系统。其具有通过学习逼近任意非线性映射的能力,将其运用于非线性的话务量短期预测是非常合适的。在神经网络算法中,基于BP算法的前馈网络是至今为止应用最为广泛的神经网络,能够以任意精度逼近任何非线性函数。Elman神经网络是一种典型的回归神经网络,比前向神经网络具有更强的计算能力,具有适应时变特性的能力,因此二者都非常适合于话务量预测。
2 BP神经网络、Elman神经网络的网络模型2.1 BP神经网络的构造及算法BP网络的全称为Back-PropagationNetwork,即反向传播网络,它在结构上类似于多层感知器,是一种多层前馈神经网络。它利用误差反向传播算法对网络进行训练。BP网络是一种具有3层或3层以上神经元的神经网络,包括输入层、中间层(隐层)和输出层。上下层之间实现全连接,而每层神经元之间无连接。当一对学习样本提供给网络后,神经元的激活值从输入层经各中间层向输出层传播,在输出层的各神经元获得网络的输入响应。接下来,按照减少目标输出与实际输出之间误差的方向,从输出层反向经过各中间层回到输入层,从而逐层修正各连接权值,即BP算法。随着这种误差逆向的传播修正不断进行,网络对输入模式响应的正确率也不断上升。BP网络的传递函数要求必须是可微的,常用的函数有Sigmoid型对数、正切函数或线型函数。由于传递函数处处可微,所以对于BP网络来说,一方面,所划分的区域不再是一个线性划分,而是由一个非线性超平面组成的区域,它是比较平滑的曲面,因而它的分类比线性划分更加精确,容错性也比线性划分更好;另一方面,网络可以严格采用梯度下降法进行学习,权值修正的解析式十分明确[1]。
一个具有r个输入和一个隐含层的神经网络结构如图1所示。
第23卷第5期2008年10月成 都 信 息 工 程 学 院 学 报JOURNALOFCHENGDUUNIVERSITYOFINFORMATIONTECHNOLOGYVol.23No.5Dct.2008设其输入为P,输入神经元有r个,隐含层内有s1个神经元,激活函数为f1,输出层内有s2个神经元,对应的激活函数为f2,输出为A,目标矢量为T。信息正向的传递如下:隐含层中第i个神经元的输出为:
图1 具有一个隐含层的神经网络模型结构图
di=f1(∑rj=1w1ijpj+b1i)
i=1,2,…,s1输出层第k个神经元的输出为:
dk=f2(∑s1i=1w2kidi+b2k)
i=1,2,…,s2定义误差函数为:
E(W,B)=12∑(tk-ak)
2
利用梯度下降法求权值变化及误差的反向传播,其有以下输出层的权值变化,对从第i个输入到第k个输出的权值有:
Δw2ki=-η E w2ki=-η E ak ak w2ki=η·(tk-ak)f2′di
同理得: Δb2ki=η·(tk-ak)f2′那么就有以下的隐含层的权值变化,对从第j个输入到第i个输出的权值有:
Δw1ij=η∑s2k=1(tk-ak)·f2′·w2ki·f1′·pi
同理得:
Δb1i=η∑s2k=1(tk-ak)f2′w2ki
由上可知,BP神经网络首先是对每一种输入模式设定一个期望输出值,然后对网络输入实际的学习记忆模式,并由输入层经隐层向输出层传播,此过程称为“模式顺传播”。实际输出与期望输出的差即是误差。按照误差平方最小这一规则,由输出层往隐层逐层修正连接权值和阈值,此过程称为“误差逆传播”。随着“模式顺传播”和“误差逆传播”过程的交替反复进行,不断调整网络的权值和阈值,使得误差信号最小,最终使网络的实际输出逐渐向各自所对应的期望输出逼近[2]。
图2 Elman神经网络的结构
2.2 Elman神经网络的构造及学习过程Elman神经网络是在前馈网络的隐含层中增加一个承接层,作为一步延时算子,以达到记忆的目的,从而使系统具有适应时变特性的能力,能直接反映动态过程系统的特性。Elman型回归神经元网络一般分为4层:输入层、中间层、承接层和输出层,如图2所示。输入层,隐含层和输出层的连接类似于前馈网络,输入层的单元仅起信号传输作用,输出层单元起线性加权作用。隐含单元的传递函数可采用线性或非线性函数,承接层用来记忆隐含层单元前一时刻的输出值并返回给输入,就象一个一步延时算子。Elman型回归神经网络的特点是隐含层的输出通过承接层的延迟与存储,自联到隐含层的输入。这种自联方式使其对历史状态的数据具有敏感性,内部反馈网络的加入增加了网络本身处理动态信息的能力,从而达到了动态建模的目的。Elman神经网络的学习过程以图2为例,Elman网络的非线性状态空间表达式为: y(k)=g(w3x(k))
x(k)=f(w1xc(k)+w2(u(k-1))) xc(k)=x(k-1)
519第5期 邓波等:基于神经网络的话务量预测其中,y、x、u、xc分别表示m维输出结点向量、n维中间层节点单元向量、r维输入向量和n维反馈状态向量。w3、w2、w1分别表示中间层到传输层、输入层到中间层、承接层到中间层连接权值。g(·)为输出神经元的传递函数,是中间层输出的线性组合。f(·)为中间层神经元的传递函数,常采用S函数。Elman网络也采用BP算法进行权值修正,学习指标函数采用误差平方和函数:
E(w)=∑nk=1[yk(w)- yk(w)]
2
其中 yk(w)为目标输出向量[1]。
3 基于BP及Elman神经网络的话务量预测3.1 数据的选择及预处理选用青白江2005年10月11日到25日的话务量作为样本数据,每一天数据采集的间隔为2小时,因此每天可以得到12组数据。由于一些常规因素如收费政策、人为因素等影响因素很难进行定量估计,因此,在实验中选择一些常规影响因素作为输入变量,因为话务量还受日期影响,一周7天分为工作日(星期一到星期五)和公休日(星期六和星期天),将话务预测日当天的日期特征数据也作为网络的输入变量,因此输入变量就是个13维的向量。目标向量就是预测日当天的12个话务值,即一天中12个整点的话务量,输出变量就为一个12维向量。为了保证网络能更好地学习样本,输人输出值进行归一化处理,适当变换转化为[0,1]之间的数据。采用下式进行变换。
x =x-xmin
xmax-xmin
x 表示转换后的输入数据,xmax表示初始输入的最大值,xmin表示初始输入的最小值。
表1 BP网络训练参数训练次数训练目标
10000.001
3.2 网络的训练及预测3.2.1 BP网络的训练及预测预测采用单隐层BP网络实现,网络输入层神经元有13个,中间层神经元取50个,输出向量为12个,训练参数如表1所示。训练好的网络对10月25日的值进行预测,预报误差曲线如图3所示。横坐标是12个时间点,纵坐标是每个时间点的预测值与真实值的误差。由图3可见网络预测值和真实值之间的误差是比较小的。除了第10次出现了一个相对较大误差,其余误差值都在0左右,即便是第10次的误差也只有0.2,满足应用要求。但BP网络的训练速度较慢,平均运算时间为6、7个小时。
图3 BP神经网络的预报误差
表2 Elman网络训练参数训练次数训练目标
10000.001
3.2.2 Elman网络的训练及预测Elman回归神经网络是一种典型的动态神经元网络,它是在BP网络基本结构的基础上,通过存储内部状态使其具备映射动态特征的功能,从而使系统具有适应时变特性的能力。下面运用Elman网络进行预测。网络输入层为13个神经元,输出层为12个神经元。中间层神经元为25个,训练参数如表2所示。训练好的网络对10月25日的值进行预测,预报误差曲线如图4所示。横坐标是12个时间点,纵坐标是每个时间点的预测值与真实值的误差。由图可见网络预测值和真实值之间的误差是较小的,几乎都在0左右。完全满足实际应用要求,而且Elman的运算速度很快,平均运算时
520成 都 信 息 工 程 学 院 学 报 第23卷
