BP神经网络的几种改进方法参考PPT
- 格式:ppt
- 大小:81.50 KB
- 文档页数:11
BP神经网络算法及其改进的几个方法1 概述人工神经网络(Artificial Neural Networks,ANN),是基于人类大脑的生物活动所提出的,是一个模型。
它由众多节点通过一定的方式互联组成,是一个规模巨大、自适应的系统。
其中有一种学习算法是误差传递学习算法即BP 算法。
BP算法是人工智能最常用到的学习方法,从一定意义上来讲,BP算法的提出,终结了多层网络在学习训练算法上的空白史,是在实际应用中最有效的网络训练方法,对ANN的应用和发展起到了决定性的作用。
BP算法是使用从输出层得到的误差来估算前一层的误差,再利用该误差估算更前一层的误差。
依次进行,就会获得其他所有各层的估算误差。
这样就实现了将从输出层的得到误差沿着与输入信号传送相反的方向逐级向网络的输入端传递的过程[1]。
但是,BP算法也存在着不可忽视的缺陷。
基于此,该文总结介绍了BP的改进方法。
2 BP算法的基本思想2.1 BP算法的基本原理BP算法是有监督指导的算法,它的学习训练过程一般分为两步:首先是输入样本的正向传递;第二步误差的反向传递;其中信号正向传递,基本思想是样本值从输入层输入,经输入层传入隐藏层,最后通过输出层输出,中间层对样本数据进行处理操作,利用各层的权值和激活函数对数据进行操作然后在输出层获得输出[2];接下来就是反向传递,算法得到的实际输出值与期望目标输出之间必然会有误差,根据误差的大小来决定下一步的工作。
如果误差值较小满足训练的精度要求,则认为在输出层得到的值满足要求,停止训练;反之,则将该误差传递给隐藏层进行训练,按照梯度下降的方式,对权值和阈值进行调整,接着进行循环,直到误差值满足精度要求停止训练[3]。
3 BP算法的缺陷尽管BP算法有着显著的优点,但是在实际应用过程中,BP算法会出现很多问题。
尤其是下面的问题,对BP神经网络更好的发展有很大影响。
有的甚至会导致算法崩溃。
3.1 收敛速度的问题BP算法在进行训练学习时,收敛速度慢,特别是在网络训练达到一定的精度时,BP算法就会出现一个长时间的误差“平原”,算法的收敛速度会下降到极慢[4]。