BP神经网络的缺点及改进
- 格式:pdf
- 大小:481.77 KB
- 文档页数:48


第25卷第1期 2 0 1 0年3月 青岛大学学报(工程技术版) JOURNAL OF QINGDAO UNIVERSITY(E&T) Vo1.25 No.1 Mar.2 0 1 0
文章编号:1006~9798(2010)01—0015—03
改进LMBP神经网络在织物染色
配色中的应用
张黎明,张秉森
(青岛大学信息工程学院,山东青岛266071)
摘要:目前织物染色配色技术具有低效率和低精度缺点,许多染色配色方法收敛速度慢。
为此提出了一种基于改进LMBP算法神经网络的织物染色配色方法,在分析了传统染色
配色方法缺陷的基础上,提出并建立了用改进LMBP神经网络来进行染色配色的模型,
并将其与LMBP算法神经网络染色配色结果对比。实验的预测结果表明,改进的LMBP
神经网络方法收敛速度更快,并且能够满足实际染色配色的要求。
关键词:织物染色;LMBP神经网络;改进算法;计算机配色
中图分类号:TP183;TS193 文献标识码:A
传统织物染色配色技术采用人工配色,工作效率和配色精度较低。人工染色配色的过程是由经验丰富
的配色人员根据用户布料小样获取颜色,进行打样。然后将打样结果与用户小样对比,根据对比结果再重新
打样,这个过程需要不断地重复进行,直到与用户小样的颜色基本一致为止。计算机配色技术为提高染色配
色工作效率和精度提供了新的途径。计算机配色技术的研究,主要是利用三种不同颜色的染料,配出所需要
的颜色,所配的颜色与染料浓度是个非线性问题。现在很多学者将神经网络法作为解决非线性问题的一种
方法。但人工神经网络中提出的训练方法很多,并不是所有算法都适合配色系统。BP(Back—Propagation)
神经网络是目前研究最多、应用最广泛的一种多层前馈人工神经网络。理论已证明,3层BP神经网络在隐
节点数足够多的情况下具有模拟任意复杂的非线性映射的能力。但是BP神经网络有其固有的缺点,因为
基于PSO—BP算法的模糊神经网络成矿探测评价模型
一、基本的BP神经网络原理
基本BP算法包括两个方面:信号的前向传播和误差的反向传播,即计算实际输出时按从输入到输出的方向进行,而权值和阈值的修正从输出到输入的方向进行。
图1—1 BP网络结构
图1-1中变量含义如下所示 :
jx表示输入层第j个节点的输入j=1,…,M;
ijv表示隐含层第i个节点到输入层第j个节点之间的权值;
i表示隐含层第i个节点的阈值;
x表示隐含层的激励函数;
kiw表示输出层第k个节点到隐含层第i个节点之间的权值,i=1,…,q;
ka表示输出层第k个节点的阈值,k=1,…,L;
x表示输出层的激励函数;
ko表示输出层第k个节点的输出;
kT表示输出层第k个节点的期望输出;
激励函数一般使用S型函数,即 xexfx11x ;
j=0,1,2,…,M; i=0,1,2,…,q; k=0,1,2,…,L。 1a1
kiw
La ka
q i
… … … … …
… 1x
jx
Mx 1o
ko
Lo 输出变量 输入变量
输入层 隐含层 输出层 jvi (1)信号的前向传播过程
隐含层第i个节点的输入inet:
Mjjijixvnet1 (1—1)
隐含层第i个节点的输出iy:
Mjjijixvfnetf1iy (1-2)
输出层第k个节点的输入knet:
qiMjjijkiiqikikxvfwywnet111 (1—3)
输出层第k个节点的输出ko:
qiMjjijkikkxvfwfnetfo11 (1—4)
(2)误差的反向传播过程
沈阳农业大学学报,2011—06,42(3):382—384
Journal of Shenyang Agricuhural University,2011—06,42(3):382—384
BP神经网络学习算法的改进及应用
余妹兰 ,匡芳君 术
(1.山东大学软件学院,济南250101;2.湖南安全技术职业学院,长沙410151)
摘要:为r研究BP神经网络改进学习算法的适用情况,通过对实际的4个应用运用BP神经网络的多种改进的学 算法进仃洲 练,比较得到各学习算法的适用范同,并能根据所研究问题类型、网络大小和要求精度等来选择合适的学习算法。结果表明:LM 算法逼近效果好,但不适合大规模网络,RPROP算法应用于模式识别收敛速度最快,但不太适合函数逼近,SCG算法对较人网络 规模的性能很好,且逼近效果好 关键词:BP神经网络;学习算法;改进算法;应用 中图分类号:TP391 文献标识码:A 文章编号:l000一l700(201 1)03—0382—03
Improved Learning Algorithms for BP Neural Network and Application
YU Mei—lan .KUANG Fang-jun 术
(1.School of Software,Shandong University,Jinan 250101,China;2.Hunan Vocational Institute of SMety Technology,Changsha 410151,China)
Abstract:In order to research the application of the BP neural network improved learning algorithm four practical applications were trained by improved BP neural network learning algorithm,and through comprising these learning algorithms to obtain the adaptation scope of them.Thus,the actual type of research question,network size and precision to choose appropriate learning algorithm were accorded.The experimental results showed that LM algorithm was good to be the function approxinlation,lint not tbr large-scale networks;The convergence speed of RPROP algorithm was fast when it was applied pattm’n recognition,but nol s0 good for function approximation.SCG algorithm for larger—scale network performance was very good.and the effect ot function approximation was good. Key words:BP neural network;learning algorithm;improved algorithm;application
1. RBF 的泛化能力在多个方面都优于BP 网络, 但是在解决具有相同精度要求的问题时, BP 网络的结构要比RBF 网络简单。??
2. RBF 网络的逼近精度要明显高于BP 网络,它几乎能实现完全逼近, 而且设计起来极其方便, 网络可以自动增加神经元直到满足精度要求为止。但是在训练样本增多时,
RBF 网络的隐层神经元数远远高于前者, 使得RBF 网络的复杂度大增加, 结构过于庞大, 从而运算量也有所增加。??
3. RBF神经网络是一种性能优良的前馈型神经网络,RBF网络可以任意精度逼近任意的非线性函数,且具有全局逼近能力,从根本上解决了BP网络的局部最优问题,而且拓扑结构紧凑,结构参数可实现分离学习,收敛速度快。
4. 他们的结构是完全不一样的。BP是通过不断的调整神经元的权值来逼近最小误差的。其方法一般是梯度下降。RBF是一种前馈型的神经网络,也就是说他不是通过不停的调整权值来逼近最小误差的,的激励函数是一般是高斯函数和BP的S型函数不一样,高斯函数是通过对输入与函数中心点的距离来算权重的。
5. bp神经网络学习速率是固定的,因此网络的收敛速度慢,需要较长的训练时间。对于一些复杂问题,BP算法需要的训练时间可能非常长,这主要是由于学习速率太小造成的。而rbf神经网络是种高效的前馈式网络,它具有其他前向网络所不具有的最佳逼近性能和全局最优特性,并且结构简单,训练速度快。
6. BP网络用于函数逼近时,权值的调节采用的是负梯度下降法,这种调节权值 的方法有它的局限性,既存在着收敛速度慢和局部极小等缺点。而径向基神经网络在逼近能力、分类能力和学习速度等方面均优于BO网络。从理论上,RBF网络和BP网络一样可近似任何的连续非线形函数,两者的主要差别在于各使用不同的作用函数,BP网络中的隐层节点使用的是Sigmoid函数,其函数值在输入空间中无限大的范围内为非零值,而RBF网络的作用函数则是局部的。