基于MATLAB的BP神经网络设计

  • 格式:pdf
  • 大小:248.61 KB
  • 文档页数:4

基于MAT LAB的BP神经网络设计3孙 帆 施学勤(华中科技大学控制科学与工程系 武汉 430074)摘 要 BP神经网络已广泛应用于非线性建摸、函数逼近、系统辨识等方面,但对实际问题,其模型结构需由实验确定,无规律可寻。

简要介绍利用MAT LAB语言进行BP网络建立、训练、仿真的方法及注意事项。

关键词 BP 神经网络 MAT LAB语言 设计中图分类号 TP1831 引言人工神经网络(A rtificial Neural Net w orks简称ANN)是近年来发展起来的模拟人脑生物过程的人工智能技术。

它由大量的、同时也是很简单的神经元广泛互连形成复杂的非线性系统,已经在信息处理模式识别、智能控制及系统建模等领域得到越来越广泛的应用。

尤其是基于误差反向传播(Er2 r or Back Pr opagati on)算法的多层前馈网络(Multi2 p le Layer Feed for ward Net w ork)(简称BP网络),可以以任意精度逼近任意的连续函数,所以广泛应用于非线性建模、函数逼近、模式分类等方面。

虽然BP神经网络是目前应用最广泛、研究较多的一种网络。

但是关于它的开发设计目前为止还没有一套完整的理论。

本文在参考其他文献[1]~[3]的基础上,给出BP神经网络设计的一些共性的原则。

2 BP神经网络设计步骤BP网络的设计主要包括输入层,隐层,输出层及各层之间的传输函数几个方面。

2.1 网络层数大多数通用的神经网络都预先预定了网络的层数,而BP网络可以包含不同的隐层。

但理论上已经证明,在不限制隐含节点数的情况下,两层(只有一个隐层)的BP网络可以实现任意非线性映射。

在模式样本相对较少的情况下,较少的隐层节点,可以实现模式样本空间的超平面划分,此时,选择两层BP网络就可以了;当模式样本数很多时,减小网络规模,增加一个隐层是有必要的,但是BP网络隐含层数一般不超过两层。

2.2 输入层的节点数输入层起起缓冲存储器的作用,它接收外部的输入数据,因此其节点数取决于输入矢量的维数。

当把大小的图像的像素作为输入数据时,输入节点数将为256个。

一般来说,网络的输入个数应等于应用问题的输入数,MAT LAB的BP网络的建立是通过函数ne wff实现的。

2.3 网络数据的预处理为使网络训练更加有效,对神经网络的输入、输出数据进行一定的预处理可以加快网络的训练速度。

Matlab提供的预处理方法有归一化处理、标准化处理和主成分分析。

常采用的是归一化处理,即将输入、输出数据映射到[-1,1]范围内,训练结束后再反映射到原数据范围。

2.4 输出层的节点数输出层节点数取决于两个方面,输出数据类型和表示该类型所需要的数据大小。

当BP网络用于模式分类时,以二进制形式来表示不同模式输出结果,输出层的节点数可根据待分类模式数确定。

2.5 隐层的节点数一个具有无限隐层节点的两层BP网络可以实现任意从输入到输出的非线性映射。

但对于有限个输入模式到输出模式的映射,并不需要无限个隐层节点,这就涉及到如何选择隐层节点数的问题,而这一问题的复杂性,使得至今为止,尚未找到一个很好的解析式,隐层节点数与求解问题的要求、输入输出单元数多少都有直接的关系。

另外,隐层节点数太多会导致学习时间过长;而隐层节点421 计算机与数字工程 第35卷3收到本文时间:2006年10月19日作者简介:孙帆,男,硕士研究生,研究方向:神经网络算法,水电站电价预测。

施学勤,女,硕士研究生,研究方向:数据库理论与设计,管理信息系统。

数太少,容错性差,识别未经学习的能力样本低,所以必须综合多方面的因素进行设计。

①根据前人经验,可以参考以下公式进行设计:n =n i +n 0+a 或者n =nl(1)式中:n 为隐层节点数;n i 为输入节点数;n 0为输出节点数;a 为1~10之间的常数。

②改变n ,用同一样本集训练,从中确定网络误差最小时对应的隐层节点数。

2.6 传输函数BP 网络中传输函数常采用S (sig moid )型函数: f (x )=11+e-x(2)在某些特定情况下,还可能采用纯线性(Pureline )函数。

如果BP 函数最后一层是Sig moid 函数,那么整个网络的输出就限制在一个较小的范围内(0~1之间的连续量);如果BP 网络最后一层是Pureline 函数,那么整个网络的输入可以取任意值。

2.7 训练方法及其参数选择针对不同的应用,BP 网络提供了多种训练,学习方法,通常对于包含数百个权值的函数逼近网络,训练函数trainl m 收敛速度最快。

将RPROP 算法的训练函数trainr p 应用于模式识别时,其速度是最快的。

用变梯度算法的训练函数traincgf,在网络规模比较大的场合,其性能都很好。

2.8 初始权值的设计网络权值的初始化决定了网络的训练从误差曲面的哪一点开始,因此初始化方法对网络的训练时间至关重要。

通常使用如下两种方法:(1)取足够小的初始权值(2)使初始值为+1和-1的权值数相等。

3 Matlab 仿真程序设计实例下面是一个函数逼近的实例。

输入为:图1 函数迭代次数 图2 仿真结果与原输入输出比较2.4132.3473.125];net =newff ([-1,1],[15,1],{’tansig’,’purelin’},’trainl m ’,’learngd m’)net .trainPara m.show =100;%设置训练显示间隔次数net .trainPara m .epochs =20000;%设置最大训练循环次数net .trainPara m.goal =0.0001;%设置性能目标值net .trainPara m.lr =0.05;%设置学习系数net =train (net,P,T );save bp_net net %仿真hold onpl ot (P,T,’3’);%绘制原输入输出曲线l oad bp_net net P =-0.6:0.1:0.8;r =si m (net,P );-0.6-0.5-0.4-0.3-0.2-0.10-0.1-0.2-0.3-0.4-0.5-0.6-0.7-0.8输出为:1.2162.3211.2352.3451.4532.3451.2343.2221.3431.2342.4432.3342.4132.3473.125//训练神经网络clear allP =-0.6:0.1:0.8;T =[1.2162.3211.2352.3451.4532.3451.2343.2221.3431.2342.4432.334...p l ot (P,r,’-’)%仿真结果用-表示hold off 仿真结果如下:采用可以看出,运算速度非常快,只迭代了300次,就达到了误差为0.0001,可以看到达到了非常好的仿真效果,基本符合函数逼近的需要。

利用BP 神经网络可以解决很多有关非线性系统的问题,如函数逼近、系统辨识等。

但要注意传输函数的选择和样本预处理。

MAT LAB 神经网络工具箱功能强大,它提供了许多有关神经网络设计训练和仿真的函数,用户只要根据自己的需要调用相关函数,就能方便进行神经网络设计与仿真,从而免除了编写复杂而庞大的算法程序的困扰。

本文较为系统的介绍了利用MAT LAB 设计神经网络应注意的问题和经验。

521第35卷(2007)第8期 计算机与数字工程 参考文献[1]徐丽娜.神经网络控制[M].北京:电子工业出版社,2003[2]常晓丽.基于M atlab的BP神经网络设计[J].机械工程与自动化,2006,(04)[3]蒲春,孙政顺,赵世敏.M atlab神经网络工具箱BP算法比较[J].计算机仿真2006,(05)(上接第84页)MD认证符,与收到的MD认证符比较,若相等则说明信息是完整的;机密性保护是使用端到端加密的方式来实现的,信息都使用密钥进行对称或非对称加密,确保只有知道解密密钥的接收方才能查看信息。

(3)抵御各种安全威胁:该协议通过在FA中继的注册信息中加入NF A来抵御文章第二部分提到的重放攻击,FA通过NFA来标识注册信息的新鲜性,因为每次注册时所使用的NFA都不同,所以通过验证NFA可以抵御重放攻击;协议实现了各实体之间的身份认证,则可以很好的抵御中间人攻击和DoS攻击。

(4)注册之后的安全通信:HA在注册应答中为MN与FA分发会话密钥SKM F,用于注册之后两者通信的加密密钥和身份认证,每次注册都会生成新的SKM F。

该协议克服了文章第三部分中一些方案存在的本质缺点,并且具有以下几个优点:・可管理性:注册协议仅仅为F A与MN分发会话密钥SKM F,而F A与HA之间没有共享密钥,仅MN与HA共享一个密钥,所以它减小了方案伸缩性的阻碍且密钥管理非常简单。

・注册之后的认证:该协议不仅在注册过程中实现认证,而在注册之后的通信过程中仍可以通过在注册过程中得到的会话密钥进行MN与FA之间的身份认证。

・高效性:因为协议采用了最小公钥加密和会话密钥通信机制,且注册过程中仅仅使用了4个消息,所以它产生很小的网络延迟和网络带宽负担。

6 结论对于移动I P的几重安全问题,我们提出了一种新的安全注册协议,协议中实现了各实体之间的身份认证以及信息的各种安全性保护,认证协议在注册和之后的通信中都可以使用;由于采用的是最小公钥与会话密钥机制以及简单的密钥管理机制,所以协议是高效性的。

参考文献[1]Perkins C E.Mobile I P[J].I EEE Communicati on M aga2zine,1997,35(5):84~99[2]Doo Ho Choi,Hyungon Ki m,Kyoil Jung.A Secure MobileI P Authenticati on based on I dentificati on Pr ot ocol[J].I EEE Communicati on M agazine,2004[3]D r.M uid M ufti,Aasia Khanum.Design and I m p lementa2ti on of a Secure Mobile I P Pr ot ocol[J].I EEE Communi2 cati on M agazine,2004[4]Stefan M ink,Frank Pahlke,Cunter Schafer,Jochen Schill2er.Towards Secure Mobility Support f or I P Net w orks[C].I F I P W orld Computer Congress,2000[5]Torsten B raun,M arc Danzeisen.Secure Mobile I P Commu2nicati on,Local Computer Net w orks[C].26th AnnualI EEE Conference,2001[6]S.Jacobs,Mobile I P Public Key Based Authenticati on,draft-jacobs-mobilei p-pki-auth-02.txt(exp ired), 1999621 孙 帆等:基于MAT LAB的BP神经网络设计 第35卷 Com p u te r and D i g ita l Eng i ne e ri ng I ndex(Vo l.35No.8)A Novel I n telli gen t I n suli n Pu m p by X u Zhi Abstract A s an evange l to d i abe ti c s,the i nven ti o n o f i n2 su li n p um p ha s d ra s ti ca ll y reno va ted the w ays o f tre a t2 m en t fo r d i abe te s.Havi ng bee n de ve l o p i ng s i nce1970s, i n su li n p um p is an advance d p r o duc t now.It is de s irab l e fo r re gu l a r Ch i ne se p a ti en ts to com e up w ith a c l o se d-l o op,l o w co s t g l uco se-i n su li n p um p d i abe te s tre a t m e n t sys tem,w h i ch is no t ava il ab l e i n the m a rke t.Th is c l o se d -l o op system w ill m ake the g l uco se m e a su rem en t and i n su li n p um p i ng be co nduc te d co n ti nuo u sl y so tha t a com p l e te d i abe ti c m anagem e n t can be re a li ze d.A no ve l i n te lli gen t i n su li n p um p w ith p a i n l e s s and au tom a ti c i n j e c2 ti o n co up l ed w ith the g l uco se m e te ri ng w a s i n tr o duce d i n the p re se n t s tudy.Key words i n su li n p um p,p a i n l e s s i n j e c ti o n,au tom a ti c i n j ec ti o n,m i c r o-p um p(Page:117)Research of RBF Neura l Network i n Functi on Approx i m a2 ti on by Sun L iying Abstract The se l e c ti ng o f the ne t w o rk cen te r is the l ead i ng p r o b l em i n m aki ng rad i a l ba s i c func ti o n ne t w o rk.B ecau se o f the o rtho go na l o f OLS a l go rithm,the co n tri2 bu ti o n o f i ndep ende nce ca l cu l a te,it m ake s the p r o ce s s s i m p li c ity.A t the end o f the p ap e r an e xam p l e o f the ap2 p li ca ti o n app r o xi m a ti o n o f func ti o n s is g i ve n to exp l a i n the a rithm e ti c.The exam p l e i nd i ca te s tha t the OLS is an e xce ll en t a l go rithm becau se its o rtho go na l qua lity.I t m ake s few e r d istu rbance s to the fo r m e r m o de l,so it ha s w i de app li ca ti o n.Key words rad i a l ba s i c func ti o n,ne u ra l ne t w o rk,OLS a l go rithm,func ti o n i m p end(Page:121)D esi gn of BP Networks Ba sed on M AT LAB by Sun Fan Abstract B P fe ed-fo r w a rd ne t w o rks can be app li ed to no n li ne a r m o de li ng,func ti o n p a tte rn a s so c i a ti o n and p a t2 te rn c l a s s i fi ca ti o n.A s to ac tua l p r o b l em,the re is no sys2 tem m e tho d to so l ve ne t w o rk a rch itec tu re and ne u r o n s, qu ite a few exp e ri m en t m u s t be m ade.The p ap e r i n tr o2 duce s the w ay to c re a te an ne t w o rk,tra i n a ne t w o rk and s i m u l a te a ne t w o rk w ith M AT LAB l anguage.Som e cau2 ti o n s a re i n tr o duce d too.Key words B P ne t w o rk,M AT LAB l anguage,de s i gn(Page:124)Research on the D istr i buted A lgor ith m of D ec isi on Tree Techn i que by W ei Hongning Abstract The d is tri bu ted da ta e nvir om e n t is sp e c i a l i n da ta au to nom o u s,he te r o ge neo u s and p ri vacy.B a se d o n tha t,w e p r opo sed to decom po se the e xisti ng da ta m i n2 i ng a l go rithm i n to t w o p a rts,d is tri bu te d i nfo r m a ti o n e x2 trac ti o n and m o de l gene ra ti o n.Taki ng the dec is i o n tre e fo r e xam p l e,w e ana l ysised the i nfo r m a ti o n re qu irem e n t fo r d istri bu te d da ta,then de s i gne d the m a i n s tep s o n d is tri bu ted da ta m i n i ng a l go rithm.Th r o ugh the p e rfo r m2 ance ana l ysis,the p ap e r show s the p r opo sed d istri bu te d a l go rithm is be tte r than the ce n tra li zed a l go rithm i n da ta au to nom o u s and comm un i ca ti o n co st.Key words d is tri bu te d da ta m i n i ng,s ta tis ti ca l i nfo r m a2 ti o n,dec is i o n tree(Page:127)Study of a New W i deband Speech Codec V M R-W Bby Zhang Shixiu Abstract I n p rac ti ce,w e o fte n m ee t th is que s ti o n s:a co dec canno t op e ra te o n w ire d and w ire l e s s co nd iti o n s s i m u ltaneo u s l y,the s i gna ls tran sm iti ng i n w i de l y d i ffe re n t ra te a t the sam e ti m e w ill b ri ng do ugh a tte nua ti o n,e tc.I n vi ew o f the se p r o b l em s,th is p ap e r stud i e s the fl o w o f V M R-W B ce de c,the p e rfo r m ance and som e po ten ti a l app li ca ti o n s i n the ba sis o f ana l ys is abo u t V M R-W B fo u r op e ra ti o na l m o de s,fu rthe r m o re it m ake s som e e xp l o ri ng an sw e rs o n the l aye r o f m echan ism o f so l u ti o n s to the p r o b l em s.Key words va ri ab l e-ra te m u lti m o de w i deband(V M R-W B),adap ti ve m u lti-ra te w i de band(AM R-W B), vo i ce ac ti vity de tec ti o n(VAD)(Page:131)Electr i c Cable Te m pera ture I n specti n g Ba sed on AT89C51 S i n gech i p by B ai L iyuan Abstract Th is p ap e r i n tr o duce s a se t o f o n li ne rea l-ti m e i n sp e c ti ng,d i agno si ng and a l a r m i ng system s fo r hea t tr o ub l e o f the e l ec tri c cab l e w ith the cha rac te rs o f func ti o n s tr o ng,techn i que fo re runne r.Th r o ugh the re a l-ti m e i n sp ec ti ng o f the tem p e ra tu re o f e l e c tri c cab l e,the sys tem can show o n-li ne va l ue,cu rve fi gu re and tab l e o f the tem p e ra rtu re s o f a ll i n te rface.B y ana l ys is i ng the tem p e ra tu re cu rve,it can p re d i c t the e l ec tri c cab l e o f ag2 i ng and the po s s i b ility tha t the ho t and va ri o u s tr o ub l e take p l ace,g i vi ng a he l p to rem o ve the p r o b l em s i n the u se o f e l e c ti c cab l e,thu s p r o vi d i ng an a s su rance fo r the safe m o vem en t o f e l ec tri c cab l e.Key words e l e tri c cab l e,sen so r,co ll ec to r,si ngech i p, tem p e ra tu re i n sp ec ti ng(Page:134)Appli ca ti on of D FT i n M ark A lgor ith m Ch i pby J iang W en Abstract Th is p ap e r i n tr o duce s ba si c sum m a ry and ap2 p li ca ti o n o f D FT,D FT is a ve ry i m po rtan t p a rt o f I C de2 s i gn.Th is p ap e r a lso i n tr o duce s app li ca ti o n o f D FT i n a p r o j ec t-AS I C o f m a rk a l go rithm.Key words D FT,m a rk a l go rithm,de si gn fo r te s t(Page:137)W i reless Short D ist ance M ulti-si gna ls Sen si n g Ba sed on AR M Ch i p by L u Ruiyu Abstract W ire l e s s m u lti-s i gna ls sen si ng can be u se d i n s i nuo u s p i p e s o r a ir p r oo f co nd iti o n s w he re no r m a l sen si ng m e tho d s can’t be i m p l em e n te d.O r it can a lso be u se d to fac ilita te the s i gna l tran sm is s i o n.Th is p ap e r g i ve s a w ire l e s s se n s i ng sys tem w h i ch u se s B l ue-too th RF ch i p to w ire l e ss l y tran sm it si gna ls,u se s CPLD ch i p to6。