下载文档原格式
三种RBF神经网络比较分析摘要：径向基函数（RBF）神经网络广泛应用于模式识别、非线性函数逼近等领域。
通过对聚类、梯度、正交最小二乘三种RBF神经网络进行正弦函数逼近的仿真实验，从中比较分析这三种RBF神经网络。
得到的对比分析结果表明：正交最小二乘的方式所需的训练时间最短，网络收敛速度最快，并且不需要预先定义隐层节点数。
关键词：神经网络；径向基函数；Matlab0引言人工神经网络是一种模仿生物神经网络的结构和功能的数学模型或计算模型。
现代神经网络是一种非线性统计性数据建模工具，常用来对输入和输出间复杂的关系进行建模，或用来探索数据的模式。
RBF神经网络即径向基函数神经网络（Radical Basis Function），是由J. Moody和C. Darken于上世纪80年代末提出的一种神经网络模型。
径向基函数神经网络是一种高效的前馈式神经网络，它具有其他前向网络所不具有的最佳逼近性能和全局最优特性，并且结构简单，训练速度快。
同时，它也是一种可以广泛应用于模式识别、非线性函数逼近等领域的神经网络模型。
1RBF神经网络原理由输入层、一个隐含层（径向基层）和一个线性输出层组成的前向RBF神经网络结构如图1。
隐含层神经元是将该层权值向量w与输入向量c之间的矢量距离与偏差b相乘后作为该神经元激活函数的输入，即：Ini=（‖w-c‖·bi）2=∑n[]j=1（wji-cj）2·bi（1）若取径向基函数为高斯函数，则神经元的输出为：Outi=e-In2i=e-（‖w-c‖·bi）2=e-（∑n[]j=1（wji-cj）2·bi）2（2）由式（1）可以看出，随着和之间距离的减少，径向基函数输出值增加，且在其输入为0时，即w和c之间的距离为0时，输出为最大值1。
1.1基于聚类的RBF神经网络原理基于聚类的RBF神经网络方法最早由Broomhead and Lowe提出。
最简单形式是有固定的中心，映射属性的参数有两组：输出层权值w，和径向基函数中心c。
摘要当今人类社会已经进入了大数据时代，数据大多呈现出维数高、规模大、结构复杂等特性。
在大数据的研究当中，许多数据如媒体数据、遥感数据、生物医学数据、社交网络数据、金融数据等都是高维数据，尤其是在人类生产生活中，含高维数据的无解析模型或一次候选解的评价计算成本十分巨大的昂贵多目标问题，对其仿真求解势必面临维数灾难。
因此，寻找合适的降维方法处理高维数据已是迫切需求。
神经网络是模拟人脑的结构和功能而建立起来的分布式信息处理系统，面对高维多目标优化等非线性问题，与其他降维方法相比，神经网络具有巨大的优势，这得益于神经网络具有高度非线性、结构复杂、自学习、自适应等特点。
RBF神经网络是一种新颖有效的前馈式神经网络，它具有很强的非线性映射能力，能以任意精度全局逼近一个非线性函数，而且学习速度快。
利用RBF神经网络实现对高维数据的降维预处理，不仅有充分的理论依据，而且更具优越性。
本文在对RBF神经网络算法进行优化研究的基础上，研究了基于数据驱动的特征选择RBF 神经网络降维方法，并将其应用在高维多目标优化决策空间降维预处理及Pareto 优劣性预测中。
为了提高RBF神经网络的学习效率，本文首先对RBF神经网络进行改进研究。
通过自适应调节RBF神经网络的学习率和动量因子，加快了RBF神经网络的收敛速度；同时，利用遗传算法对RBF神经网络的三个参数初始值进行优化设计，提出了一种遗传自适应RBF神经网络算法。
将改进算法分别应用于故障诊断和UCI数据集的分类实验上，验证了改进RBF神经网络算法的有效性和优越性。
针对无解析模型的高维多目标优化问题，提出了一种最大信息系数与最大相关最小冗余相结合的特征选择方法，利用遗传自适应RBF神经网络算法在高维特征空间中选取出了一个低维的特征子集，从而实现对高维特征空间的降维。
通过在UCI数据集上的分类实验，证明了该降维算法在保证较好分类精度的前提下，大大减少了计算成本。
为了降低高维多目标优化的维数灾难，将本文提出的基于最大冗余最小相关的遗传自适应RBF神经网络特征选择算法用于多目标优化中的决策空间降维预处理，进行Pareto优劣性预测并将其嵌入MOEAs算法。
RBF和MLP神经网络逼近能力的几个结果的开题报告研究题目：RBF和MLP神经网络逼近能力的几个结果研究背景和意义：人工神经网络已成为计算机科学领域的一个重要分支，广泛应用于分类、回归等问题的解决。
其中，RBF和MLP神经网络是常用的两种神经网络结构。
在实际应用中，神经网络的逼近能力是其最重要的性能之一。
因此，通过比较不同类型神经网络对不同数据的拟合能力，能够更好地了解神经网络的特性，对提高其应用性能具有重要意义。
研究内容：本研究将对RBF和MLP神经网络进行比较，在拟合不同类型数据时的逼近能力。
具体内容包括：1. RBF和MLP神经网络的基本结构和原理介绍；2. 设计不同类型数据并通过MATLAB软件模拟生成；3. 使用RBF和MLP神经网络对所设计的数据进行回归拟合，并评估拟合效果；4. 分析各神经网络在不同数据类型下的性能差异，比较其逼近能力。
研究方法：本研究采用MATLAB软件进行数据模拟与神经网络搭建，主要采用以下方法：1. 构建RBF和MLP神经网络进行回归拟合；2. 设计各种类型数据，并通过MATLAB仿真生成；3. 利用平均绝对误差（MAE）、平均相对误差（MRE）等指标评估所建模型的拟合效果。
预期研究结果：通过对RBF和MLP神经网络在不同数据类型下的逼近能力进行研究和比较，预期的研究结果包括：不同神经网络结构在不同类型数据下的表现；各结构神经网络的拟合效果分析；不同数据类型下RBF和MLP的逼近能力比较分析；提出提高神经网络逼近能力的建议和解决方案。
这些结果将为人工神经网络的应用提供有价值的参考。
研究贡献：本研究将对RBF和MLP神经网络的逼近能力进行深入研究，详细分析不同类型数据下两种网络的优劣势，并提出提高神经网络逼近能力的建议和解决方案，从而有助于进一步推动人工神经网络技术的发展和应用。
万方数据 万方数据 万方数据 万方数据 万方数据 万方数据 万方数据RBF神经网络的函数逼近能力及其算法作者：柴杰， 江青茵， 曹志凯作者单位：厦门大学,化工系,厦门,361005刊名：模式识别与人工智能英文刊名：PATTERN RECOGNITION AND ARTIFICIAL INTELLIGENCE年，卷(期)：2002,15(3)被引用次数：64次参考文献(36条)1.吴宗敏函数的径向基表示 1998(03)2.张乃尧阎平凡神经网络与模糊控制 19983.Mhaskar H N;Micchelli C A Approximation by Superposition of Sigrnoidal and Radial Basis Functions [外文期刊] 19924.Leshno M;Lin V Y;Pinkus A;Schocken S Multilayer Feedforward Networks with a Non-Polynomial Activation Can Approximate Any Function 19935.Hartman E J;Keeler J D;Kowalski J M Layered Neural Networks with Gaussian Hidden Units as Universal Approximators[外文期刊] 19906.Lee S;Kil R M A Gaussian Potential Function Network with Hierarchically Self-Organizing Learning 19917.Park J;Sandberg I W Universal Approximation Using Radial Basis Function Networks[外文期刊]1991(02)8.Park J;Sandberg I W Approximation and Radial Basis Function Networks 1993(02)9.Chen T P;Chen H Approximation Theory Capability to Functions of Several Variables Nonlinear Functionals and Operators by Radial Basis Functional Neural Networks[外文期刊] 1995(04)10.Li X On Simultaneous Approximations by Radial Basis Function Neural Networks[外文期刊] 1998(1)11.JONES L K A Simple Lemma on Greedy Approximation in Hilbert Space and Convergence Rates for Projection Pursuit Regression and Neural Network Training[外文期刊] 199212.Barron A R Universal Approximation Bounds for Superposition of a Sigrnoid Function[外文期刊] 1993(3)13.Girosi F;Anzellotti G Rates of Convergence for Radial Basis Function and Neural Networks 199314.Kurková V Dimension-Independent Rates of Approximation by Neural Networks 199715.Kurková V;Kainen P C;Kreinovich V Estimates of the Number of Hidden Units and Variation with Respect to Half-Spaces 199716.Yukich J;Stinchcombe M;White H Sup-Norm Approximation Bounds for Networks through Probabilistic Methods[外文期刊] 1995(04)17.Makovoz Y Random Approximants and Neural Networks[外文期刊] 199618.Dohlerd S;Uschendorf L R An Approximation Result for Nets in Functional Estimation 200119.PIGGIO T;Girosi F A Theory of Networks for Approximation and Learning. AI Memo No 1140Artificial Intelligence Laboratory 198920.Girosi F;Poggio T Neural Network and the Best Approximation Property[外文期刊] 199021.Moody J;Darken C Fast Learning in Networks of Locally-Tuned Processing Units 198922.Orr M J L Regularization in the Selection of Radial Basis Function Centers 1995(03)23.Lei Xu Rival Penalized Competitive Learning for Clustering Analysis RBF Net and Curve Detection [外文期刊] 1993(04)24.王旭东RBF神经网络及其在过程控制中的应用[学位论文] 199725.谢维信;高新波基于聚类有效性神经网络的模糊规则提取方法[期刊论文]-深圳大学学报(理工版) 2003(04)26.朱明星;张德龙RBF网络基函数中心选取算法的研究[期刊论文]-安徽大学学报(自然科学版) 2000(01)27.汪小帆;王执铨;宋文忠径向基函数神经网络的新型混合递推学习算法 1998(02)28.Chen S;Cowan C F N;Grant P M Orthogonal Least Squares Learing Algorithm for Radial Basis Function Networks[外文期刊] 1991(02)29.Chen S;Grant P M;Cowan C F N Orthogonal Least Squares Algorithm for Training Multioutput Radial Basis Function Networks[外文期刊] 1992(6)30.Walczak B;Massart D L The Radial Basis Functions- Partial Least Squares Approach as a Flexible Non-Linear Regression Techniques 199631.Walczak B;Massart D L Application of Radial Basis Functions -Partial Least Squares to Non-Linear Pattern Recognition Problems:Diagnosis of Process Faults 199632.Chen S;Billings S A;Grant P M Recursive Hybrid Algorithm for Nonlinear System Identification Using Radial Basis Function Networks 1992(05)33.Gentleman M Least Squares Computations by Givens Transformations without Square Roots[外文期刊] 197334.Billings S A;Zheng G L Radial Basis Function Network Confinguration Using Genetic Algorithms[外文期刊] 1995(06)35.Vesin J M;Griiter R Model Selection Using a Simplex Reproduction Genetic Algorithm[外文期刊] 1999(03)36.GenM;Cheng R;Oren S S Network Design Techniques Using Adapted Genetic Algorithms 2001(09)本文读者也读过(2条)1.樊国创.戴亚平.闫宁基于RBF神经网络的高斯混合近似算法[期刊论文]-系统工程与电子技术2009,31(10)2.王洪斌.杨香兰.王洪瑞一种改进的RBF神经网络学习算法[期刊论文]-系统工程与电子技术2002,24(6)引证文献(64条)1.胡斌.王敬志.赵英基于并行PSO算法的RBF建模[期刊论文]-工业控制计算机 2011(4)2.胡斌.王敬志.刘鹏基于双层网络的混合PSO算法的RBF建模[期刊论文]-西南科技大学学报 2011(2)3.虞国全基于SVM的径向基网络滚动轴承故障诊断方法研究[期刊论文]-黑龙江科技信息 2009(7)4.袁小芳.王耀南.孙炜.杨辉前一种用于RBF神经网络的支持向量机与BP的混合学习算法[期刊论文]-湖南大学学报（自然科学版） 2005(3)5.陈静.葛超.安光晨RBF神经网络在非线性系统辨识中的应用[期刊论文]-陶瓷研究与职业教育 2007(4)6.伍长荣.叶明全.胡学钢基于PCA的RBF神经网络预测方法研究[期刊论文]-安徽工程科技学院学报（自然科学版） 2007(1)7.周遊企业财务管理的计算机辅助评价方法探讨[期刊论文]-江苏经贸职业技术学院学报 2009(3)8.薛富强.葛临东.王彬基于自适应小生境递阶遗传算法的RBF均衡器[期刊论文]-计算机应用 2009(4)9.陈一萍.郑朝洪BP和RBF网络在厦门市大气环境质量评价中的比较[期刊论文]-环保科技 2008(4)10.陈静.葛超.朱开宇基于正交最小二乘法的神经网络中心选取算法的研究[期刊论文]-陶瓷研究与职业教育2008(1)11.曹屹立.葛超.张景春.孙丽英.朱艺最小二乘算法在RBF神经网络中的应用[期刊论文]-山西电子技术 2008(1)12.葛超.孙丽英.张淑卿.朱艺RBF神经网络中心选取算法[期刊论文]-河北理工大学学报 2007(4)13.张旭.张云鹏.朱炳安.顾军一种具备规则趋势的模糊神经网络脱硫预报模型[期刊论文]-江苏冶金 2007(3)14.余朝刚.王剑平.应义斌基于径向基函数神经网络的温室室内温度预测模型[期刊论文]-生物数学学报 2006(4)15.金晶.芮延年.郭旭红.赵礼刚基于灰色理论、径向基神经网络的大型压缩机故障预测方法的研究[期刊论文]-苏州大学学报(工科版) 2004(5)16.李仿华.王爱平.姚丽娜.国玮玮.徐晓燕基于遗传优化的RBF-BP网络的实时故障检测[期刊论文]-微型机与应用2012(8)17.韩媛媛.成长生.苏厚勤时序数据挖掘在AFC系统运营管理中的分析与应用[期刊论文]-计算机应用与软件2010(11)18.于增顺.高齐圣.杨方基于径向基函数神经网络的橡胶配方性能预测[期刊论文]-橡胶工业 2010(6)19.周遊实现商业银行财务管理目标计算机辅助评价方法探讨[期刊论文]-江苏科技信息 2008(12)20.朱艺.孙丽英.葛超.张景春最小二乘算法在神经网络函数逼近方面的研究[期刊论文]-山西电子技术 2007(5)21.胡晓飞边界模糊图像的径向基函数神经网络分割方法研究[期刊论文]-现代电子技术 2007(7)22.孙丽英.葛超.朱艺RBF神经网络在函数逼近领域内的研究[期刊论文]-计算机与数字工程 2007(8)23.王华秋.曹长修一种并行核径向基神经网络预测模型[期刊论文]-重庆大学学报（自然科学版） 2006(3)24.邓长辉.王姝.王福利.毛志忠.王嘉铮真空感应炉终点碳含量预报[期刊论文]-控制与决策 2006(2)25.黄啸.江青茵.潘学红.樊诚.曹志凯循环流化床锅炉燃烧过程的小波建模研究[期刊论文]-厦门大学学报（自然科学版） 2005(4)26.蒯松岩.吴涛.代尚方.张旭隆基于RBF的无位置开关磁阻电机控制系统[期刊论文]-电力电子技术 2011(7)27.樊诚.江青茵.曹志凯.周荣循环流化床锅炉燃烧过程建模研究[期刊论文]-计算机与应用化学 2007(3)28.王华秋.曹长修.李梁基于并行核径向基神经网络的软测量与控制模型[期刊论文]-仪器仪表学报 2006(10)29.贾建华.王军峰.冯冬青人工神经网络在多传感器信息融合中的应用研究[期刊论文]-微计算机信息 2006(7)30.李剑.陈德钊.吴晓华.叶子清优化的径向基-循环子空间网络为药物定量构效关系建模[期刊论文]-分析化学2005(6)31.朱程辉.陈昕.王金玲基于RBF神经网络在图像分割参数估计的应用[期刊论文]-计算机工程与应用 2003(30)32.李秀琴.李书臣一类非线性系统的故障检测与容错控制算法[期刊论文]-测控技术 2005(8)33.沈掌泉.周斌.孔繁胜.John S.Bailey应用广义回归神经网络进行土壤空间变异研究[期刊论文]-土壤学报2004(3)34.董敏.王昌全.李冰.唐敦义.杨娟.宋薇平基于GARBF神经网络的土壤有效锌空间插值方法研究[期刊论文]-土壤学报 2010(1)35.张大鹏.王福利.何大阔.何建勇.林志玲.桑海峰基于误差修正的菌体浓度软测量[期刊论文]-计量学报 2008(3)36.卢涛.陈德钊径向基网络的研究进展和评述[期刊论文]-计算机工程与应用 2005(4)37.伍长荣.胡学钢基于GRA-PCA的RBF神经网络预测方法应用研究[期刊论文]-巢湖学院学报 2005(3)38.王华秋.曹长修.张邦礼增量式遗传RBF神经网络在铁水脱硫预处理中的应用[期刊论文]-信息与控制 2004(1)39.梁协雄.王华秋.曹长修增量式遗传RBF算法在转炉提钒中的应用[期刊论文]-重庆大学学报(自然科学版)2003(12)40.邓长辉.王姝.王福利.桑海峰基于神经网络的真空感应炉终点钢水温度预报[期刊论文]-钢铁研究学报 2005(4)41.孙延风.梁艳春.张文力.吕英华RBF神经网络最优分割算法及其在股市预测中的应用[期刊论文]-模式识别与人工智能 2005(3)42.王明超基于RBF神经网络的开关磁阻电机无位置传感器控制及单神经元PID控制[学位论文]硕士 200443.曾谊晖.左青松.李翼德.黄红华.陈恒.王亚风基于RBF神经网络的难加工金属材料数控加工控制方法研究[期刊论文]-湖南大学学报（自然科学版） 2011(4)44.林用满.张永相.严寒冰.张弓.董霖RBF神经网络算法在汽油机空燃比控制中的比较[期刊论文]-四川工业学院学报 2004(3)45.何成刚.张燕平.张站.张娟机器学习中知识动态获取在函数逼近中的探究[期刊论文]-微计算机信息 2010(27)46.罗定贵.王学军.郭青岩溶水系统的径向基神经网络仿真[期刊论文]-水文地质工程地质 2004(2)47.张弓.张永相.邱容.林用满.严寒冰.董霖电控汽油机怠速模糊RBF神经网络控制[期刊论文]-四川工业学院学报2004(1)48.陈飞香.程家昌.胡月明.周永章.赵元.蚁佳纯基于RBF神经网络的土壤铬含量空间预测[期刊论文]-地理科学2013(1)49.黄颖松基于广义遗传算法优化的脱硫静态模型的研究[学位论文]硕士 200350.李慧.顾沈明基于RBF神经网络的赤潮预测方法[期刊论文]-计算机工程与应用 2012(1)51.张运陶.杨晓丽自适应径向基神经网络及其应用[期刊论文]-计算机与应用化学 2006(1)52.李启权.王昌全.岳天祥.李冰.杨娟.史文娇不同输入方式下RBF神经网络对土壤性质空间插值的误差分析[期刊论文]-土壤学报 2008(2)53.李启权.王昌全.岳天祥.李冰.杨娟基于RBF神经网络的土壤有机质空间变异研究方法[期刊论文]-农业工程学报 2010(1)54.王明超基于RBF神经网络的开关磁阻电机无位置传感器控制及单神经元PID控制[学位论文]硕士 200455.王雅娣基于智能蚂蚁算法优化的脱硫静态模型研究[学位论文]硕士 200456.余朝刚温室气候环境微机测控系统与控制方法的研究[学位论文]博士 200557.徐剑波.宋立生.彭磊.张桥土壤养分空间估测方法研究综述[期刊论文]-生态环境学报 2011(8)58.李启权基于RBF神经网络的土壤属性信息空间插值方法研究[学位论文]硕士 200659.肖伟杰高速走丝电火花线切割工艺仿真系统的研究[学位论文]硕士 200460.高美娟用于储层参数预测的神经网络模式识别方法研究[学位论文]博士 200561.王卓模型驱动的软构件分类及检索方法研究[学位论文]博士 200562.李存军区域性冬小麦籽粒蛋白含量遥感监测技术研究[学位论文]博士 200563.王伟华磨粒制谱及分析技术系统研究[学位论文]博士 200464.闫滨大坝安全监控及评价的智能神经网络模型研究[学位论文]博士 2006本文链接：/Periodical_mssbyrgzn200203011.aspx。
RBF网络原理及应用RBF（Radial Basis Function）网络是一种基于radial基函数的前向神经网络，它是一种具有局部适应性和全局逼近能力的非线性模型。
其原理和应用如下：1.原理：RBF网络由输入层、隐藏层和输出层组成。
隐藏层的每一个神经元使用具有特定中心和宽度参数的radial基函数作为激活函数。
输入信号通过输入层传递到隐藏层，隐藏层的神经元计算输入信号与其对应的中心的距离，并将距离作为输入信号传递给输出层。
输出层的神经元根据权重和输入信号计算输出值。
整个网络通过不断调整隐藏层的参数和输出层的权重来进行训练，以实现模型的优化。
2.应用：-回归分析：RBF网络可以用于函数逼近问题，通过学习输入值与输出值之间的函数关系，实现对未知输入的预测。
例如，可以用RBF网络建模销售数据，根据历史数据预测未来销售情况。
-控制系统：RBF网络可以用于建立非线性的控制模型。
通过学习输入与输出之间的非线性映射，可以根据输入信号来控制输出信号，实现控制系统对复杂非线性过程的控制。
-时间序列预测：RBF网络可以用于预测时间序列数据，如股票价格、气温变化等。
通过学习历史数据的模式，可以对未来的趋势和变化进行预测。
3.RBF网络的优势：-具有局部适应性：每个隐藏神经元只对输入空间的一部分进行响应，具有局部适应性，更适合处理复杂非线性问题。
-具有全局逼近能力：通过增加足够多的隐藏神经元，RBF网络可以以任意精度逼近任何连续函数，具有较强的全局逼近能力。
-训练简单：RBF网络的训练相对简单，可以使用基于梯度下降法的误差反向传播算法进行训练。
-鲁棒性高：RBF网络对噪声和输入变化具有较好的鲁棒性，在一定程度上可以处理输入数据中的不确定性。
总结起来，RBF网络是一种基于radial基函数的前向神经网络，具有局部适应性、全局逼近能力以及鲁棒性高等优点。
它在模式识别、回归分析、控制系统、时间序列预测等领域有广泛应用，并且可以通过简单的训练方法进行优化。
第20卷第5期 武汉科技学院学报V ol.20 No.5 2007年5月 JOURNAL OF WUHAN UNIVERSITY OF SCIENCE AND ENGINEERING May. 2007 RBF神经网络理论及其在控制中的应用周勇，胡中功（武汉工程大学电气信息学院，湖北武汉 430073）摘要：对RBF神经网络的结构和函数逼近理论进行了综述，最后提出了RBF网络在控制中的研究及应用。
关键词：RBF神经网络；全局逼近；遗传算法中图分类号：TP183 文献标识码：A 文章编号：1009－5160(2007)－0040－03人工神经网络是从微观结构与功能上对人脑神经系统的模拟而建立起来的一类模型，具有模拟人的部分形象思维的能力，其特点是具有非线性特性、学习能力和自适应性，是模拟人的智能的一种重要途径，它在许多方面取得了广泛应用。
从神经网络的基本模式看主要有[1]：前馈型、反馈型、自组织型及随机型网络。
目前，在控制领域内神经网络正在稳步的发展，这种发展的动力主要来自三个方面[2]：⑴处理越来越复杂的系统的需要；⑵实现越来越高的设计目标的需要；⑶在越来越不确定的情况下进行控制的需要。
在控制领域中，目前应用较多的网络是BP网络，但BP网络存在局部最优问题，并且训练速度慢、效率低。
RBF网络在一定程度上克服了这些问题，因此它的研究与应用越来越得到重视。
本文综述了RBF神经网络的有关理论，并且提出了RBF网络在控制中的研究与应用。
1 RBF神经网络的结构RBF神经网络（Radial Basis Function Neural Network）的提出具有较强的生物学背景。
在人的大脑皮层区域中，局部调节及交叠的感受野（Receptive Field）是人脑反应的特点，基于感受野这一特性[2,3]，Moody 和Darken提出了一种神经网络结构，即RBF网络。
RBF网络是一种前向网络，隐含层的单元是感受野单元，每个感受野单元输出为ω＝i R(X)=i R(ii cX−⁄iσ), Hi,,1"=；X是N维输入向量，中心矢量i c是与X同维数的向量，i R(﹒)具有局部感受的特点，例如i R(X)=exp(-2ii cX−⁄iσ²), i R(﹒)只有在i c周围的一部分区域内有较强的反应，这正体现了大脑皮质层的反应特点。
BP网络和RBF网络在函数逼近领域内的比较研究
智会强;牛坤;田亮;杨增军
【期刊名称】《科技通报》
【年(卷),期】2005(21)2
【摘要】通过仿真实例,对BP网络和RBF网络的函数逼近能力进行了比较研究,仿真结果表明,RBF网络的函数逼近能力在多个方面都优于BP网络,但在解决相同问题时,BP网络的结构要比RBF网络简单;实际应用中,可以以此结论为指导来设计神经网络。
【总页数】5页(P193-197)
【关键词】人工智能;神经网络;函数逼近;BP网络;RBF网络
【作者】智会强;牛坤;田亮;杨增军
【作者单位】公安部天津消防研究所;河北工业大学能源与环境工程学院
【正文语种】中文
【中图分类】TP183
【相关文献】
1.RBF与BP网络在模式分类领域内的对比研究 [J], 丁硕;常晓恒;巫庆辉
2.BP和RBF神经网络在函数逼近上的对比与研究 [J], 张志勰;虞旦
3.RBF神经网络在函数逼近领域内的研究 [J], 孙丽英;葛超;朱艺
4.RBF网络和BP网络在逼近能力方面的研究 [J], 海山;张策;何风琴
5.RBF网络和BP网络在逼近能力方面的研究 [J], 海山;张策;何风琴
因版权原因，仅展示原文概要，查看原文内容请购买。
三种RBF网络函数逼近性能对比及应用研究伍凯;贺正洪;张晶;赵敏【摘要】非线性函数逼近问题是神经网络数据处理的具体应用之一,在相同误差指标和目标参数的情况下,以具体的非线性函数为例,仿真对比了径向基神经网络(Radical Basis Function,RBF)、模糊RBF和基于遗传算法的模糊RBF网络的逼近性能.结果表明,3种RBF网络结构都能够较好的逼近目标函数,但模糊RBF与GA-RBF网络结构较基本RBF网络结构而言能够更早达到较小的逼近误差范围.在此基础上,仿真验证了模糊GA-RBF网络应用于间接型自校正控制的有效性.%Nonlinear function approximation is one of the specific applications of neural networks to process data.In the case of the same error index and the target parameter,taking the concrete nonlinear function as an example,simulating and comparing Radical Basis Function neural network,fuzzy RBF neural network and fuzzy RBF neural network are based on genetic algorithm.The results show that the three RBF network structures can better approximate the objective function,but the fuzzy RBF and GA-RBF network structure can achieve a smaller approximation error range than the basic RBF network structure.On this basis,simulation results verify the effectiveness of the fuzzy RBF neural network for indirect self-tuning control.【期刊名称】《火力与指挥控制》【年(卷),期】2018(043)003【总页数】5页(P163-167)【关键词】RBF神经网络;模糊RBF神经网络;GA-RBF神经网络;函数逼近;自校正控制【作者】伍凯;贺正洪;张晶;赵敏【作者单位】空军工程大学防空反导学院,西安710051;空军工程大学防空反导学院,西安710051;空军工程大学理学院,西安710051;解放军93424部队,北京102101【正文语种】中文【中图分类】TP1830 引言在工业控制实际中，许多被控对象的特性参数或结构会因负荷等因素的变化而发生改变。
如何进行在线调整，使得控制系统具有快响应、高稳态等性能值得我们深入研究［1］。
神经网络作为一种非线性统计数据建模工具，广泛应用于数据处理、参数优化等领域。
以高斯基函数为作用函数的RBF神经网络是一种局部逼近的3层前向网络，其输入层到隐层非线性关联，隐层到输出层线性关联，与BP神经网络相比，能避免局部最优并具有学习速度快的优势，适于实时控制的实现［2］。
文献［1，3］分别研究了基于两种不同结构神经网络的PID控制器设计问题。
本文首先采用RBF、模糊RBF和模糊GA-RBF神经网络逼近非线性函数；通过仿真，对比分析了3种不同RBF神经网络在具体函数逼近问题中的性能；在此基础上，设计了一种基于模糊GA-RBF网络的自校正模型，最后通过仿真验证了该模型的有效性。
1 三种RBF神经网络的结构分析1.1 RBF神经网络分析20世纪80年代末，J.Moody和C.Darken率先使用径向基函数方法，提出了神经网络学习的新手段。
作为一种前馈反向传播网络，RBF神经网络包含输入层、径向基隐层和线性输出层。
作为一种全局逼近的网络结构，与BP神经网络隐层使用Sigmoid函数值不同，RBF神经网络隐层采用高斯基函数为作用函数，其值在输入空间有限范围内非零，任何函数都可以通过一组基函数的加权和来近似。
在神经网络结构中，可以将隐层单元的输出函数视作一组基函数，从而加权求和以逼进目标函数。
图1为多输入单输出的RBF网络结构图［1］。
图1 RBF神经网络结构图采用RBF网络对目标函数进行逼近的基本结构如图2所示。
图2 RBF逼近网络结构为网络的输入。
为RBF径向基向量，其中hj表示高斯基函数：其中，网络第j个节点的中心向量为表示网络的基宽向量，bj（bj≥0）为节点j的基宽参数。
表示网络输出层的权值向量。
网络的输出为：定义E（k）为RBF网络逼近性能的度量：采用梯度下降法，则输出权值、节点基宽参数及节点中心矢量的迭代过程可表示如下：其中，η表示学习速率，α为动量因子η∈［0，1］，α∈［0，1］。
1.2 模糊RBF神经网络分析将常规的神经网络赋予模糊输入信号和模糊权值，构成模糊RBF神经网络，从而实现学习能力强的RBF神经网络与推理能力强的模糊系统的结合。
图3为模糊RBF神经网络结构图，该网络包括输入层、模糊化层、模糊推理层和输出层4部分。
输入层的各个节点直接与输入量的各个分量相连接，从而将输入量从输入层传到模糊化层，之后再通过与模糊推理层的连接完成模糊规则的匹配，在模糊推理层各个节点间实现模糊运算。
最后，将输出层各个节点的加权和输出［4］。
图3 模糊RBF网络结构图采用模糊RBF网络对目标函数进行逼近的网络结构如图4所示。
图4 模糊RFB网络逼近结构取式（3）为RBF网络逼近性能的度量模糊RBF网络的学习算法如下：调整输出层权值：输出层权值学习：式中，η表示学习速率，α为动量因子，η∈［0，1］，α∈［0，1］。
隶属函数参数调整：式中隶属函数的参数学习过程：1.3 基于遗传算法的模糊RBF神经网络分析通过聚类方法确定模糊RBF神经网络基函数中心值时，网络的泛化能力较差。
采用梯度下降法的网络训练结果稳定性较差。
采用遗传算法可实现模糊RBF网络参数的优化。
为提高网络的泛化能力及稳定性，文献［5］中将模糊RBF神经网络待定参数看作染色体，利用遗传算法解算参数的最优或次优解，将其结果作为模糊RBF神经网络参数的初值，采用梯度下降法动态调整网络各参数。
模糊RBF网络的可调参数包括隐层节点的中心、宽度和输出层权值。
采用梯度下降法进行网络参数学习：隐层节点的中心的更新公式如下所示：基函数宽度的更新公式如下所示：对输出层节点与上一层各节点的权值W采用上式进行调整：为获取满意的逼近度，采用误差的绝对值指标作为参数选择的最小目标函数，即式中，N为逼近的总步数，e（i）为第i步网络的逼近误差。
2 函数逼近性能对比分析本文利用如下的非线性函数作为逼近对象：输入 u（k）选取为 u（k）=sin（10πt）函数，采样时间为0.001 s。
模糊RBF 网络结构输入层2-模糊化层25-模糊推理层25-输出层1，网络初始权值取［-1，1］之间的随机数，中心矢量和高斯基宽向量的初值如下：分别采用3种不同的RBF神经网络结构逼近非线性函数，仿真结果如图5～图8所示：图5 逼近效果图6 逼近误差图7 逼近误差放大图图8 RBF网络敏感度Jacobian信息从图5可知，3种RBF网络结构都能够较好地逼近目标函数。
从图6～图7来看，模糊RBF与模糊GA-RBF网络结构较基本RBF网络结构而言中间层的学习效率更高，能够在更短的时间内，得到合适的权值参数，达到较小的逼近误差。
模糊GA-RBF运用遗传算法优化的模糊RBF神经网络，动态调整网络参数，克服了遗传算法局部寻优能力的不足。
模糊GA-RBF的边缘效果最佳，RBF网络的边缘效果最差。
同时，计算基本RBF神经网络结构的敏感度Jacobian信息可知，对于逼近对象，基本RBF神经网络结构的参数值调整能力在逐步下降。
综上，模糊GA-RBF网络具有相对较强的函数逼近能力。
在3种RBF网络结构分析对比的基础上，设计基于模糊GA-RBF网络的间接型自校正控制结构。
3 基于模糊GA-RBF网络的间接型自校正控制间接型自校正控制是一种通过辨识器对系统未知参数进行在线估计，用调节器实现参数自动调整的自适应及实时反馈控制技术［6］。
将模糊RBF神经网络待定参数看作染色体，利用遗传算法解算参数的最优或次优解，将其结果作为模糊RBF神经网络参数的初值，采用梯度下降法动态调整网络各参数，从而得到基于遗传算法的模糊RBF网络。
将以高斯函数为隶属度函数的RBF神经网络结构作为自校正控制器，利用遗传算法动态调整网络的结构和参数，构成基于模糊GA-RBF神经网络的间接自校正控制系统［7］。
3.1 自校正控制算法考虑被控对象：其中u，y分别为对象的输入、输出，φ［］为非零函数。
当g［］，φ［］已知，自校正控制算法为：当g［］，φ［］未知时，使用经神经网络辨识器在线训练得到的估计值Ng［］，Nφ［］代替 g［］，φ［］。
此时，自校正控制算法为：3.2 模糊GA-RBF自校正控制算法采用两个模糊GA-RBF网络分别实现未知项的辨识，辨识器结构如下：在模糊GA-RBF网络结构中，取输入为y（k），模糊化层中采用高斯基函数作为隶属函数，模糊推理层通过与模糊化层的连接来完成模糊规则的匹配，各个节点之间实现模糊运算，每个节点有输入信号的乘积为该节点的输出。
最后，在输出层输出节点所有输入信号的加权和［8-9］。
网络的权向量为：两个网络输出g［］，φ［］的估计值为：图9 模糊GA-RBF网络辨识器其中，m表示神经网络模糊推理层的节点个数。
辨识后，对象的输出为：取下式作为神经网络调整的性能指标：综上，模糊GA-RBF神经网络自校正控制系统的结构如图10所示。
图10 模糊GA-RBF神经网络自校正控制系统4 仿真及实验验证采用模糊GA-RBF神经网络自校正控制系统对以下被控对象进行仿真验证：式中输入信号为：取模糊GA-RBF神经网络结构为输入层1-模糊化层4-模糊推理层4-输出层1，首先将模糊RBF神经网络权值、高斯基函数等待定参数看作染色体，通过遗传算法解算最优或次优解，之后将其结果作为模糊RBF神经网络参数的初值，采用梯度下降法动态调整网络参数，仿真结果如下页图11～图13所示。
仿真结果验证了模糊GA-RBF神经网络应用于自校正控制的可行性。
图11 模糊GA-RBF网络位置跟踪图 12 g（x，t）机器辨识结果（x，t）图13 f（x，t）及其辨识结果（x，t）5 结论在分析3种RBF神经网络结构特性及函数逼近能力的基础上，仿真分析了3种结构对一非线性函数对象的逼近效果。
