当前位置：文档之家 › bp神经网络在matlab函数逼近中的应用

bp神经网络在matlab函数逼近中的应用

  • 格式：pdf
  • 大小：113.39 KB
  • 文档页数：5

燕山大学

模式识别与智能系统导论

题目：BP网络在函数逼近中的应用

专业：控制工程

姓名： X X X

学号：

一BP神经网络及其原理............................................................ - 1 -

1.1 BP神经网络定义............................................................. - 1 -

1.2 BP神经网络模型及其基本原理..................................... - 1 -

1.3 BP神经网络的主要功能................................................. - 3 -

1.4 BP网络的优点以及局限性............................................. - 3 - 二基于MATLAB的BP神经网络工具箱函数 ........................ - 6 -

2.1 BP网络创建函数............................................................. - 7 -

2.2 神经元上的传递函数...................................................... - 7 -

2.3 BP网络学习函数............................................................. - 8 -

2.4 BP网络训练函数............................................................. - 9 - 三BP网络在函数逼近中的应用.............................................. - 10 -

3.1 问题的提出.................................................................... - 10 -

3.2 基于BP神经网络逼近函数......................................... - 10 -

3.3 不同频率下的逼近效果................................................ - 14 -

3.4 讨论................................................................................ - 17 -

- 1 - 一BP神经网络及其原理

1.1 BP神经网络定义

BP (Back Propagation)神经网络是一种神经网络学习算法。其由输入层、中间层、输出层组成的阶层型神经网络，中间层可

扩展为多层。相邻层之间各神经元进行全连接，而每层各神经元

之间无连接，网络按有教师示教的方式进行学习，当一对学习模

式提供给网络后，各神经元获得网络的输入响应产生连接权值

（Weight）。然后按减小希望输出与实际输出误差的方向，从输

出层经各中间层逐层修正各连接权，回到输入层。此过程反复交

替进行，直至网络的全局误差趋向给定的极小值，即完成学习的

过程。

1.2 BP神经网络模型及其基本原理

BP网络是一种多层前馈神经网络，由输入层、隐层和输出层组成。图7为一个典型的三层BP网络的拓扑结构，层与层之

间采用全互连方式，同一层之间不存在相互连接,隐层可以有一层

或多层。层与层之间有两种信号在流通：一种是工作信号(用实

线表示)，它是施加输入信号后向前传播直到在输出端产生实际

输出的信号，是输入和权值的函数。另一种是误差信号(用虚线

表示),网络实际输出与期望输出间的差值即为误差，它由输出端

开始逐层向后传播。BP网络的学习过程程由前向计算过程和误

差反向传播过程组成。在前向计算过程中，输入量从输入层经隐

层逐层计算，并传向输出层，每层神经元的状态只影响下一层神

经元的状态。如输出层不能得到期望的输出，则转入误差反向传

播过程，误差信号沿原来的连接通路返回，逐次调整网络各层的

权值和阈值，直至到达输入层，再重复向计算。这两个过程一次

反复进行，不断调整各层的权值和阈值，使得网络误差最小或达

到人们所期望的要求时，学习过程结束。

- 2 - 图1 典型BP神经网络模型

生物神经元信号的传递是通过突触进行的一个复杂的电化

学等过程, 在人工神经网络中是将其简化模拟成一组数字信号通

过一定的学习规则而不断变动更新的过程，这组数字储存在神经

元之间的连接权重。网络的输入层模拟的是神经系统中的感觉神

经元，它接收输入样本信号。输入信号经输入层输入，通过隐

含层的复杂计算由输出层输出，输出信号与期望输出相比较，若

有误差，再将误差信号反向由输出层通过隐含层处理后向输入层

传播。在这个过程中，误差通过梯度下降算法，分摊给各层的所

有单元，从而获得各单元的误差信号，以此误差信号为依据修正

各单元权值，网络权值因此被重新分布。此过程完成后，输入

信号再次由输入层输入网络，重复上述过程。这种信号正向传播

与误差反向传播的各层权值调整过程周而复始地进行着，直到网

络输出的误差减少到可以接受的程度，或进行到预先设定的学习

次数为止。权值不断调整的过程就是网络的学习训练过程。

BP 神经网络的信息处理方式具有如下特点:

1）信息分布存储。人脑存储信息的特点是利用突触效能的变化来调整存储内容，即信息存储在神经元之间的连接强度的

分布上，BP神经网络模拟人脑的这一特点，使信息以连接权值

- 3 - 的形式分布于整个网络。

2) 信息并行处理。人脑神经元之间传递脉冲信号的速度远低于冯·诺依曼计算机的工作速度，但是在很多问题上却可以做

出快速的判断、决策和处理，这是由于人脑是一个大规模并行与

串行组合的处理系统。BP神经网络的基本结构模仿人脑，具有

并行处理的特征，大大提高了网络功能。

3）具有容错性。生物神经系统部分不严重损伤并不影响整体功能，BP神经网络也具有这种特性，网络的高度连接意味着

少量的误差可能不会产生严重的后果，部分神经元的损伤不破坏整体，它可以自动修正误差。这与现代计算机的脆弱性形成鲜明

对比。

4）具有自学习、自组织、自适应的能力。BP神经网络具有初步的自适应与自组织能力，在学习或训练中改变突触权值以适

应环境，可以在使用过程中不断学习完善自己的功能，并且同一

网络因学习方式的不同可以具有不同的功能，它甚至具有创新能

力，可以发展知识，以至超过设计者原有的知识水平。

1.3 BP神经网络的主要功能

目前，在人工神经网络的实际应用中。绝大部分的神经网络

模型都采用BP神经网络及其变化形式。它也是前向网络的核心

部分，体现了人工神经网络的精华。

BP网络主要用于以下四方面。（1）函数逼近：用输入向量和相应的输出向量训练一个网

络以逼近一个函数。

（2）模式识别：用一个待定的输出向量将它与输入向量联

系起来。

（3）分类：把输入向量所定义的合适方式进行分类。

（4）数据压缩：减少输出向量维数以便传输或存储。

1.4 BP网络的优点以及局限性

BP神经网络最主要的优点是具有极强的非线性映射能力。理论上，对于一个三层和三层以上的BP网络，只要隐层神经元

合集下载

BP神经网络研究综述【文献综述】

BP神经网络研究综述【文献综述】

文献综述

电气工程及自动化

BP神经网络研究综述

摘要：现代信息化技术的发展，神经网络的应用范围越来越广，尤其基于BP算法的神经网络在预

测以及识别方面有很多优势。本文对前人有关BP神经网络用于识别和预测方面的应用进行

归纳和总结，并且提出几点思考方向以作为以后研究此类问题的思路。

关键词：神经网络；数字字母识别；

神经网络的脑式智能信息处理特征与能力使其应用领域日益扩大，潜力日趋明显。作为一种新

型智能信息处理系统，其应用贯穿信息的获取、传输、接收与加工各个环节。具有大家所熟悉的模

式识别功能，静态识别例如有手写字的识别等，动态识别有语音识别等，现在市场上这些产品已经

有很多。本文查阅了中国期刊网几年来的相关文献包括相关英文文献，就是对前人在BP神经网络

上的应用成果进行分析说明，综述如下：

（一） BP神经网络的基本原理

BP网络是一种按误差逆

向传播算法训练的多层前

馈网络它的学习规则是使

用最速下降法，通过反向

传播来不断调整网络的权

值和阀值，使网络的误差

平方最小。BP网络能学习

和存贮大量的输入- 输出模

式映射关系,而无需事前揭示描述这种映射关系的数学方程. BP神经网络模型拓扑结构包括输入层（input）、隐层(hide layer)和输出层(output layer)，如图上图。其基本思想是通过调节网

络的权值和阈值使网络输出层的误差平方和达到最小，也就是使输出值尽可能接近期望值。

（二） 对BP网络算法的应用领域的优势

和其它神经网络相比，BP神经网络具有模式顺向传播，误差逆向传播，记忆训练，学习收敛

的特点，主要用于：

（1） 函数逼近：用输入向量和相应的输出向量训练一个网络以逼近一个函数；

（2） 模式识别：用一个待定的输出向量将它与输入向量联系起来；

（3） 数据压缩：减少输出向量维数以便于传输或存储；

（4） 分类：把输入向量所定义的合适方式进行分类； ]9[

BP网络实质上实现了一个从输入到输出的映射功能，，而数学理论已证明它具有实现任何复杂

MATLAB在RBF神经网络模型中的应用

MATLAB在RBF神经网络模型中的应用

MATLAB在RBF神经网络模型中的应用高宁1，张建中2（1．安徽农业大学信息与计算机学院，安徽合肥230036；2.安徽建筑工业学院电子与信息工程学院，安徽合肥230022）摘要：本文介绍了RBF神经网络的基本原理及主要特点，并举例说明了基于MATLAB神经网络工具箱建立RBF神经网络模型及实现仿真的方法。关键词：仿真；MATLAB神经网络工具箱；RBF神经网络中图分类号：TP399文献标识码：A文章编码：1672－6251（2009）02－0110－02ApplicationofRBFneuralnetworkmodelbasedonMATLABGAONing1，ZHANGJan-zhong2(1.CollegeofInformationandcomputer,AnhuiAgricultureUniversity,Hefei230036,China;2.CollegeofElectronicsandInformationEnginner,AnhuiArchitectureUniversity,Hefei230022,China)Abstract:Inthispaper,theprincipleandcharacteristicofRBFneuralnetworkareexplained,andthemethodofbuildingandsimulatingRBFneuralnetworkmodelisintroduced.Keywords:Simulation;MATLABneuralnetworktoolbox;RBFneuralnetwork人工神经网络具有大规模并行处理能力、分布式存储能力、自适应（学习）能力等特征，神经网络特有的非线性适应性信息处理能力，克服了传统人工智能方法的缺陷，已广泛应用于模式识别、信号处理等各种应用领域。MATLAB集数值分析、矩阵运算、信号处理和图形显示于一体，构成了一个方便的、界面友好的用户环境，应用MATLAB语言构造典型神经网络的激活传递函数，编写各种网络设计与训练的子程序，网络设计者可以根据需要调用工具箱中有关神经网络的设计训练的函数，从繁琐的编程中解脱出来。本文主要介绍基于MATLAB神经网络工具箱实现RBF神经网络模型及其应用。1RBF神经网络简介径向基函数（RadialBasisFuntion，RBF）神经网络由三层组成，包括输入层、隐含层和输出层，隐含层的神经元数目由具体问题的情况而定。如图1.1所示。输入层节点只传递输入信号到隐层，隐层节点由象高斯函数那样的辐射状作用函数构成，而输出层节点通常是简单的线性函数。隐含层节点中的作用函数（基函数）对输入信号在局部产生响应，也就是说，当输入信号靠近基函数的中央范围时，隐含层节点将产生较大的输出。由此可看出这种网络具有局部逼近能力，所以径向基函数网络也称为局部感知场网络。RBF神经网络是一种典型的局部逼近神经网络，对于每个输入输出数据对，只有少量权值需要调整，从而使局部逼近网络具有学习速度快的优点，这点对于控制来说至关重要。理论上已经证明，只要隐含层神经元的数量足够多，RBF网络能以任意精度逼近任何单值连续函数。

基于LabVIEW与MATLAB平台的神经网络设计与应用研究

基于LabVIEW与MATLAB平台的神经网络设计与应用研究

仪器仪表与检测技术　ｌｎｓｔｒｕｍｅｎｔａｔｉｏｎ　ａｎｄ　Ｍｅａｓｕｒｍｅｎｔ　《自动化技术与应用》２０１２年第３ｌ卷第２期　

基于Ｌａ　ｂ　Ｖ　ｌ　Ｅ　Ｗ与Ｍ　ＡＴ　ＬＡ　Ｂ平台的神经网络设计　

与应用研究　

高洪涛，陈晓宁．张丽彬，吴文健　（解放军理工大学，江苏南京２１０００７）　

摘　要：针对神经网络应用问题提出了通过ＬａｂＶＩＥＷ调用ＭＡＴＬＡＢ应用程序实现神经网络的方法。该方法通过ＬａｂＶＩＥＷ与　ＭＡＴＬＡＢ的｝昆合编程，能充分发挥了两者的优势，具有更大的灵活性和实用性。同时它使得复杂的控制算法应用于虚拟仪器　实现故障诊断成为可能，为快速开发功能强大的智能化虚拟仪器探索了一条的新途径。　关键词：ＬａｂＶＩＥＷ；混合编程；ＭＡＴＬＡＢ；神经网络　中图分类号：ＴＰ１８３　文献标识码：Ｂ　文章编号：１００３—７２４１（２０１２）０２—００５１—０４　

Ｄｅｓｉｇｎ　ａｎｄ　Ａｐｐｌｉｃａｔｉｏｎ　ｏｆ　Ｎｅｕｒａｌ　Ｎｅｔｗｏｒｋ　Ｂａｓｅｄ　ｏｎ　ＬａｂＶＩ　ＥＷ　ａｎｄ　ＭＡＴＬＡＢ　

ＧＡＯ　Ｈｏｎｇ—ｔａｏ，ＣＨＥＮ　Ｘｉａｏ－ｎｉｎｇ，ＺＨＡＮＧ　Ｌｉ－ｂｉｎ，ＷＵ　Ｗｅｎｏｊｉａｎ　（Ｔｈｅ　ＰＬＡ　Ｕｎｉｖｅｒｓｉｔｙ　ｏｆ　Ｓｃｉｅｎｃｅ　ａｎｄ　Ｔｅｃｈｎｏｌｏｇｙ，Ｎａｎｊｉｎｇ　２１０ｏ０７　Ｃｈｉｎａ）　Ａｂｓｔｒａｃｔ：Ｔｈｉｓ　ａｒｔｉｃｌｅ　ｉｎｔｒｏｄｕｃｅｓ　ａ　ｋｉｎｄ　ｏｆ　ｍｅｔｈｏｄ　ｂｙ　ｕｓｉｎｇ　ＬａｂＶＩＥＷ　ａｎｄ　ＭＡＴＬＡＢ　ｍｉｘｅｄ　ｐｒｏｇｒａｍｍｉｎｇ　ｔｏ　ｒｅａｌｉｚｅ　Ｎｅｕｒａｌ　Ｎｅｔｗｏｒｋ　．Ｂｙ　ｔｈｅ　ｍｅｔｈｏｄ　ｏｆ　ｔｈｅ　ｍｉｘｅｄ　ｐｒｏｇｒａｍｍｉｎｇ　ｏｆ　ＭＡＴＬＡＢ　ａｎｄ　ＬａｂＶＩＥＷ，ｔｈｅ　ａｄｖａｎｔａｇｅｓ　ｏｆ　ｂｏｔｈ　ａｒｅ　ｐｌａｙｅｄ　ｆｕｌｌｙ，ｗｉｔｈ　ｍｏｒｅ　ｆｌｅｘｉｂｉｌｉｔｙ　ａｎｄ　ｐｒａｃｔｉｃａ１．Ｔｈｅ　ｍｉｘｅｄ　ｐｒｏｇｒａｍｍｉｎｇ　ｎｏｔ　ｏｎｌｙ　ｍａｋｉｎｇ　ｔｈｅ　ｃｏｍｐｌｉｃａｔｅｄ　ｃｏｎｔｒｏｌ　ａｒｉｔｈｍｅｔｉｃ　ｍｅｌｔｓ　ｉｎｔｏ　ｖｉｒｔｕａｌ　ｉｎｓｔｒｕｍｅｎｔ　ｔｏ　ｒｅａｌｉｚｅ　ｆａｕｌｔ　ｄｉａｇｎｏｓｉ，ｂｕｔ　ａｌＳＯ　ｅｘｐａｎｄｉｎｇ　ａｎ　ｅｆｆｅｃｔｉｖｅ　ｗａｙ　ｔｏ　ｄｅｖｅｌｏｐ　ｐｏｗｅｒｆｕｌ　ｉｎｔｅｌｌｉｇｅｎｔ　ｖｉｒｔｕａｌ　ｉｎｓｔｒｕｍｅｎｔ．　Ｋｅｙ　ｗｏｒｄｓ：ＬａｂＶＩＥＷ；ｍｉｘｅｄ　ｐｒｏｇｒａｍｍｉｎｇ；ＭＡＴＬＡＢ；ｎｅｕｒａｌ　ｎｅｔｗｏｒｋ　

利用MATLAB神经网络实现GPS高程转换设计

利用MATLAB神经网络实现GPS高程转换设计

第２８卷第３期　２００８年５月　海洋测绘　ＨＹＤＲＯＧＲＡＰＨＩＣ　ＳＵＲＶＥＹ　Ｇ　ＡＮＤ　ＣＨＡＲＴ　Ｇ　ＶＯ１．２８．Ｎｏ．３　Ｍａｙ，２００８　

利用ＭＡＴＬＡＢ神经网络实现Ｇ　ＰＳ高程转换设计　

秦永宽　，黄声享　，张书毕　

（１．武汉大学测绘学院，湖北武汉４３００７９；２、中国矿业大学环境与测绘学院，江苏徐州２２１００８）　

摘要：详细论述了如何运用ＭＡＴＬＡＢ神经网络工具箱设计ＢＰ和ＲＢＦ两种神经网络来实现ＧＰＳ高程转换，以　及在实现过程中应注意的问题，并结合工程实例对上述两种神经网络进行了比较分析，以期在实际应用中指导神　经网络的设计。　关键词：ＭＡＴＬＡＢ；ＧＰＳ高程；ＢＰ神经网络；ＲＢＦ神经网络　中图分类号：Ｐ２２８．３　文献标识码：Ｂ　文章编号：１６７１—３０４４（２００８）０３—００４８—０４　

１　引　言　２神经网络转换ＧＰＳ高程描述　

ＧＰＳ测量可以得到相对于ＷＧＳ　８４坐标系中的　

大地高，而我国所采用的高程是相对于似大地水准　

面的正常高。在忽略垂线偏差的情况下，有如下关　

系式　¨：　

Ｈ＝ｈ＋　（１）　

式中，日为大地高；ｈ为正常高；　为高程异常。　

为充分发挥ＧＰＳ高精度三维坐标的优越性，尤　

其是ＧＰＳ高程测量在工程测量中的应用，必须实现　

ＧＰＳ大地高向正常高的转换。如何才能提高ＧＰＳ　

大地高向正常高转换的实际精度问题，一直是ＧＰＳ　

测绘应用领域在探索与讨论的问题。　

人工神经网络是～门新兴交叉科学，它是生物　

神经系统的一种高度简化后的近似，是处理非线性　

映射问题的有效工具。ＢＰ神经网络和ＲＢＦ神经网　

络是应用最广泛的两种人工神经网络，在各门学科　

领域中都具有很重要的实用价值。近年来已有许多　

研究者将ＢＰ神经网络用于ＧＰＳ高程转换，并有少　

数学者将ＲＢＦ神经网络应用于ＧＰＳ高程转换，取得　

了一定的成果。但是，如何运用ＭＡＴＬＡＢ神经网络　

工具箱实现这两种神经网络的ＧＰＳ高程转换，以及