BP神经网络原理及应用

BP神经网络及其应用

摘要:人工神经网络是最近发展起来的十分热门的交叉学科,有着非常广泛的应用前景。文着重研究了bp神经网络结构、算法原理、介绍了bp网络改进算法,最后将改进的bp算法应用与变压器故障诊断。

关键词: bp神经网络;应用;故障诊断

1、神经元模型

人工神经网络(artificial neural networks,ann)是对人脑神经系统的近似模拟。神经网络由许多人工神经元互连组成,能接受并处理信息,网络的信息处理由神经元之间的连接权值来实现。

1943年,mcdulloh和pitts根据生物神经元的结构和功能,建立了人工神经元模型

如图1,一个基本的神经元i,它有n个输入,每个输入都通过一个适当的权值w与神经元相连。 是神经元的输入, 是神经元i的阀值; ,分别是神经元i对

的权值;是神经元的输出;圆形代表内部求和函数,它将输入求和得到神经元的静输入。f( )是神经元的激励函数,它决定神经元受到输入时的输出。激励函数f( )有多种形式,如sigmoid函数、阶跃函数和线性函数等。

2、bp神经网络基本思想

将bp网络理论学习算法转化为实际的学习过程,其原理如下:如图4-2所示,令i = { a1,..., an}为输入层故障诊断向量,o={ c1,..., cj}为输出层故障诊断向量,h={b1,,...,bp}为隐含层神经元数,v=vn×p与w=wp×q,为各层之间连接权值,k=(1,2,..., m)为给定的样本数。先给li层单元与lh层单元之间、lh层单元与lo层单元之间的连接权以及lh层单元阀值θi、lo层单元阀值γi赋[-ε,+ε]区间的随机值份(ε≦1)。

对每个模式对(a k,tk)(k=1,2,...,m)的学习步骤如下:

(1)将输入模式ak送到li层,li层单元的激活值ah通过连接权矩阵v送到lh层,产生lh层新的净输入netbi,进而产生lh层单元的输出值bi

bp网络原理

BP网络，即反向传播神经网络（Backpropagation Neural

Network），是一种基于梯度下降算法的前馈神经网络。它是一种常用的人工神经网络模型，被广泛应用于模式识别、预测和分类等任务中。

BP网络的基本原理是建立一个多层的神经网络结构，包括输入层、隐藏层和输出层。每个神经元都与下一层的所有神经元连接，并通过权重连接进行信息传递。输入信号从输入层经过权重连接传递到隐藏层，再经过隐藏层的激活函数作用后传递到输出层。

BP网络的训练过程主要分为前向传播和反向传播两个阶段。

在前向传播阶段，输入样本经过网络的各层神经元，得到输出结果。每个神经元将输入信号与权重相乘并累加，然后经过激活函数进行非线性转换，得到该神经元的输出。

在反向传播阶段，通过计算输出层和期望输出之间的误差，按照梯度下降的方法不断调整每个神经元的权重，以最小化误差。误差通过链式法则从输出层回传到隐藏层和输入层，根据权重的梯度进行更新。

反复迭代上述的前向传播和反向传播过程，直到网络的输出误差满足要求或训练次数达到指定值为止。

BP网络具有较好的非线性拟合能力和学习能力。它的优点在于能够通过训练样本自动调整权重，从而对输入样本进行分类和预测。然而，BP网络也存在一些问题，如容易陷入局部最小值、训练速度慢等。

为了克服BP网络的局限性，研究者们提出了一些改进方法，如改进的激活函数、正则化技术、自适应学习率等。这些方法在提高网络性能和加速训练过程方面起到了积极的作用。

总结起来，BP网络是一种基于梯度下降算法的前馈神经网络，通过前向传播和反向传播的方式不断调整神经元的权重，以实现输入样本的分类和预测。虽然存在一些问题，但通过改进方法可以提高其性能和训练速度。

- 1 - bp神经网络的应用综述

近年来，人工神经网络（ANN）作为一种神经网络形式在不断发展，因其计算能力强，对现实世界较好地识别和适应能力，已得到越来越广泛的应用，其中，BP神经网络是最典型的人工神经网络之一。

BP神经网络是指以马尔可夫随机过程为基础的反向传播算法，具有自组织学习、泛化、模糊推理的特点，具有非常广泛的应用场景。它可以用来解决实际问题。

首先，BP神经网络可以用来解决分类问题。它可以根据给定的输入向量和输出向量，训练模型以分类相关的输入特征。这种模型可以用来解决工业控制问题、专家系统任务等。例如，BP神经网络可以用来识别照片中的面孔，帮助改进自动门的判断等。

此外，BP神经网络还可以用于计算机视觉，即以计算机图像识别的形式进行图像处理。通常，计算机视觉技术需要两个步骤，即识别和分析。在识别步骤中，BP神经网络可以被用来识别图片中的特征，例如物体的形状、大小、颜色等；在分析步骤中，BP神经网络可以用来分析和判断图片中的特征是否满足要求。

此外，BP神经网络还可以用于机器人技术。它可以用来识别机器人环境中的物体，从而帮助机器人做出正确的动作。例如，利用BP神经网络，机器人可以识别障碍物并做出正确的行动。

最后，BP神经网络还可以用于未来的驾驶辅助系统中。这种系统可以利用各种传感器和摄像机，搜集周围环境的信息，经过BP神经网络分析，判断当前环境的安全程度，及时采取措施，以达到更好 - 2 - 的安全驾驶作用。

综上所述，BP神经网络具有自组织学习、泛化、模糊推理的特点，拥有非常广泛的应用场景，可以用于分类问题、计算机视觉、机器人技术和驾驶辅助系统等。然而，BP神经网络也存在一些问题，例如训练时间长，需要大量的训练数据，容易受到噪声攻击等。因此，研究人员正在积极改进BP神经网络，使其能够更好地解决各种问题。

信息产业　・８９・　基于ＢＰ神经网络的应用及实现　芦鸿雁　（武警工程大学信息工程系，陕西西安７１００８６）　摘要：针对医学中癌细胞与正常细胞的正确分类率不高的问题，提出ＢＰ神经网络对其进行分类。本文介绍了ＢＰ神经网络的基本　算法及几种改进算法。为了提高癌细胞的检测正确率，本文分别采用四种改进算法训练ＢＰ神经网络并进行测试。通过分析其训练效果的　关键数据及测试结果，可以得到较高的癌细胞分类准确率。实验表明，采取合适的算法对ＢＰ网络进行训练，．－ｌ－￣达到较好的分类效果。　关键词：ＢＰ神经网络；目标分类；应用　１　ＢＰ神经网络的简介　基于误差反向传播（Ｂａｃｋ　ｐｒｏｐａｇａｔｉｏｎ）￣法的多层前馈网络　（Ｍｕｌｔｉｐｌｅ—ｌａｙｅｒ　ｆｅｅｄｆｏｒｗａｒｄ　ｎｅｔ－ｗｏｒｋ，简记为ＢＰ网络）【１］，是目前　应用最多也是最成功的网络之一，构造一个ＢＰ网络需要确定　其处理单元——神经元的特性和网络的拓扑结构。ＢＰ网络可　以简单地看作是一个多层的感知器，其输人输出关系与单层感　知器完全相同，前一层的输出是下一层的输入。神经网络学习　算法要求神经元模型的传递函数为有界连续可微函数如ｓｉｇ—　ｍｏｉｄ函数，通过学习可以用一个连续的超曲面（而不仅仅是一　个超平面）来完成划分输入样本空间的功能。　神经网络的拓扑结构是指神经元之间的互连结构。图１是　一个ＢＰ网络结构。ＢＰ网络由输入层、输出层以及一个或多个　隐含层互连而成的一种多层网，这种结构使多层前馈网络可在　输入和输出间建立合适的线性或非线性关系，又不致使网络输　出限制在一１和１之间。其特点是：各神经元接受前一级输入，　并输出到下一级，无反馈。输人、输出节点称为可见层，其它中　间层称为隐含层。隐含层中的神经元一般采用ｓ形函数作为激　励函数，输出层神经元则可以根据实际情况选择线性激励函数　或者ｓ形激励函数。　２　ＢＰ网络的应用实例　下面采用ＢＰ算法，在Ｍａｔｌａｂ中编程，建立ＢＰ神经网络模　型，对其进行训练，最后用于对癌细胞的检测。　检测的基本原理［６，７１：由于气体分子或固体、液体的蒸气受　到一定能量的电子流轰击或强电场作用，丢失价电子生成分子　离子；同时，化学键也发生某些有规律裂解，生成各种碎片离　子。这些带正电荷的离子在电场和磁场作用下，按质荷比（即质　量和电荷比值Ｍ／Ｚ）的大小分开，排列成谱，记录下来即为质谱　（ｍａｓｓ　ｓｐｅｃｔｒｕｍ）。因此，可以根据质谱中离子的强度判断其血　清蛋白质样本有无癌症细胞。　实例中的数据是采用ＦＤＡ—ＮＣＩ诊所蛋白质项目中的数　据库中的数据。程序主要完成三部分功能：一是通过ｒａｎｋｆｅａ—　ｔｕｒｅｓ０函数，从１５０００个的特征中选取１００个影响较大的特征；　二是通过神经网络的专用函数ｎｅｗｆｆ０建立ＢＰ网络，并对其进　行训练和建模；三是给出测试的结果。　２．１特征的提取　表１