BP神经网络算法解读

BP神经网络及深度学习研究摘要：人工神经网络是一门交叉性学科，已广泛于医学、生物学、生理学、哲学、信息学、计算机科学、认知学等多学科交叉技术领域，并取得了重要成果。

BP（Back Propagation）神经网络是一种按误差逆传播算法训练的多层前馈网络，是目前应用最广泛的神经网络模型之一。

本文将主要介绍神经网络结构，重点研究BP神经网络原理、BP神经网络算法分析及改进和深度学习的研究。

关键词：BP神经网络、算法分析、应用1 引言人工神经网络（Artificial Neural Network，即ANN ），作为对人脑最简单的一种抽象和模拟，是人们模仿人的大脑神经系统信息处理功能的一个智能化系统，是20世纪80 年代以来人工智能领域兴起的研究热点。

人工神经网络以数学和物理方法以及信息处理的角度对人脑神经网络进行抽象，并建立某种简化模型，旨在模仿人脑结构及其功能的信息处理系统。

人工神经网络最有吸引力的特点就是它的学习能力。

因此从20世纪40年代人工神经网络萌芽开始，历经两个高潮期及一个反思期至1991年后进入再认识与应用研究期，涌现出无数的相关研究理论及成果，包括理论研究及应用研究。

最富有成果的研究工作是多层网络BP算法，Hopfield网络模型，自适应共振理论，自组织特征映射理论等。

因为其应用价值，该研究呈愈演愈烈的趋势，学者们在多领域中应用[1]人工神经网络模型对问题进行研究优化解决。

人工神经网络是由多个神经元连接构成，因此欲建立人工神经网络模型必先建立人工神经元模型，再根据神经元的连接方式及控制方式不同建立不同类型的人工神经网络模型。

现在分别介绍人工神经元模型及人工神经网络模型。

1.1 人工神经元模型仿生学在科技发展中起着重要作用，人工神经元模型的建立来源于生物神经元结构的仿生模拟，用来模拟人工神经网络[2]。

人们提出的神经元模型有很多，其中最早提出并且影响较大的是1943年心理学家McCulloch和数学家W. Pitts在分析总结神经元基本特性的基础上首先提出的MP模型。

基于BP神经网络PID整定原理和算法步骤BP神经网络是一种常用的非线性拟合和模式识别方法，可以在一定程度上应用于PID整定中，提高调节器的自适应性。

下面将详细介绍基于BP神经网络的PID整定原理和算法步骤。

一、基本原理：BP神经网络是一种具有反馈连接的前向人工神经网络，通过训练样本的输入和输出数据，通过调整神经元之间的连接权重来模拟输入和输出之间的映射关系。

在PID整定中，可以将PID控制器的参数作为网络的输入，将控制效果指标作为网络的输出，通过训练网络来获取最优的PID参数。

二、算法步骤：1.确定训练数据集：选择一组适当的PID参数和相应的控制效果指标作为训练数据集，包括输入和输出数据。

2.构建BP神经网络模型：确定输入层、隐藏层和输出层的神经元数量，并随机初始化神经元之间的连接权重。

3.设置训练参数：设置学习速率、误差收敛条件和训练迭代次数等训练参数。

4.前向传播计算输出：将训练数据集的输入作为网络的输入，通过前向传播计算得到网络的输出。

5.反向传播更新权重：根据输出与期望输出之间的误差，利用误差反向传播算法来调整网络的连接权重，使误差逐渐减小。

6.判断是否达到收敛条件：判断网络的训练误差是否满足收敛条件，如果满足则跳转到第8步，否则继续迭代。

7.更新训练参数：根据训练误差的变化情况，动态调整学习速率等训练参数。

8.输出最优PID参数：将BP神经网络训练得到的最优权重作为PID 控制器的参数。

9.测试PID控制器：将最优PID参数应用于实际控制系统中，观察控制效果并进行评估。

10.调整PID参数：根据实际控制效果，对PID参数进行微调，以进一步优化控制性能。

三、应用注意事项：1.训练数据集的选择应尽量全面、充分，覆盖各种不同工况和负载情况。

2.隐藏层神经元数量的选择应根据实际情况进行合理调整，避免过拟合或欠拟合现象。

3.学习速率和训练迭代次数的设置应根据系统复杂度和训练误差的变化情况进行调整。

计算智能基础实验报告实验名称：BP神经网络算法实验班级名称：341521班专业：探测制导与控制技术姓名：***学号：********一、 实验目的1）编程实现BP 神经网络算法；2）探究BP 算法中学习因子算法收敛趋势、收敛速度之间的关系；3）修改训练后BP 神经网络部分连接权值，分析连接权值修改前和修改后对相同测试样本测试结果，理解神经网络分布存储等特点。

二、 实验要求按照下面的要求操作，然后分析不同操作后网络输出结果。

1）可修改学习因子2）可任意指定隐单元层数3）可任意指定输入层、隐含层、输出层的单元数4）可指定最大允许误差ε5）可输入学习样本（增加样本）6）可存储训练后的网络各神经元之间的连接权值矩阵；7）修改训练后的BP 神经网络部分连接权值，分析连接权值修改前和修改后对相同测试样本测试结果 。

三、 实验原理1BP 神经网络算法的基本思想误差逆传播(back propagation, BP)算法是一种计算单个权值变化引起网络性能变化的较为简单的方法。

由于BP 算法过程包含从输出节点开始，反向地向第一隐含层(即最接近输入层的隐含层)传播由总误差引起的权值修正，所以称为“反向传播”。

BP 神经网络是有教师指导训练方式的多层前馈网络，其基本思想是：从网络输入节点输入的样本信号向前传播，经隐含层节点和输出层节点处的非线性函数作用后，从输出节点获得输出。

若在输出节点得不到样本的期望输出，则建立样本的网络输出与其期望输出的误差信号，并将此误差信号沿原连接路径逆向传播，去逐层修改网络的权值和节点处阈值，这种信号正向传播与误差信号逆向传播修改权值和阈值的过程反复进行，直训练样本集的网络输出误差满足一定精度要求为止。

2 BP 神经网络算法步骤和流程BP 神经网络步骤和流程如下：1) 初始化，给各连接权{},{}ij jt W V 及阈值{},{}j t θγ赋予（-1,1）间的随机值；2) 随机选取一学习模式对1212(,),(,,)k k k k k k k n k n A a a a Y y y y ==提供给网络；3) 计算隐含层各单元的输入、输出；1n j ij i j i s w a θ==⋅-∑，()1,2,,j j b f s j p ==4) 计算输出层各单元的输入、输出；1t t jt j t j l V b γ==⋅-∑，()1,2,,t t c f l t q ==5) 计算输出层各单元的一般化误差；()(1)1,2,,k k t t tt t t d y c c c t q =-⋅-=6) 计算中间层各单元的一般化误差；1[](1)1,2,,q kk jt jt j j t e d V b b j p ==⋅⋅-=∑7) 修正中间层至输出层连接权值和输出层各单元阈值；(1)()k jt jt t j V iter V iter d b α+=+⋅⋅(1)()k t t t iter iter d γγα+=+⋅8) 修正输入层至中间层连接权值和中间层各单元阈值；(1)()kk ij ij j i W iter W iter e a β+=+⋅⋅(1)()kj j j iter iter e θθβ+=+⋅9) 随机选取下一个学习模式对提供给网络，返回步骤3），直至全部m 个模式训练完毕；10) 重新从m 个学习模式对中随机选取一个模式对，返回步骤3），直至网络全局误差函数E 小于预先设定的一个极小值，即网络收敛；或者，当训练次数大于预先设定值，强制网络停止学习(网络可能无法收敛)。

BP神经网络框架BP（Back Propagation）网络是1986年由Rumelhart和McCelland为首的科学家小组提出，是一种按误差逆传播算法训练的多层前馈网络，是目前应用最广泛的神经网络模型之一。

BP网络能学习和存贮大量的输入-输出模式映射关系，而无需事前揭示描述这种映射关系的数学方程。

它的学习规则是使用最速下降法，通过反向传播来不断调整网络的权值和阈值，使网络的误差平方和最小。

BP神经网络模型拓扑结构包括输入层（input）、隐层(hide layer)和输出层(output layer)。

1BP神经网络基本原理BP神经网络的基本原理可以分为如下几个步骤：（1）输入信号Xi→中间节点（隐层点）→输出节点→输出信号Yk；（2）网络训练的每个样本包括输入向量X和期望输出量t，网络输出值Y 和期望输出值t之间的偏差。

（3）通过调整输入节点与隐层节点的联接强度取值Wij和隐层节点与输出节点之间的联接强度取值Tjk，以及阈值，使误差沿梯度方向下降。

（4）经过反复学习训练，确定与最小误差相对应的网络参数（权值和阈值），训练到此停止。

（5）经过上述训练的神经网络即能对类似样本的输入信息，自行处理输出误差最小的经过非线性转换的信息。

2BP神经网络涉及的主要模型和函数BP神经网络模型包括输入输出模型、作用函数模型、误差计算模型和自学习模型。

输出模型又分为：隐节点输出模型和输出节点输出模型。

下面将逐个介绍。

（1）作用函数模型作用函数模型，又称刺激函数，反映下层输入对上层节点刺激脉冲强度的函数。

一般取（0,1）内的连续取值函数Sigmoid函数：f x=11+e^(−x)（2）误差计算模型误差计算模型反映神经网络期望输出与计算输出之间误差大小的函数：Ep=12(tpi−Opi)2其中，tpi为i节点的期望输出值；Opi为i节点的计算输出值。

（3）自学习模型自学习模型是连接下层节点和上层节点之间的权重矩阵Wij的设定和修正过程。

BP算法链式法则1. 引言BP算法（Backpropagation algorithm）是一种常用的神经网络训练算法，用于调整神经网络中的权值，以使得网络输出与期望输出之间的误差最小化。

BP算法的核心思想是通过使用链式法则，将误差逐层反向传播，从而计算每个神经元的权值更新量。

在本文中，我们将详细介绍BP算法的链式法则，并解释其原理和应用。

我们将首先介绍BP算法的基本思想，然后详细讨论链式法则的推导过程，最后给出一个具体的示例来帮助理解。

2. BP算法的基本思想BP算法是一种监督学习算法，其目标是通过调整神经网络的权值，使得网络的输出尽可能接近期望输出。

BP算法的基本思想是通过反向传播误差信号，逐层调整权值。

BP算法的训练过程可以分为两个阶段：前向传播和反向传播。

在前向传播阶段，输入样本经过网络的每一层计算，直到得到输出层的输出。

在反向传播阶段，根据输出层的误差，逐层计算每个神经元的权值更新量。

3. 链式法则的推导过程链式法则是BP算法中的关键步骤，它允许我们计算每个神经元的权值更新量。

下面我们将详细推导链式法则的数学公式。

设神经网络的输出为y，期望输出为d，则输出层的误差可以表示为：E=12(y−d)2我们的目标是最小化误差E，因此需要计算误差对权值的偏导数。

根据链式法则，我们可以将误差的偏导数表示为：∂E ∂w ij =∂E∂y⋅∂y∂net j⋅∂net j∂w ij其中，w ij表示连接第i个神经元和第j个神经元的权值，net j表示第j个神经元的输入。

我们可以将上述式子展开，得到：∂E ∂w ij=(y −d )⋅f′(net j )⋅x i 其中，f′(net j )表示第j 个神经元的激活函数的导数，x i 表示连接输入层和第i 个神经元的输入。

通过上述公式，我们可以计算出输出层每个神经元的权值更新量。

然后，我们可以利用类似的方法计算隐藏层和输入层的权值更新量。

假设神经网络有L 个隐藏层，n l 表示第l 个隐藏层的神经元数目，w ij (l )表示连接第l 个隐藏层的第i 个神经元和第l +1个隐藏层的第j 个神经元的权值。

BP神经⽹络综合评价法
BP神经⽹络综合评价法是⼀种交互式的评价⽅法，⼀种既能避免⼈为计取权重的不精确性, ⼜能避免相关系数求解的复杂性,还能对数量较⼤且指标更多的实例进⾏综合评价的⽅法,它可以根据⽤户期望的输出不断修改指标的权值，直到⽤户满意为⽌。

因此，⼀般来说，⼈⼯神经⽹络评价⽅法得到的结果会更符合实际情况。

BP神经⽹络是⼀种典型的多层前向神经⽹络，由输⼊层、隐,层和输出层组成，层与层之间采⽤全部连接⽅式，同层节点之间不存在相互连接，其中输⼊层节点仅在信号输⼊作⽤，输出层节点起线性加权作⽤，隐层节点负责对信息进⾏最主要的数学处理。

不失⼀般性，设输
⼊层有 M 个节点，隐层有L个节点，输出层有P个节点，样本数为N，输⼊向量为，为隐层节点与输⼊层节点的连接权值，则隐层节点的输⼊和输出分别为：
隐层节点的激励函数⼀般选取双曲正切函数或型函数等⾮线性函数，⽽输⼊层节点的激励函数⼀般选取等⽐喻出的线性函数。

⽽输
出层节点与隐层节点的连接权值为，则输⼊层节点的输出为：
采⽤算法对⽹络进⾏训练。

算法是⾮线性最⼩⼆乘⽆约束优化算法，其本质是⾼斯-⽜顿法的改进⽅式，具有⼆阶收敛速度，既具有⾼斯-⽜顿法的局部收敛⽅式，⼜具有梯度下降法的全局收敛特性。