神经网络控制ppt课件

学习规则： 权值调整规则，即在学习过程中网络中各神经 元的连接权变化所依据的一定的调整规则。
BP网络的标准学习算法-算法思想
学习的类型：有导师学习 核心思想：
将输出误差以某种形式通过隐层向输入层逐层反传
将误差分摊给各层的所有 单元－－－各层单元的误 差信号
学习的过程： 信号的正向传播
(
yio (k) who
h
whohoh (k) bo )
who
hoh (k)
e
yio

(1 2
q
(do(k)
o1
yio
yoo (k)))2

(do (k )

yoo (k)) yoo
(k)
(do(k) yoo (k))f ( yio(k)) o(k)
小于零时，权值调整量
为正，实际输出少于期
望输出，权值向增大方向
调整，使得实际输出与期
望输出的差减少。
who
e who
<0,
此时Δwho>0
BP神经网络学习算法的MATLAB实现
MATLAB中BP神经网络的重要函数和基本 功能
函数名
功能
newff()
生成一个前馈BP网络
tansig()
双曲正切S型(Tan-Sigmoid)传输函数
神经元网络工作的全部秘密就在于它的权重值，
神经网络概述
选择不同的权重值，神经元网络就会有不同的 输入-输出关系。 神经元网络的具体工作原理：我们将样本数据 的输入值输进神经元网络，就得到一组输出值。 这组输出值当然不是我们的理想输出值。于是， 我们就根据实际输出与理想输出的差来修正权 值，以缩小这种差别。这样反复训练多次，最 后，使实际输出与理想输出趋于一致。这样， 神经元网络就可以用来代替我们所需要的模型 了。

神经网络的学习过程就是学习控制着空间变换方式（物质组成方式）的权重矩阵 W ， 那如何学习每一层的权重矩阵 W 呢？ 2.3.1、激活函数
激活函数的主要作用是提供网络的非线性建模能力。如果没有激活函数，那么该网络 仅能够表达线性映射，此时即便有再多的隐藏层，其整个网络跟单层神经网络也是等价 的。因此也可以认为，只有加入了激活函数之后，深度神经网络才具备了分层的非线性 映射学习能力。
线性可分视角：神经网络的学习就是学习如何利用矩阵的线性变换加激活函数的非 线性变换，将原始输入空间投向线性可分/稀疏的空间去分类/回归。
增加节点数：增加维度，即增加线性转换能力。 增加层数：增加激活函数的次数，即增加非线性转换次数。
2/29/2020
13
2.2.2、物理视角：“物质组成”
回想上文由碳氧原子通过不同组合形成若干分子的例子。从分子层面继续迭代这种 组合思想，可以形成DNA，细胞，组织，器官，最终可以形成一个完整的人。不同层级之 间都是以类似的几种规则再不断形成新物质。
2/29/2020
16
➢Sigmoid
sigmoid 是使用范围最广的一类激活函数，具 有指数函数形状，它在物理意义上最为接近生物神 经元。此外，(0, 1) 的输出还可以被表示作概率， 或用于输入的归一化，代表性的如Sigmoid交叉熵 损失函数。
然而，sigmoid也有其自身的缺陷，最明显的 就是饱和性。 软饱和激活函数：
2/29/2020
17
➢Tanh
➢ReLU
可以看到，当x<0时，ReLU硬饱和，
tanh也是一种非常常见的激活函数。 与sigmoid相比，它的输出均值是0， 使得其收敛速度要比sigmoid快，减少 迭代次数。然而，从途中可以看出， tanh一样具有软饱和性，从而造成梯 度消失。

一、反馈网络
1.1 反馈网络简介 1.2 网络稳定性
2
火灾袭来时要迅速疏散逃生，不可蜂 拥而出 或留恋 财物， 要当机 立断， 披上浸 湿的衣 服或裹 上湿毛 毯、湿 被褥勇 敢地冲 出去
1.1 反馈网络简介
反馈网络(Recurrent Network)，又称自 联想记忆网络
– 其目的是为了设计一个网络，储存一组平衡 点，使得当给网络一组初始值时，网络通过 自行运行而最终收敛到这个设计的平衡点上。
反馈神经网络由于其输出端有反馈到其 输入端；所以，Hopfield网络在输入的 激励下，会产生不断的状态变化。
当有输入之后，可以求出Hopfield的输 出，这个输出反馈到输入从而产生新的 输出，这个反馈过程一直进行下去。如 果Hopfield网络是一个能收敛的稳定网 络，则这个反馈与迭代的计算过程所产 生的变化越来越小，一旦到达了稳定平 衡状态；那么Hopfield网络就会输出一 个稳定的恒值。
21
火灾袭来时要迅速疏散逃生，不可蜂 拥而出 或留恋 财物， 要当机 立断， 披上浸 湿的衣 服或裹 上湿毛 毯、湿 被褥勇 敢地冲 出去
2.1 网络模型
分类 – 离散Hopfield网络（DHNN） – 连续Hopfield网络（CHNN）
22
DHNN中的激活函数
CHNN中的激活函数
火灾袭来时要迅速疏散逃生，不可蜂 拥而出 或留恋 财物， 要当机 立断， 披上浸 湿的衣 服或裹 上湿毛 毯、湿 被褥勇 敢地冲 出去
状态空间中，从初始状态A(t0) ，最后到达A*。若A*
17
为稳定点，则可以看作是A*把A(t0)吸引了过去，在 A(t0)时能量比较大，而吸引到A*时能量已为极小了
火灾袭来时要迅速疏散逃生，不可蜂 拥而出 或留恋 财物， 要当机 立断， 披上浸 湿的衣 服或裹 上湿毛 毯、湿 被褥勇 敢地冲 出去

contents
• structure • universal theorem • MLP for classification • mechanism of MLP for classification
– nonlinear mapping – binary coding of the areas
i, j
Ep i jk
O k1 i
• Situation for k M
E p i jM
E p O j M
O j M i jM
( y j OjM ) f '(ijM )
• Situation for k M
Ep
i jk
l
E p il k1
il k1 O j k
O j k i jk
l
• We ended by looking at some practical issues that didn’t arise for the single layer networks
Structure of an MLP
• it is composed of several layers • neurons within each layer are not connected • ith layer is only fully connected to the (i+1)jth layer • Signal is transmitted only in a feedforward manner
ij (xi )
• It is impractical
– the functions Ej(.) and ij (.) are not the simple weighted sums passed through