第四章 自组织竞争学习神经网络模型
- 格式:ppt
- 大小:1.02 MB
- 文档页数:72


1、自组织竞争神经网络构建
(1)生成自组织竞争网络
(,,,)netnewcPRSKLRCLR
PR:由R维的输入样本最小最大值构成的2R维矩阵。
S:竞争层神经元个数
KLR:学习率,默认0.01
(2)网络训练
[,,,,,] (,,,,,,)nettrYEPfAftrainnetPTPiAiVVTV
(3)网络仿真
[,,,,] (,,,,)YPfAfEperfsimnetPPiAiT
例1:
clear;
clc;
P = [ 0.9285 0.6131 0.8340 0.5159 0.8378 0.6061 0.8924 0.1694
1.0035 0.6021 0.9060 0.4922 0.7868 0.6781 ...
0.8498 0.1563 0.9909 0.6714 0.9508 0.4555 0.7412 0.5626
0.8816 0.1872 0.8416 0.5563 0.9167 0.4860 ...
0.8404 0.6145 0.9218 0.2310 0.9715 0.6434 0.8933 0.4849
0.8025 0.5417 0.9277 0.2484 0.9813 0.6539 ...
0.9019 0.4061 0.8755 0.6349 0.8900 0.1984 0.9892 0.5658
0.8319 0.5058 0.8378 0.6165 0.8745 0.1170 ...
1.0238 0.5460 0.8349 0.4434 0.8278 0.5570 0.9087 0.1103
竞争型神经网络是基于无监督学习的神经网络的一种重要类型,作为基本的网络形式,构成了其他一些具有组织能力的网络,如学习向量量化网络、自组织映射网络、自适应共振理论网络等。与其它类型的神经网络和学习规则相比,竞争型神经网络具有结构简单、学习算法简便、运算速度快等特点。竞争型神经网络模拟生物神经网络系统依靠神经元之间的兴奋、协调与抑制、竞争的方式进行信息处理。一个竞争神经网络可以解释为:在这个神经网络中,当一个神经元兴奋后,会通过它的分支对其他神经元产生抑制,从而使神经元之间出现竞争。当多个神经元受到抑制,兴奋最强的神经细胞“战胜”了其它神经元的抑制作用脱颖而出,成为竞争的胜利者,这时兴奋最强的神经元的净输入被设定为 1,所有其他的神经元的净输入被设定为 0,也就是所谓的“成者为王,败者为寇”。一般说来,竞争神经网络包含两类状态变量:短期记忆变元(STM)和长期记忆变元(LTM)。STM 描述了快速变化的神经元动力学行为,而 LTM 描述了无监督的神经细胞突触的缓慢行为。因为人类的记忆有长期记忆(LTM)和短期记忆(STM)之分,因此包含长时和短时记忆的竞争神经网络在理论研究和工程应用中受到广泛关注。
竞争性神经网络模型图
自组织特征映射神经网络(简称SOM),是由输入层和输出层组成的单层神经网络,主要用于对输入向量进行区域分类。SOM是一种无导师聚类,能将一维输入模式在输出层映射成二维离散图形,此图形分布在网格中,网格大小由m*n表示,并保持其拓扑结构不变,从而使有相似特征的神经元彼此靠近,不同特征的神经元彼此远离,最终实现区分识别样品的目的。SOM 通过学习输入向量的分布情况和拓扑结构,靠多个神经元的协同作用来完成模式分类。当神经网络接受外界输入模式时,神经网络就会将其分布在不同的对应区域,并且记忆各区域对输入模式的不同响应特征,使各神经元形成有序的空间分布。当输入不同的样品光谱时,网络中的神经元便随机兴奋,经过SOM 训练后神经元在输出层有序排列,作用相近的神经元相互靠近,作用不同的神经元相互远离。在神经网络的应用中,对于待识别的输入模式属于哪一类并没有任何先验知识,只能是把相似的模式样品划归为一类,而将不相似的分离开,从而实现样品的类内相似性和类间分离性,因此相似性是输入模式的聚类依据,导致不同次的网络训练,同一样品会分布在网格中的不同位置,聚类效果良好。与竞争神经网络不太一样的是SOM没有阈值,不是一个神经元获得机会进行阈值调整而是多个神经元获得机会进行权值调整。
SOM神经网络
第4章 SOM自组织特征映射神经网络
生物学研究表明,在人脑的感觉通道上,神经元的组织原理是有序排列的。当外界的特定时空信息输入时,大脑皮层的特定区域兴奋,而且类似的外界信息在对应的区域是连续映像的。生物视网膜中有许多特定的细胞对特定的图形比较敏感,当视网膜中有若干个接收单元同时受特定模式刺激时,就使大脑皮层中的特定神经元开始兴奋,输入模式接近,与之对应的兴奋神经元也接近;在听觉通道上,神经元在结构排列上与频率的关系十分密切,对于某个频率,特定的神经元具有最大的响应,位置相邻的神经元具有相近的频率特征,而远离的神经元具有的频率特征差别也较大。大脑皮层中神经元的这种响应特点不是先天安排好的,而是通过后天的学习自组织形成的。
据此芬兰Helsinki大学的Kohonen T.教授提出了一种自组织特征映射网络(Self-organizing feature Map,SOM),又称Kohonen网络[1-5]。Kohonen认为,一个神经网络接受外界输入模式时,将会分为不同的对应区
域,各区域对输入模式有不同的响应特征,而这个过程是自动完成的。SOM网络正是根据这一看法提出的,其特点与人脑的自组织特性相类似。
4.1 竞争学习算法基础[6]
4.1.1 自组织神经网络结构
1.定义
自组织神经网络是无导师学习网络。它通过自动寻找样本中的内在规律和本质属性,自组织、自适应地改变网络参数与结构。
2.结构
层次型结构,具有竞争层。典型结构:输入层+竞争层。如图4-1所示。
竞争层输入层……
图4-1 自组织神经网络结构
· 输入层:接受外界信息,将输入模式向竞争层传递,起“观察”作用。
竞争层:负责对输入模式进行“分析比较”,寻找规律,并归类。
4.1.2 自组织神经网络的原理
1.分类与输入模式的相似性
分类是在类别知识等导师信号的指导下,将待识别的输入模式分配到各自的模式类中,无导师指导的分类称为聚类,聚类的目的是将相似的模式样本划归一类,而将不相似的分离开来,实现模式样本的类内相似性和类间分离性。由于无导师学习的训练样本中不含期望输出,因此对于某一输入模式样本应属于哪一类并没有任何先验知识。对于一组输入模式,只能根据它们之间的相似程度来分为若干类,因此,相似性是输入模式的聚类依据。
基于自组织竞争型神经网络的工艺实例推理
1 自组织竞争型神经网络
自组织竞争型神经网络(Competitive Neural Network,CNS)是一
种基于竞争学习机制的类神经网络,它由若干神经元组成,以神经元
获得输入信号为基础,通过按最具竞争性原则改变连接权值来学习,
在推理过程中则采用归一化法,从而使输出单元能够把给定信号转化
为查询目标。
自组织竞争型神经网络兼容神经网络学习的传统方法,有效的解
决节点归一化训练时间难问题,因此它可以像其他神经网络一样被用
于深入探索和建模复杂的工艺实例。同时,由于它的灵活性强和可扩
展性好,因而可以作为搜索算子用于支持工艺实例推理。
2 工艺实例推理
自组织竞争型神经网络可以用于工艺实例推理,以解决复杂工艺
过程中的控制问题。它可以利用一组神经元模拟复杂的环境,并捕捉
工艺实例的规律,最终求出最优的控制结果或控制路径。在复杂的工
艺实例推理中,自组织竞争型神经网络无疑是一种理想的途径。
首先,自组织竞争型神经网络可以用于模拟复杂的工艺实例,把
多种参数和条件组合成有效的模型,提出新的观察模型,从而预测推
理结果。 其次,基于自组织竞争型神经网络的自学习算法可以实现快速全
局搜索,作为一种搜索算子,它可以尽可能地扫描搜索空间,快速找
出一个控制或者优化的最优方案。
此外,自组织竞争型神经网络能够较好地保持平衡,将最优的结
果与粗放泛化能力相匹配,形成更加完美的控制策略,从而得到最佳
的控制结果。
最后,自组织竞争型神经网络还可以在快速反应能力这一方面更
有优势,从而在突发事件发生时即刻做出反应,在节省时间上比传统
神经网络要有效得多。
3 结论
自组织竞争型神经网络作为新型神经网络结构,以它的多种突出
特性,可以用于推理和解决复杂工艺实例,它既具有通用学习机制,
又拥有优异的搜索能力和控制精度,更是能够快速反应环境变化。总
之,自组织竞争型神经网络提供了一种有用的解决复杂工艺实例的有
效方法,为研究者和工程师们提供更多的思路和手段。