下载文档原格式
人工神经网络自组织特征映射网络简介二〇一二年十二月目录：1. 由自组织竞争神经网络谈起2. 自组织特征映射网基本概念3. 自组织特征映射网拓扑结构4. 自组织特征映射网学习算法5. 自组织特征映射网的应用从自组织竞争神经网络谈起：此类网络是模拟生物神经系统“侧抑制”现象的一类人工神经网络。
自组织特征映射网是此类网络的主要类型之一。
在生物神经系统中，存在着一种“侧抑制”现象，即当一个神经细胞兴奋后，会对其周围的神经细胞产生抑制作用。
这种“侧抑制”使神经细胞之间呈现出竞争。
开始时可能多个细胞同时兴奋，但一个兴奋程度最强的神经细胞会逐渐抑制周围神经细胞，其结果使其周围神经细胞兴奋度减弱，从而兴奋度最高的细胞是这次竞争的“胜者”，而其他神经细胞在竞争中失败。
自组织竞争神经网络就是模拟上述生物神经系统功能的人工神经网络。
如右图所示，输出层各神经元之间都有双向连接线，各连接线被赋予相应的权值。
从而实现对生物网络神经元相互竞争和抑制现象的模拟。
x1x2x i ············自组织竞争神经网络通过对“侧抑制”现象的模拟，具备自组织功能，能无导师学习。
自组织功能无导师学习 自组织竞争神经网络的一大特点是：具有自组织功能，能够自适应地改变网络参数和结构，从而实现无导师学习。
自组织竞争网络无导师学习方式更类似于人类大脑神经网络的学习，大大拓宽了神经网络在模式识别和和分类上的应用。
无导师指导的分类称为聚类，由于无导师学习的训练样本中不含有期望输出，因此没有任何先验的知识。
特殊网络结构 自组织竞争网的无导师指导学习是通过其特殊的网络结构实现的。
自组织竞争网在结构上属于层次型网络，共同特点是都具有竞争层。
自组织竞争网络的竞争层，各神经元之间存在横向连接，各连接被赋予权值。
通过竞争学习规则，达到自组织，实现对输入样本的自动分类。
SOM神经网络第4章 SOM自组织特征映射神经网络生物学研究表明，在人脑的感觉通道上，神经元的组织原理是有序排列的。
当外界的特定时空信息输入时，大脑皮层的特定区域兴奋，而且类似的外界信息在对应的区域是连续映像的。
生物视网膜中有许多特定的细胞对特定的图形比较敏感，当视网膜中有若干个接收单元同时受特定模式刺激时，就使大脑皮层中的特定神经元开始兴奋，输入模式接近，与之对应的兴奋神经元也接近；在听觉通道上，神经元在结构排列上与频率的关系十分密切，对于某个频率，特定的神经元具有最大的响应，位置相邻的神经元具有相近的频率特征，而远离的神经元具有的频率特征差别也较大。
大脑皮层中神经元的这种响应特点不是先天安排好的，而是通过后天的学习自组织形成的。
据此芬兰Helsinki大学的Kohonen T.教授提出了一种自组织特征映射网络（Self-organizing feature Map，SOM），又称Kohonen网络[1-5]。
Kohonen认为，一个神经网络接受外界输入模式时，将会分为不同的对应区域，各区域对输入模式有不同的响应特征，而这个过程是自动完成的。
SOM网络正是根据这一看法提出的，其特点与人脑的自组织特性相类似。
4.1 竞争学习算法基础[6]4.1.1 自组织神经网络结构1．定义自组织神经网络是无导师学习网络。
它通过自动寻找样本中的内在规律和本质属性，自组织、自适应地改变网络参数与结构。
2．结构层次型结构，具有竞争层。
典型结构：输入层＋竞争层。
如图4-1所示。
…竞争层…图4-1 自组织神经网络结构·输入层：接受外界信息，将输入模式向竞争层传递，起“观察”作用。
竞争层：负责对输入模式进行“分析比较”，寻找规律，并归类。
4.1.2 自组织神经网络的原理1．分类与输入模式的相似性分类是在类别知识等导师信号的指导下，将待识别的输入模式分配到各自的模式类中，无导师指导的分类称为聚类，聚类的目的是将相似的模式样本划归一类，而将不相似的分离开来，实现模式样本的类内相似性和类间分离性。
自组织特征映射网络在探地雷达数据处理中的应用通过对神经网络原理的介绍，利用其可以训练分类的特性，通过对方波函数、理论模拟数据的试验，最后在野外实际采集剖面选取的区域进行了识别和分类，达到了反映在剖面上的不同区域地质体的判别和认定，满足数据处理的要求。
标签：探地雷达神经网络自组织特征映射1前言在探地雷达的数据处理中，通常采用的是类似地震数据处理中的一些手段和方法，比如去除零漂、增益处理、带通滤波、道均衡等等，这些方法均是对整个剖面进行操作的，而我们可以通过神经网络方法，对数据体中某几个区域进行选取，对比研究，以判断其存在的雷同性或者差异性，来达到分类的目的，用以不同深度和区域地质体的判别和认定。
2神经网络结构及算法2.1神经网络结构神经网络系统是用数学思维模拟人脑神经信息处理方式的一种人工智能网络，它是一个高度复杂的非线性动力学系统，由大量简单的神经元广泛相互连接而成。
神经元一般是一个多输入单输出的非线性器件，它是神经网络的基本处理单元，结构模型见图1所示。
神经网络因其具有大规模并行计算、容错性强、分布式存储及超强学习能力等优点，被广泛应用于诸多领域，并取得了引人注目的成果。
经过多年的发展，已经发展出感知器网络、BP网络、径向基网络、Hopfield 网络、自组织网络和LVQ网络等等。
在已知目标向量的情况下，可以采用由导师的训练方法，然后针对探地雷达数据的特点，这里没有采用BP神经网络等需要导师的网络进行训练学习，而采用了无需提供导师信号的神经网络——自组织神经网络。
2.2自组织特征映射神经网络算法自组织神经网络的无导师学习方式更类似于人类大脑认知过程，其最重要的特点是通过自动寻找样本中的内在规律和本质属性，自适应地改变网络参数与结构。
自组织神经网络又分为几个内容，自组织竞争网络、特征映射网络、共振理论模型等。
本文采用的自组织特征映射（SOM）神经网络，是由芬兰神经网络专家Kohonen于1981年提出的。
SOM⾃组织特征映射神经⽹络参考： ⽣物学研究表明，在⼈脑的感觉通道上，神经元的组织原理是有序排列的。
当外界的特定时空信息输⼊时，⼤脑⽪层的特定区域兴奋，⽽且类似的外界信息在对应的区域是连续映像的。
⽣物视⽹膜中有许多特定的细胞对特定的图形⽐较敏感，当视⽹膜中有若⼲个接收单元同时受特定模式刺激时，就使⼤脑⽪层中的特定神经元开始兴奋，输⼊模式接近，与之对应的兴奋神经元也接近；在听觉通道上，神经元在结构排列上与频率的关系⼗分密切，对于某个频率，特定的神经元具有最⼤的响应，位置相邻的神经元具有相近的频率特征，⽽远离的神经元具有的频率特征差别也较⼤。
⼤脑⽪层中神经元的这种响应特点不是先天安排好的，⽽是通过后天的学习⾃组织形成的。
据此芬兰Helsinki⼤学的Kohonen T.教授提出了⼀种⾃组织特征映射⽹络（Self-organizing feature Map，SOM），⼜称Kohonen⽹络[1-5]。
Kohonen认为，⼀个神经⽹络接受外界输⼊模式时，将会分为不同的对应区域，各区域对输⼊模式有不同的响应特征，⽽这个过程是⾃动完成的。
SOM⽹络正是根据这⼀看法提出的，其特点与⼈脑的⾃组织特性相类似。
⼀、竞争学习算法基础：1、⾃组织神经⽹络结构（1）定义 ⾃组织神经⽹络是⽆导师学习⽹络。
它通过⾃动寻找样本中的内在规律和本质属性，⾃组织、⾃适应地改变⽹络参数与结构。
（2）结构 层次型结构，具有竞争层。
典型结构：输⼊层＋竞争层。
如图1所⽰。
a. 输⼊层：接受外界信息，将输⼊模式向竞争层传递，起“观察”作⽤。
b.竞争层：负责对输⼊模式进⾏“分析⽐较”，寻找规律，并归类。
⼆、⾃组织神经⽹络的原理1．分类与输⼊模式的相似性 分类是在类别知识等导师信号的指导下，将待识别的输⼊模式分配到各⾃的模式类中，⽆导师指导的分类称为聚类，聚类的⽬的是将相似的模式样本划归⼀类，⽽将不相似的分离开来，实现模式样本的类内相似性和类间分离性。
人工神经网络自组织特征映射网络简介二〇一二年十二月目录：1. 由自组织竞争神经网络谈起2. 自组织特征映射网基本概念3. 自组织特征映射网拓扑结构4. 自组织特征映射网学习算法5. 自组织特征映射网的应用从自组织竞争神经网络谈起：此类网络是模拟生物神经系统“侧抑制”现象的一类人工神经网络。
自组织特征映射网是此类网络的主要类型之一。
在生物神经系统中，存在着一种“侧抑制”现象，即当一个神经细胞兴奋后，会对其周围的神经细胞产生抑制作用。
这种“侧抑制”使神经细胞之间呈现出竞争。
开始时可能多个细胞同时兴奋，但一个兴奋程度最强的神经细胞会逐渐抑制周围神经细胞，其结果使其周围神经细胞兴奋度减弱，从而兴奋度最高的细胞是这次竞争的“胜者”，而其他神经细胞在竞争中失败。
自组织竞争神经网络就是模拟上述生物神经系统功能的人工神经网络。
如右图所示，输出层各神经元之间都有双向连接线，各连接线被赋予相应的权值。
从而实现对生物网络神经元相互竞争和抑制现象的模拟。
x1x2x i ············自组织竞争神经网络通过对“侧抑制”现象的模拟，具备自组织功能，能无导师学习。
自组织功能无导师学习 自组织竞争神经网络的一大特点是：具有自组织功能，能够自适应地改变网络参数和结构，从而实现无导师学习。
自组织竞争网络无导师学习方式更类似于人类大脑神经网络的学习，大大拓宽了神经网络在模式识别和和分类上的应用。
无导师指导的分类称为聚类，由于无导师学习的训练样本中不含有期望输出，因此没有任何先验的知识。
特殊网络结构 自组织竞争网的无导师指导学习是通过其特殊的网络结构实现的。
自组织竞争网在结构上属于层次型网络，共同特点是都具有竞争层。
自组织竞争网络的竞争层，各神经元之间存在横向连接，各连接被赋予权值。
通过竞争学习规则，达到自组织，实现对输入样本的自动分类。
特殊学习规则 竞争学习规则：竞争层神经元之间相互竞争以求被激活，结果在每一轮竞争中只有一个神经元被激活。
这个被激活的神经元称为“获胜神经元”，而其它神经元的状态被抑制。
然后获胜神经元及其附近神经元的对应权值将被调整以反映竞争结果。
主要的竞争学习规则有“胜者为王”和Kohonen规则等。
“胜者为王”只修改获胜神经元权值，Kohonen规则修改获胜神经元邻域内各神经元权值。
自组织竞争神经网络的主要类型包括：自组织特征映射网络、对偶传播神经网络、自适应共振理论网等。
自组织竞争神经网络自组织特征映射网络自适应共振理论对偶传播神经网络自组织特征映射网络•1981年，科霍恩(Kohonen)教授首先提出自组织特征映射网（SOM ）。
SOM 的运行基于Kohonen 规则。
自适应共振理论•ART 是一种能自组织地产生对环境认识编码的神经网络理论模型。
•ART 来源于无意识推理学说的“协作-竞争网络交互模型”。
•ART 理论已提出了三种模型结构，即ART1，ART2，ART3。
•ART 理论可以用于语音、视觉、嗅觉和字符识别等领域。
对偶传播神经网络•对传网是三层结构的前向网（输入层、隐含层、输出层），形式上与BP 网类似，但工作机理不同。
隐含层采用无导师的竞争学习算法，输出层用采用有导师的学习算法。
•最突出的优点是将有监督和无监督的训练算法有机结合起来，从而提高训练效率。
目录：1. 由自组织竞争神经网络谈起2. 自组织特征映射网基本概念3. 自组织特征映射网拓扑结构4. 自组织特征映射网学习算法5. 自组织特征映射网的应用自组织特征映射网的前世今生：1981年由芬兰学者科霍恩首先提出，自提出以来取得快速发展，目前广泛应用多个领域。
概念提出 1981年，科霍恩(Kohonen)教授提出一种自组织特征映射网(Self-Organizing feature Map,简称SOM，又称Kohonen网）。
科霍恩认为，一个生物神经网络在接受外界输入模式时，将会分为不同的对应区域，各区域对输入模式具有不同的响应特征，而且这个过程是自动完成的。
以此为基础，科霍恩创建了SOM。
生物学基础 侧抑制现象：这种侧抑制使神经细胞之间呈现出竞争，一个兴奋程度最强的神经细胞对周围神经细胞有明显的抑制作用，其结果使其周围神经细胞兴奋度减弱，从而该神经网络是这次竞争的“胜者”，而其他神经细胞在竞争中失败。
生物神经网络接受外界的特定时空信息时，神经网络的特定区域兴奋，而且类似的外界信息在对应区域是连续映象的。
SOM经训练后，其竞争层神经元，功能类似的相互靠近，功能不同的相互较远，这与生物神经网络的组织构造非常类似。
发展应用 自提出以来，自组织特征映射网得到快速发展和改进，目前广泛应用于样本分类、排序和样本检测等方面，和工程、金融、医疗、军事等领域，并成为其他人工神经网络的基础。
自组织特征映射网的运行原理：SOM 网的运行分为训练和工作两个阶段进行。
在训练开始阶段，竞争层哪个位置的神经元将对哪类输入模式产生最大响应是不确定的。
当输入模式的类别改变时，二维平面的获胜神经元也会改变。
在获胜神经元周围的邻域内的所有神经元的权向量均向输入向量的方向作不同程度调整，调整力度依邻域内节点与获胜节点的远近而逐渐衰减。
网络通过自组织方式，用大量训练样本调整网络的权值，最后使输出层各神经元成为对特定模式类敏感的神经网络。
从而竞争层各神经元的连接权向量的空间分布能够正确反映输入模式的空间概率分布。
SOM网训练结束后，输出层各节点与输入模式类的特定关系就固定下来，因此可用作模式分类器。
当输入一个模式时，网络输出层代表该模式类的特定神经元将产生最大响应，将该输入自动归类。
当输入模式不属于网络训练时见过的任何模式时，SOM网将它归入最接近的模式类。
训练阶段工作阶段目录：1. 由自组织竞争神经网络谈起2. 自组织特征映射网基本概念3. 自组织特征映射网拓扑结构4. 自组织特征映射网学习算法5. 自组织特征映射网的应用自组织特征映射网络的拓扑结构分为两层：输入层和输出层（竞争层）。
… …… …(a)一维竞争层 (b)二维竞争层自组织特征映射网络的拓扑结构分为两层：输入层和输出层（竞争层）。
SOM 拓扑结构不包括隐含层。
输入层为一维。
竞争层可以是一维、二维或多维。
其中二维竞争层由矩阵方式构成，二维竞争层的应用最为广泛。
SOM 中有两种连接权值，一种是神经元对外部输入反应的连接权值，另外一种是神经元之间的特征权值，它的大小控制着神经元之间交互作用的强弱。
SOM拓扑结构自组织特征映射网以若干神经元同时反映分类结果，使得其具有很强的抗干扰特性。
SOM结构特点与其他网络的区别：它不是一个神经元或者一个神经元向量来反映分类结果，而是以若干神经元同时反映分类结果。
神经网络对学习模式的记忆不是一次性完成的，而是通过反复学习，将输入模式的统计特征“溶解”到各个连接权上的。
对SOM而言，一旦由于某种原因，某个神经元受到损害（在实际应用中，表现为连接权溢出、计算误差超限、硬件故障等）或者完全失效，剩下的神经元仍可以保证所对应的记忆信息不会消失。
自组织特征映射网具有很强的抗干扰特性SOM拓扑结构的优势目录：1. 由自组织竞争神经网络谈起2. 自组织特征映射网基本概念3. 自组织特征映射网拓扑结构4. 自组织特征映射网学习算法5. 自组织特征映射网的应用自组织特征映射网络采用的学习算法称为科霍恩算法，与自组织竞争网采用的胜者为王算法相比，其主要区别在于调整权向量与侧抑制的方式不同。
下面三种函数沿中心轴旋转后可形成类似帽子的空间曲面，按顺序分别称为墨西哥帽函数、大礼帽函数、厨师帽函数。
墨西哥帽函数与生物特点类似，但计算复杂影响训练的收敛性，实际中常用简化后的大礼帽函数和进一步简化的厨师帽函数。
以获胜神经元为中心设定一个邻域半径，该半径圈定的范围称为“优胜邻域”。
优胜邻域内神经元按其离开获胜神经元的距离远近不同程度的调整权值。
优胜邻域开始定的较大，但其随着训练次数的增加不断收缩，最终收缩到半径为零。
学习算法•自组织特征映射网络采用的学习算法称为科霍恩算法，与胜者为王算法相比，其主要区别在于调整权向量与侧抑制的方式不同。
胜者为王算法的调整是封杀似的。
SOM网的获胜神经元对其临近的神经元的影响是由近及远，由兴奋逐渐转变为抑制，因此其学习算法中不仅获胜神经元本身要调整权向量，它周围的神经元在其影响下也要程度不同的调整权向量。
科霍恩学习算法具体步骤：目录：1. 由自组织竞争神经网络谈起2. 自组织特征映射网基本概念3. 自组织特征映射网拓扑结构4. 自组织特征映射网学习算法5. 自组织特征映射网的应用自组织特征映射网络在Matlab中的主要函数：实例一：在Matlab中使用自组织特征映射网络。
二维自组织特征映射网Matlab程序输入向量图实例一（续）：Matlab神经网络工具箱网络训练后权值效果图实例二：长江三角洲地区城市体系的职能分类。
在聚类分析中，聚类指标的选择直接影响到分类结果的准确性和可靠性。
指标的选取需要遵循以下几个原则：完备性、代表性、指标互补性。
长江三角洲城市职能分类指标的数据主要来源于《上海统计年鉴（2001）》、《浙江统计年鉴（2001）》、《江苏统计年鉴》。
第一步：建立城市职能分类的指标体系长江三角洲地区在我国是一个城市数目相对较多，城市化水平相对较高的地区。
在这一地区有全国的经济中心城市、地方经济中心城市和各类专门化城市。
这一地区城市体系职能结构的合理与否，直接影响着城市体系整体效益的发挥。
传统的城市职能分类方法往往需要监督学习，需要人工确定每一指标的权值，容易产生人为的主观性。
利用SOM 在模式识别和分类方面的优势可望提高分类判断的客观性。
工作意义城市职能分类指标体系（共28个指标）实例二（续）：第二步：建立城市职能分类的SOM模型指标的数据处理：由于28项数据具有不同的单位和量纲，因而其数值的差异很大。
因此在指标确定之后，对指标数据进行标准化处理。
通常的标准化处理方法有：总和标准化、标准差标准化、极大值标准化、极差标准化。
在本模型中采用标准差标准化。
运用Matlab神经网络工具箱建立SOM模型，将长江三角洲各城市的28项指标导入SOM模型，作为网络的输入模式，即输入层的神经元数量为28个。
在竞争层神经元数量取决于需要分为几类，在不清楚分类数目的情况下，竞争层神经元个数从S=3开始，然后依次加1，直到6，分别进行学习。
在SOM模型中，选择网络训练的迭代次数最大为1000次，初始的学习率为0.5。
实例二（续）：Self-Organizing Feature Mapping |21参考资料：《现代地理学中的数学方法》第三步：分析SOM 模型分类结果竞争层神经元为3时，上海单独一类，南京、无锡、杭州、苏州、宁波为一类，常州、南通、扬州、镇江、泰州、嘉兴、湖州、绍兴、舟山为一类。
