人工神经网络
系别：计算机工程系
班级： 1120543 班
学号： 13 号
姓名：
日期：2014年10月23日
人工神经网络
摘要：人工神经网络是一种应用类似于大脑神经突触联接的结构进行信息处理的数学模型。在工程与学术界也常直接简称为神经网络或类神经网络。神经网络是一种运算模型，由大量的节点（或称神经元）之间相互联接构成，由大量处理单元互联组成的非线性、自适应信息处理系统。它是在现代神经科学研究成果的基础上提出的，试图通过模拟大脑神经网络处理、记忆信息的方式进行信息处理。 关键词：神经元；神经网络；人工神经网络；智能；
引言
人工神经网络的构筑理念是受到生物（人或其他动物）神经网络功能的运作启发而产生的。人工神经网络通常是通过一个基于数学统计学类型的学习方法（Learning Method ）得以优化，所以人工神经网络也是数学统计学方法的一种实际应用，通过统计学的标准数学方法我们能够得到大量的可以用函数来表达的局部结构空间，另一方面在人工智能学的人工感知领域，我们通过数学统计学的应用可以来做人工感知方面的决定问题(也就是说通过统计学的方法，人工神经网络能够类似人一样具有简单的决定能力和简单的判断能力)，这种方法比起正式的逻辑学推理演算更具有优势。
一、人工神经网络的基本原理
1-1神经细胞以及人工神经元的组成
神经系统的基本构造单元是神经细胞，也称神经元。它和人体中其他细胞的关键区别在于具有产生、处理和传递信号的功能。每个神经元都包括三个主要部分:细胞体、树突和轴突。树突的作用是向四方收集由其他神经细胞传来的信息，轴突的功能是传出从细胞体送来的信息。每个神经细胞所产生和传递的基本信息是兴奋或抑制。在两个神经细胞之间的相互接触点称为突触。简单神经元网络及其简化结构如图2-2所示。
从信息的传递过程来看，一个神经细胞的树突，在突触处从其他神经细胞接受信号。
这些信号可能是兴奋性的，也可能是抑制性的。所有树突接受到的信号都传到细胞体进行综合处理，如果在一个时间间隔内，某一细胞接受到的兴奋性信号量足够大，以致于使该细胞被激活，而产生一个脉冲信号。这个信号将沿着该细胞的轴突传送出去，并通过突触传给其他神经细胞.神经细胞通过突触的联接形成神经网络。
图1-1简单神经元网络及其简化结构图
（1）细胞体
（2）树突
（3）轴突
（4）突触
人们正是通过对人脑神经系统的初步认识，尝试构造出人工神经元以组成人工神经网络系统来对人的智能，甚至是思维行为进行研究:尝试从理性角度阐明大脑的高级机能。经过几十年的努力与发展，己涌现出上百种人工神经网络模型，它们的网络结构、性能、算法及应用领域各异，但均是根据生物学事实衍生出来的。由于其基本处理单元是对生物神经元的近似仿真，因而被称之为人工神经元。它用于仿效生物神经细胞最基本的特性，与生物原型相对应。
人工神经元的主要结构单元是信号的输入、综合处理和输出，其输出信号的强度大小反映了该单元对相邻单元影响的强弱。人工神经元之间通过互相联接形成网络，称为人工神经网络。神经元之间相互联接的方式称为联接模式，相互之间的联接度由联接权值体现在人工神经网络中，改变信息处理过程及其能力，就是修改网络权值的过程。
目前多数人工神经网络的构造大体上都采用如下的一些原则:
1、由一定数量的基本单元分层联接构成;
2、每个单元的输入、输出信号以及综合处理内容都比较简单;
3、网络的学习和知识存储体现在各单元之间的联接强度上。
1-2人工神经元的模型
神经元是人工神经网络的基本处理单元，它一般是一个多输入/单输出的非线性元件。神经元输出除受输入信号的影响外，同时也受到神经元内部其它因素的影响，所以在人工神经元的建模中，常常还加有一个额外输入信号、称为偏差(bais)，有时也称为阈值或门限值。一个具有r 个输入分量的神经元如图2-2所示。其中，输入分量()r j p j ,...,2,1=通过与和它相乘的权值分量()r j w j ,..,2,1=相连，以∑=r
j j j p w 1的形式求和后，形成激活函数f()的输入。激活函数的另一个输入是神经元的偏差b,权值Wj 和输入分量的矩阵形式可以由W 的行矢量以及P 的列矢量来表示:
[]r w w w W ...21=
[]t
r p p p P ...21= （1.1） 1-3神经网络的联接形式
人脑中大量的神经细胞都不是孤立的，而是通过突触形式相互联系着，构成结构与功能十分复杂的神经网络系统。为了便于从结构出发模拟智能，因此必须将一定数量的神经元适当地联接成网络，从而形成多种神经网络模型。
通常所说的神经网络的结构，主要指它的联接方式。神经网络按照拓扑结构
属于以神经元为节点，以及节点间有向连接为边的一种图，其结构大体上可分为层状和网状两大类。
层状结构的神经网络是由若干层组成，每层中有一定数量的神经元，相邻层中神经元单向联接，一般地同层内的神经元不能联接，网状结构的神经网络中，任何两个神经元之间都可能双向联接。
二、人工神经网络模型
人工神经网络模型主要考虑网络连接的拓扑结构、神经元的特征、学习规则等。目前，已有近40种神经网络模型，其中有反传网络、感知器、自组织映射、Hopfield网络、波耳兹曼机、适应谐振理论等。
具体的模式识别是多种多样的，如果从识别的基本方法上划分，传统的模式识别大体分为统计模式识别和句法模式识别，在识别系统中引入神经网络是一种近年来发展起来的新的模式识别方法。尽管引入神经网络的方法和引入网络的结构可以各不相同，但都可称为神经网络模式识别。而且这些识别方法在解决传统方法较难处理的某些问题上带来了新的进展和突破，因而得到了人们越来越多的重视和研究。
人工神经元网络(Artificial Neural Network)简称神经网络，是基于日前人们对自然神经系统的认识而提出的一些神经系统的模型，一般是由一系列被称为神经元的具有某种简单计算功能的节点经过广泛连接构成的一定网络结构，而其网络连接的权值根据某种学习规则在外界输入的作用下不断调节，最后使网络具有某种期望的输出特性。神经网络的这种可以根据输入样本学习的功能使得它非常适合于用来解决模式识别问题，这也是神经网络目前最成功的应用领域之一。
神经网络模式识别的基本方法是，首先用己知样本训练神经网络，使之对不同类别的己知样本给出所希望的不同输出，然后用该网络识别未知的样本，根据各样本所对应的网络输出情况来划分未知样本的类别。神经网络进行模式识别的一般步骤如图2-1所示，分为如下几个部分。
预处理
样本获取常规处理特征变换神经网络识别
图 2-1 神经网络模式识别基本构成
1、样本获取
这一步骤主要是为了得到一定数量的用于训练和识别的样本。
2、常规处理
其作用相当于传统模式识别中的数据获取和常规处理两步的功能。即通过对识别对象的有效观测、进行采样量化，获得一系列数据，再经过去除噪声、加强有用信息等工作获得尽量逼真的原始数据。通过这一步骤，得到了样本的原始表达。
3、特征变换
在原始样本表达的基础上，进行适当的变换，得到适合神经网络进行识别的样本的特征表达。以上两步构成了神经网络模式识别中的预处理过程。
这一步骤与传统模式识别的特征提取选择的位置很相似，不同的是，神经网络可以对原始样本直接进行处理，因此这种变换在神经网络模式识别中不象传统模式识别的特征提取选择那样必不可少，神经网络对预处理的要求与传统模式识别对特征提取选择的要求也有所不同。
4、神经网络识别
根据识别对象和研究问题的不同，选用不同的网络结构并采用适当的学习算法，用已知样本作为训练集对神经网络进行训练，使其网络连接的权值不断调整，直到网络的输出特性与期望的相符合。
训练过程结束以后，网络相当于一个固定的映射器，新的输入样木(测试样本)通过网络映射到不同的类别。
神经网络能够应用于模式识别，关键在于它具有一般数学模型所不具有的诸多优点。
1、分布存储和容错性
一个信息不是存储在一个地方，而是按内容而分布在整个网络上，网络某一处不是只存储一个外部信息，而每个神经元存储多种信息的部分内容。网络的每部分对信息的存储有等势作用。这种分布式存储算法是存储区与运算区合为一体的。在神经网络中，要获得存储的知识则采用“联想”的办法，即当一个神经网络输入一个激励时，它要在己存的知识中寻找与该输入匹配最好的存储知识为其解。当然在信息输出时也还要经过一种处理。而不是直接从记忆中取出。这种存储方式的优点在于若部分信息不完全，就是说或者丢失或者损坏甚至有错误的信息，它仍能恢复出原来正确的完整的信息，系统仍能运行。这就是网络具有容错性和联想记忆功能，自然是表现出较强的鲁莽性。人的大脑的容错性是它的一种重要的智慧形式。
2、大规模并行处理
人工神经元网络在结构上是并行的，而且网络的各个单元可以同时进行类似的处理过程。因此，网络中的信息处理是在大量单元中平行而又有层次地进行，运算速度高，大大超过传统的序列式运算的数字机。虽然每个神经元的信息传递
(神经脉冲)速度是以毫秒计算的，比普通序列式计算机要慢很多，但是人通常能在1秒内即可作出对外界事物的判断和决策、这就是能神奇地完成所谓“百步”决策。这按照现有传统的计算机及人工智能技术目前还是做不到的。
3、自学习、自组织和自适应性
学习和适应要求在时间过程中系统内部结构和联系方式有改变，神经元网络是一种变结构系统，恰好能完成对环境的活应和对外界事物的学习能力。神经元之间的连接有多种多样，各神经元之间连接强度具有一定的可塑性，相当于突触传递信息能力的变化，这样，网络可以通过学习和训练进行自组织以适应不同信息处理的要求。
神经元网络是大量神经元的集体行为，并不是各单元行为的简单的相加，而表现出一般复杂非线性动态系统的特性。如不可预测性、不可逆性、有各种类型的吸引子(信息正是“存储”在定点吸引子)和出现混沌现象等。
正是由于神经网络具有这些特点，所以可以处理一些环境信息十分复杂、知识背景不清楚和推理规则不明确的问题。例如语音识别和识别、医学诊断以及市场估计等，都是具有复杂非线性和不确定性对象的控制。在那里，信源提供的模式丰富多彩，有的互相间存在矛盾，而判定决策原则又无条理可循。通过神经元网络学习(按照学习法则)，从典型事例中学会处理具体事例，给出比较满意的解答。
三、神经网络在数字识别中的应用
神经网络模型用于模拟人脑神经元活动的过程。其中包括对信息的加工、处理、存储和搜索等过程，它具有如下基本特点:
1、神经网络具有分布式存储信息的特点。它存储信息的方式与传统的计算机的思维方式是不同的，一个信息不是存在一个地方，而是分布在不同的位置。网络的某一部分也不只存储一个信息，它的信息是分布式存储的。神经网络是用大量神经元之间的连接及对各连接权值的分布来表示特定的信息。因此，这种分布式存储方式即使当局部网络受损时，仍具有能够恢复原来信息的优点。
2、神经网络对信息的处理及推理的过程具有并行的特点。每个神经元都可以根据接收到的信息作独立的运算和处理，然后将结果传输出去，这体现了一种并行处理。神经网络对于一个特定的输入模式，通过前向计算产生一个输出模式，各个输出节点代表的逻辑概念被同时计算出来。在输出模式中，通过输出节点的比较和本身信号的强弱而得到特定的解，同时排出其余的解。这体现了神经网络并行推理的特点。
3、神经网络对信息的处理具有自组织、自学习的特点。神经网络中各神经元之间的连接强度用权值大小来表示，这种权值可以事先定出，也可以为适应周
围环境而不断地变化，这种过程称为神经元的学习过程。神经网络所具有的自学习过程模拟了人的形象思维方法，这是与传统符号逻辑完全不同的一种非逻辑非语言的方法。
在神经网络研究的历史进程中，它在模式识别方面的应用一直是最活跃和最成功的领域。神经网络与它在模式识别中的应用是息息相关，密不可分的。几乎可以说，神经网络模式识别研究的发展史贯穿了整个神经网络的研究历程。
目前, 随着计算机的迅速发展，性能价格比的不断提高，模式识别技术己经从理论探讨为主发展到大量的实际应用，人们将更多的注意力开始转向那些用于语音，图像、机器人以及人工智能等的模式识别实际问题。解决这些问题的关键是需要进行复杂而庞大的实时数据处理，而现有计算机的存贮容量及计算复杂性的局限，使得真正实时化的应用受阻。
这种面向实时应用的模式识别问题促使人们开始将并行处理的神经网络应到模式识别，而神经网络模式识别技术又将模式识别实时应用推进了一大步，数字识别就是这种应用的一个很重要的领域。
数字识别是一项极具研究价值的课题，随着神经网络和模糊逻辑技术的发展，人们对这一问题的研究又采用了许多新的方法和手段，也使得这一古老的课题焕发出新的生命力.目前国际上有相当多的学者在研究这一课题，它包括了模式识别领域中所有典型的问题:数据的采集、处理及选择、输入样本表达的选择、模式识别分类器的选择以及用样本集对识别器的有指导的训练。人工神经网络为数字识别提供了新的手段。正是神经网络所具有的这种自组织自学习能力、推广能力、非线性和运算高度并行的能力使得模式识别成为目前神经网络最为成功的应用领域。
四、学习方法
学习是神经网络研究的一个重要内容，它的适应性是通过学习实现的。根据环境的变化，对权值进行调整，改善系统的行为。由Hebb提出的Hebb学习规则为神经网络的学习算法奠定了基础。Hebb规则认为学习过程最终发生在神经元之间的突触部位，突触的联系强度随着突触前后神经元的活动而变化。在此基础上，人们提出了各种学习规则和算法，以适应不同网络模型的需要。有效的学习算法，使得神
经网络能够通过连接权值的调整，构造客观世界的内在表示，形成具有特色的信息处理方法，信息存储和处理体现在网络的连接中。
根据学习环境不同，神经网络的学习方式可分为监督学习和非监督学习。在监督学习中，将训练样本的数据加到网络输入端，同时将相应的期望输出与网络输出相比较，得到误差信号，以此控制权值连接强度的调整，经多次训练后收敛到一个确定的权值。当样本情况发生变化时，经学习可以修改权值以适应新的环
境。使用监督学习的神经网络模型有反传网络、感知器等。非监督学习时，事先不给定标准样本，直接将网络置于环境之中，学习阶段与工作阶段成为一体。此时，学习规律的变化服从连接权值的演变方程。非监督学习最简单的例子是Hebb 学习规则。竞争学习规则是一个更复杂的非监督学习的例子，它是根据已建立的聚类进行权值调整。自组织映射、适应谐振理论网络等都是与竞争学习有关的典型模型。
五、结论
人工神经网络特有的非线性适应性信息处理能力，克服了传统人工智能方法对于直觉，如模式、语音识别、非结构化信息处理方面的缺陷，使之在神经专家系统、模式识别、智能控制、组合优化、预测等领域得到成功应用。人工神经网络与其它传统方法相结合，将推动人工智能和信息处理技术不断发展。近年来，人工神经网络正向模拟人类认知的道路上更加深入发展，与模糊系统、遗传算法、进化机制等结合，形成计算智能，成为人工智能的一个重要方向，将在实际应用中得到发展。将信息几何应用于人工神经网络的研究，为人工神经网络的理论研究开辟了新的途径。神经计算机的研究发展很快，已有产品进入市场。光电结合的神经计算机为人工神经网络的发展提供了良好条件。
参考文献：
[1] 高隽.人工神经网络原理及其仿真实例机械工业出版社 2007.2
[2] 边肇祺，张学工.模式识别.清华大学出版社，2006.1
[3] 徐丽娜.神经网络控制.哈尔滨：哈尔滨工业大学出版社，2008.3
xx学校 2012—2013学年度第二学期期末试卷 考试课程：《人工智能》考核类型：考试A卷 考试形式：开卷出卷教师： 考试专业：考试班级： 一单项选择题（每小题2分，共10分） 1.首次提出“人工智能”是在（D ）年 A.1946 B.1960 C.1916 D.1956 2. 人工智能应用研究的两个最重要最广泛领域为：B A.专家系统、自动规划 B. 专家系统、机器学习 C. 机器学习、智能控制 D. 机器学习、自然语言理解 3. 下列不是知识表示法的是 A 。 A：计算机表示法B：“与/或”图表示法 C：状态空间表示法D：产生式规则表示法 4. 下列关于不确定性知识描述错误的是 C 。 A：不确定性知识是不可以精确表示的 B：专家知识通常属于不确定性知识 C：不确定性知识是经过处理过的知识 D：不确定性知识的事实与结论的关系不是简单的“是”或“不是”。 5. 下图是一个迷宫，S0是入口，S g是出口，把入口作为初始节点，出口作为目标节点，通道作为分支，画出从入口S0出发，寻找出口Sg的状态树。根据深度优先搜索方法搜索的路径是 C 。 A：s0-s4-s5-s6-s9-sg B：s0-s4-s1-s2-s3-s6-s9-sg C：s0-s4-s1-s2-s3-s5-s6-s8-s9-sg D：s0-s4-s7-s5-s6-s9-sg 二填空题（每空2分，共20分） 1.目前人工智能的主要学派有三家：符号主义、进化主义和连接主义。 2. 问题的状态空间包含三种说明的集合，初始状态集合S 、操作符集合F以及目标
状态集合G 。 3、启发式搜索中，利用一些线索来帮助足迹选择搜索方向，这些线索称为启发式(Heuristic)信息。 4、计算智能是人工智能研究的新内容，涉及神经计算、模糊计算和进化计算等。 5、不确定性推理主要有两种不确定性，即关于结论的不确定性和关于证据的不确 定性。 三名称解释（每词4分，共20分） 人工智能专家系统遗传算法机器学习数据挖掘 答：（1）人工智能 人工智能(Artificial Intelligence) ，英文缩写为AI。它是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。人工智能是计算机科学的一个分支，它企图了解智能的实质，并生产出一种新的能以人类智能相似的方式做出反应的智能机器，该领域的研究包括机器人、语言识别、图像识别、自然语言处理和专家系统等 （2）专家系统 专家系统是一个含有大量的某个领域专家水平的知识与经验智能计算机程序系统,能够利用人类专家的知识和解决问题的方法来处理该领域问题.简而言之,专家系统是一种模拟人类专家解决领域问题的计算机程序系统 （3）遗传算法 遗传算法是一种以“电子束搜索”特点抑制搜索空间的计算量爆炸的搜索方法，它能以解空间的多点充分搜索，运用基因算法，反复交叉，以突变方式的操作，模拟事物内部多样性和对环境变化的高度适应性，其特点是操作性强，并能同时避免陷入局部极小点，使问题快速地全局收敛，是一类能将多个信息全局利用的自律分散系统。运用遗传算法(GA)等进化方法制成的可进化硬件(EHW)，可产生超出现有模型的技术综合及设计者能力的新颖电路，特别是GA独特的全局优化性能，使其自学习、自适应、自组织、自进化能力获得更充分的发挥，为在无人空间场所进行自动综合、扩展大规模并行处理(MPP)以及实时、灵活地配置、调用基于EPGA的函数级EHW，解决多维空间中不确定性的复杂问题开通了航向 （4）机器学习 机器学习(Machine Learning)是一门多领域交叉学科，涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。专门研究计算机怎样模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的知识结构使之不断改善自身的性能。它是人工智能的核心，是使计算机具有智能的根本途径，其应用遍及人工智能的各个领域，它主要使用归纳、综合而不是演绎 （5）数据挖掘 数据挖掘是指从数据集合中自动抽取隐藏在数据中的那些有用信息的非平凡过程，这些信息的表现形式为：规则、概念、规律及模式等。它可帮助决策者分析历史数据及当前数据，并从中发现隐藏的关系和模式，进而预测未来可能发生的行为。数据挖掘的
第五章 神经网络课后习题及答案 一、选择题： 1. 在BP算法中，设y=f(xi)为xi的平滑函数，想知道xi对y增大变化的情况， 我们可求 ，然后进行下列的哪一项？ （ B ） A 取最小 B 取最大 C 取积分 D 取平均值 2. 对于反向传播学习，无论是在识别单个概念的学习或识别两个概念的学习中，都涉及到下列的哪一个操作？ （ A ） A 权值的修正 B 调整语义结构 C 调整阀值 D 重构人工神经元 3. 根据Hopfield网络学习的特点，能实现联想记忆和执行线性和非线性规划等求解问题其应用没有涉及到下列的哪一个内容？ （ D ） A 模糊推理模型 B 非线性辨认 C 自适应控制模型 D 图象识别 4. 对于神经网络的二级推理产生式规则由三个层次构成，它不含下列的哪一个层次？ （ C ） A 输入层 B 输出层 C 中间层 D 隐层 5. 人工神经网络借用了生理神经元功能的一些描述方式，它涉及到下列的哪一些内容？ （ ABC ） A 模拟神经元 B 处理单元为节点 C 加权有向图 D 生理神经元连接而成
6. 在应用和研究中采用的神经网络模型有许多种，下列的哪一些是具有代表性的？ （ ABD ） A 反向传递（BP） B Hopfield网 C 自适应共振 D 双向联想存储器 7. 下列的哪一些内容与反向传播学习算法有关？ （ ABCD ） A 选取比率参数 B 误差是否满足要求 C 计算权值梯度 D 权值学习修正 8. 构造初始网络后，要用某种学习算法调整它的权值矩阵，使NN在功能上满足样例集给定的输入一输出对应关系，并由此产生推理，该矩阵必须满足下列的哪一个性质？ ( A ) A 收敛性 B 对称性 C 满秩性 D 稀疏性 9. 在人工神经元的功能描述中，往往会用一激发函数来表示输出，常用的一般非线性函数有下列的哪一些项？ ( ABD ) A 阀值型 B 分段线性强饱和型 C 离散型 D S i gm oid型 10. 基于神经网络的推理，其应用中必须涉及到下列的哪一些内容？ ( ACD ) A NN的结构模型 B NN的推理规则 C NN的学习算法 D 从NN到可解释的推理网 二、填空题： 1. 前馈网络是一种具有很强学习能力的系统，结构简单，易于编程。前馈网络通
第四章计算智能（1）：神经计算模糊计算4-1 计算智能的含义是什么？它涉及哪些研究分支？ 贝兹德克认为计算智能取决于制造者提供的数值数据，而不依赖于知识。计算智能是智力的低层认知。 主要的研究领域为神经计算，模糊计算，进化计算，人工生命。 4-2 试述计算智能（CI）、人工智能（AI）和生物智能（BI）的关系。 计算智能是智力的低层认知，主要取决于数值数据而不依赖于知识。人工智能是在计算智能的基础上引入知识而产生的智力中层认知。生物智能，尤其是人类智能，则是最高层的智能。即CI包含AI包含BI 4-3 人工神经网络为什么具有诱人的发展前景和潜在的广泛应用领域？ 人工神经网络具有如下至关重要的特性： (1) 并行分布处理 适于实时和动态处理 (2)非线性映射 给处理非线性问题带来新的希望 (3) 通过训练进行学习 一个经过适当训练的神经网络具有归纳全部数据的能力，能够解决那些由数学模型或描述规则难以处理的问题 (4) 适应与集成 神经网络的强适应和信息融合能力使得它可以同时输入大量不同的控制信号，实现信息集成和融合，适于复杂，大规模和多变量系统 (5) 硬件实现 一些超大规模集成是电路实现硬件已经问世，使得神经网络成为具有快速和大规模处理能力的网络。 4-4 简述生物神经元及人工神经网络的结构和主要学习算法。
生物神经元 大多数神经元由一个细胞体(cell body或soma)和突(process)两部分组成。突分两类，即轴突(axon)和树突(dendrite)，轴突是个突出部分，长度可达1m，把本神经元的输出发送至其它相连接的神经元。树突也是突出部分，但一般较短，且分枝很多，与其它神经元的轴突相连，以接收来自其它神经元的生物信号。 轴突的末端与树突进行信号传递的界面称为突触(synapse)，通过突触向其它神经元发送信息。对某些突触的刺激促使神经元触发(fire)。只有神经元所有输入的总效应达到阈值电平，它才能开始工作。此时，神经元就产生一个全强度的输出窄脉冲，从细胞体经轴突进入轴突分枝。这时的神经元就称为被触发。突触把经过一个神经元轴突的脉冲转化为下一个神经元的兴奋或抑制。学习就发生在突触附近。 每个人脑大约含有10^11-10^12个神经元，每一神经元又约有10^3-10^4个突触。神经元通过突触形成的网络，传递神经元间的兴奋与抑制。大脑的全部神经元构成极其复杂的拓扑网络群体，用于实现记忆与思维。 人工神经网络的结构 人工神经网络由神经元模型构成。每个神经元具有单一输出，并且能够与其它神经元连接，存在许多输出连接方法，每种连接方法对应于一个连接权系数。 人工神经网络的结构分为2类， (1)递归(反馈)网络 有些神经元的输出被反馈至同层或前层神经元。信号能够从正向和反向流通。Hopfield网络，Elmman网络和Jordan网络是代表。 (2) 前馈网络 具有递阶分层结构，由一些同层神经元间不存在互连的层级组成。从输入层至输出层的信号通过单向连接流通，神经元从一层连接至下一层，不存在同层神经元之间的连接。多层感知器(MLP)，学习矢量量化网络(LVQ)，小脑模型连接控制网络(CMAC)和数据处理方法网络(GMDH)是代表。 人工神经网络的主要学习算法 (1) 指导式(有师)学习 根据期望和实际的网络输出之间的差来调整神经元连接的强度或权。包括Delta规则，广义Delta规则，反向传播算法及LVQ算法。 (2) 非指导(无导师)学习 训练过程中，神经网络能自动地适应连接权，以便按相似特征把输入模式分组聚集。包括
《神经网络》试题 （2004年5月9日） 张翼王利伟 一、填空 1.人工神经元网络（ANN）是由大量神经元通过极其丰富和完善 的连接而构成的自适应非线形动力学系统。 2.神经元（即神经细胞）是由细胞体、树突、轴突和突触四 部分构成。 3.大量神经元相互连接组成的ANN将显示出人脑的分布存储和容 错性、大规模并行处理、自学习、自组织和自适应性、复杂的非线形动态系统、处理复杂、不确定问题。 4.ANN发展大体可为早期阶段、过度期、新高潮、热潮。 5.神经元的动作特征主要包括空间性相加，时间性相加，阈值 作用，不应期，疲劳和可塑性。 6.神经元与输入信号结合的两种有代表的结合方式是粗结合和 密结合。 7.1943年由美国心理学家McCulloch和数学家Pitts提出的形式神经 元数学模型简称为MP 模型，它规定了神经元之间的联系方式只 有兴奋、抑制联系两种。 8.目前，神经网络模型按照网络的结构可分为前馈型和反馈型， 按照学习方式可分为有导师和无导师学习。 9.神经网络工作过程主要由学习期和工作期两个阶段组成。 10.反馈网络历经状态转移，直到它可能找到一个平衡状态，这个平
衡状态称为 吸引子 。 二、问答题 1．简述Hebb 学习规则。 Hebb 学习规则假定：当两个细胞同时兴奋时，它们之间的连接强度应该增强，这条规则与“条件反射”学说一致。 在ANN 中Hebb 算法最简单可描述为：如果一个处理单元从另一处理单元接受输入激励信号，而且如果两者都处于高激励电平，那么处理单元间加权就应当增强。用数学来表示，就是两节点的连接权将根据两节点的激励电平的乘积来改变，即 ()()i i n ij n ij ij x y ηωωω=-=?+1 其中()n ij ω表示第（n+1）是第（n+1）次调节后，从节点j 到节点i 的连接权值；η为学习速率参数；x j 为节点j 的输出，并输入到节点i ；i y 为节点i 的输出。 2、简述自组织特征映射网络的算法。 自组织特征映射网络的算法分以下几步： （1） 权连接初始化 就是说开始时，对所有从输入节点到输出节点的连接权值都赋以随机的小数。时间设置t=0。 （2） 网络输入模式为 ),,,(21n b x x x =X （3） 对X k 计算X k 与全部输出节点所连接权向量T j W 的距离
X X X X大学 研究生考查课 作业 课程名称：智能控制理论与技术 研究生姓名：学号： 作业成绩： 任课教师(签名) 交作业日时间：2010年12月22日
人工神经网络(artificial neural network，简称ANN)是在对大脑的生理研究的基础上，用模拟生物神经元的某些基本功能元件(即人工神经元)，按各种不同的联结方式组成的一个网络。模拟大脑的某些机制，实现某个方面的功能，可以用在模仿视觉、函数逼近、模式识别、分类和数据压缩等领域，是近年来人工智能计算的一个重要学科分支。 人工神经网络用相互联结的计算单元网络来描述体系。输人与输出的关系由联结权重和计算单元来反映，每个计算单元综合加权输人，通过激活函数作用产生输出，主要的激活函数是Sigmoid函数。ANN有中间单元的多层前向和反馈网络。从一系列给定数据得到模型化结果是ANN的一个重要特点，而模型化是选择网络权重实现的，因此选用合适的学习训练样本、优化网络结构、采用适当的学习训练方法就能得到包含学习训练样本范围的输人和输出的关系。如果用于学习训练的样本不能充分反映体系的特性，用ANN也不能很好描述与预测体系。显然，选用合适的学习训练样本、优化网络结构、采用适当的学习训练方法是ANN的重要研究内容之一，而寻求应用合适的激活函数也是ANN研究发展的重要内容。由于人工神经网络具有很强的非线性多变量数据的能力，已经在多组分非线性标定与预报中展现出诱人的前景。人工神经网络在工程领域中的应用前景越来越宽广。 1人工神经网络基本理论[1] 1.1神经生物学基础 可以简略地认为生物神经系统是以神经元为信号处理单元,通过广泛的突触联系形成的信息处理集团,其物质结构基础和功能单元是脑神经细胞即神经元(neu ron)。(1)神经元具有信号的输入、整合、输出三种主要功能作用行为。突触是整个神经系统各单元间信号传递驿站,它构成各神经元之间广泛的联接。(3)大脑皮质的神经元联接模式是生物体的遗传性与突触联接强度可塑性相互作用的产物,其变化是先天遗传信息确定的总框架下有限的自组织过程。 1.2建模方法 神经元的数量早在胎儿时期就已固定,后天的脑生长主要是指树突和轴突从神经细胞体中长出并形成突触联系,这就是一般人工神经网络建模方法的生物学依据。人脑建模一般可有两种方法:①神经生物学模型方法,即根据微观神经生物学知识的积累,把脑神经系统的结构及机理逐步解释清楚,在此基础上建立脑功能模型。②神经计算模型方法,即首先建立粗略近似的数学模型并研究该模型的动力学特性,然后再与真实对象作比较(仿真处理方法)。 1.3概念 人工神经网络用物理可实现系统来模仿人脑神经系统的结构和功能,是一门新兴的前沿交叉学科,其概念以T.Kohonen.Pr的论述最具代表性:人工神经网络就是由简单的处理单元(通常为适应性)组成的并行互联网络,它的组织能够模拟生物神经系统对真实世界物体所作出的交互反应。 1.4应用领域 人工神经网络在复杂类模式识别、运动控制、感知觉模拟方面有着不可替代的作用。概括地说人工神经网络主要应用于解决下述几类问题:模式信息处理和模式识别、最优化问题、信息的智能化处理、复杂控制、信号处理、数学逼近映射、感知觉模拟、概率密度函数估计、化学谱图分析、联想记忆及数据恢复等。 1.5理论局限性 (1)受限于脑科学的已有研究成果由于生理试验的困难性,目前对于人脑思维与记忆机制的认识尚很肤浅,对脑神经网的运行和神经细胞的内部处理机制还没有太多的认识。 (2)尚未建立起完整成熟的理论体系目前已提出的众多人工神经网络模型,归纳起来一般都是一个由节点及其互连构成的有向拓扑网,节点间互连强度构成的矩阵可通过某种学
1 / 1 《人工神经网络原理与应用》试题 试论述神经网络的典型结构，常用的作用函数以及各类神经网络的基本作用，举例说明拟定结论。 试论述BP 算法的基本思想，讨论BP 基本算法的优缺点，以及改进算法的思路和方法。以BP 网络求解XOR 问题为例，说明BP 网络隐含层单元个数与收敛速度，计算时间之间的关系。要求给出计算结果的比较表格，以及相应的计算程序（.m 或者.c ）试论述神经网络系统建模的几种基本方法。利用BP 网络对以下非线性系统进行辨识。 非线性系统 )(5.1) 1()(1)1()()1(22k u k y k y k y k y k y +-++-=+ 首先利用[-1,1]区间的随机信号u(k)，样本点500，输入到上述系统，产生y(k), 用于训练BP 网络；网络测试，利用u(k)=sin(2*pi*k/10)+1/5*sin(2*pi*k/100),测试点300～500，输入到上述系统，产生y(k),检验BP 网络建模效果要求给出程序流程，matlab 程序否则c 程序，训练样本输入输出图形，检验结果的输入输出曲线。 试列举神经网络PID 控制器的几种基本形式，给出相应的原理框图。 试论述连续Hopfield 网络的工作原理，讨论网络状态变化稳定的条件。 谈谈学习神经网络课程后的心得体会，你准备如何在你的硕士（博士）课题中应用神经网络理论和知识解决问题（给出一到两个例）。《人工神经网络原理与应用》试题 试论述神经网络的典型结构，常用的作用函数以及各类神经网络的基本作用，举例说明拟定结论。 试论述BP 算法的基本思想，讨论BP 基本算法的优缺点，以及改进算法的思路和方法。以BP 网络求解XOR 问题为例，说明BP 网络隐含层单元个数与收敛速度，计算时间之间的关系。要求给出计算结果的比较表格，以及相应的计算程序（.m 或者.c ）试论述神经网络系统建模的几种基本方法。利用BP 网络对以下非线性系统进行辨识。 非线性系统 )(5.1) 1()(1)1()()1(22k u k y k y k y k y k y +-++-=+ 首先利用[-1,1]区间的随机信号u(k), 样本点500，输入到上述系统，产生y(k), 用于训练BP 网络；网络测试，利用u(k)=sin(2*pi*k/10)+1/5*sin(2*pi*k/100),测试点300～500，输入到上述系统，产生y(k),检验BP 网络建模效果要求给出程序流程，matlab 程序否则c 程序，训练样本输入输出图形，检验结果的输入输出曲线。 试列举神经网络PID 控制器的几种基本形式，给出相应的原理框图。 试论述连续Hopfield 网络的工作原理，讨论网络状态变化稳定的条件。 谈谈学习神经网络课程后的心得体会，你准备如何在你的硕士（博士）课题中应用神经网络理论和知识解决问题（给出一到两个例）。
《神经网络原理》 一、填空题 1、从系统的观点讲，人工神经元网络是由大量神经元通过极其丰富和完善的连接而构成的自适应、非线性、动力学系统。 2、神经网络的基本特性有拓扑性、学习性和稳定收敛性。 3、神经网络按结构可分为前馈网络和反馈网络，按性能可分为离散型和连续型，按学习方式可分为有导师和无导师。 4、神经网络研究的发展大致经过了四个阶段。 5、网络稳定性指从t=0时刻初态开始，到t时刻后v(t+△t)=v(t)，(t>0)，称网络稳定。 6、联想的形式有两种，它们分是自联想和异联想。 7、存储容量指网络稳定点的个数，提高存储容量的途径一是改进网络的拓扑结构，二是改进学习方法。 8、非稳定吸引子有两种状态，一是有限环状态，二是混沌状态。 9、神经元分兴奋性神经元和抑制性神经元。 10、汉明距离指两个向量中对应元素不同的个数。 二、简答题 1、人工神经元网络的特点？ 答：（1）、信息分布存储和容错性。 （2）、大规模并行协同处理。 （3）、自学习、自组织和自适应。 （4）、人工神经元网络是大量的神经元的集体行为，表现为复杂
的非线性动力学特性。 （5）人式神经元网络具有不适合高精度计算、学习算法和网络设计没有统一标准等局限性。 2、单个神经元的动作特征有哪些？ 答：单个神经元的动作特征有：（1）、空间相加性；（2）、时间相加性；（3）、阈值作用；（4）、不应期；（5）、可塑性；（6）疲劳。 3、怎样描述动力学系统？ 答：对于离散时间系统，用一组一阶差分方程来描述： X(t+1)=F[X(t)]； 对于连续时间系统，用一阶微分方程来描述： dU(t)/dt=F[U(t)]。 4、F(x)与x 的关系如下图，试述它们分别有几个平衡状态，是否为稳定的平衡状态？ 答：在图（1）中，有两个平衡状态a 、b ，其中，在a 点曲线斜率|F ’(X)|>1，为非稳定平稳状态；在b 点曲线斜率|F ’(X)|<1，为稳定平稳状态。 在图（2）中，有一个平稳状态a ，且在该点曲线斜率|F ’(X)|>1，为非稳定平稳状态。
3.5单层感知器 # include
} 3.6单次训练的结果 # include
X X X X 大学 研究生考查课 作业 课程名称：智能控制理论与技术 研究生姓名：学号： 作业成绩： 任课教师(签名) 交作业日时间：2010 年12 月22 日
人工神经网络(artificial neural network，简称ANN)是在对大脑的生理研究的基础上，用模拟生物神经元的某些基本功能元件(即人工神经元)，按各种不同的联结方式组成的一个网络。模拟大脑的某些机制，实现某个方面的功能，可以用在模仿视觉、函数逼近、模式识别、分类和数据压缩等领域，是近年来人工智能计算的一个重要学科分支。 人工神经网络用相互联结的计算单元网络来描述体系。输人与输出的关系由联结权重和计算单元来反映，每个计算单元综合加权输人，通过激活函数作用产生输出，主要的激活函数是Sigmoid函数。ANN有中间单元的多层前向和反馈网络。从一系列给定数据得到模型化结果是ANN的一个重要特点，而模型化是选择网络权重实现的，因此选用合适的学习训练样本、优化网络结构、采用适当的学习训练方法就能得到包含学习训练样本范围的输人和输出的关系。如果用于学习训练的样本不能充分反映体系的特性，用ANN也不能很好描述与预测体系。显然，选用合适的学习训练样本、优化网络结构、采用适当的学习训练方法是ANN的重要研究内容之一，而寻求应用合适的激活函数也是ANN研究发展的重要内容。由于人工神经网络具有很强的非线性多变量数据的能力，已经在多组分非线性标定与预报中展现出诱人的前景。人工神经网络在工程领域中的应用前景越来越宽广。 1人工神经网络基本理论[1] 1. 1神经生物学基础 可以简略地认为生物神经系统是以神经元为信号处理单元, 通过广泛的突触联系形成的信息处理集团, 其物质结构基础和功能单元是脑神经细胞即神经元(neu ron)。(1) 神经元具有信号的输入、整合、输出三种主要功能作用行为。突触是整个神经系统各单元间信号传递驿站, 它构成各神经元之间广泛的联接。(3) 大脑皮质的神经元联接模式是生物体的遗传性与突触联接强度可塑性相互作用的产物, 其变化是先天遗传信息确定的总框架下有限的自组织过程。 1. 2建模方法 神经元的数量早在胎儿时期就已固定,后天的脑生长主要是指树突和轴突从神经细胞体中长出并形成突触联系, 这就是一般人工神经网络建模方法的生物学依据。人脑建模一般可有两种方法: ①神经生物学模型方法, 即根据微观神经生物学知识的积累, 把脑神经系统的结构及机理逐步解释清楚, 在此基础上建立脑功能模型。②神经计算模型方法, 即首先建立粗略近似的数学模型并研究该模型的动力学特性, 然后再与真实对象作比较(仿真处理方法)。 1. 3概念 人工神经网络用物理可实现系统来模仿人脑神经系统的结构和功能, 是一门新兴的前沿交叉学科, 其概念以T.Kohonen. Pr 的论述最具代表性: 人工神经网络就是由简单的处理单元(通常为适应性) 组成的并行互联网络, 它的组织能够模拟生物神经系统对真实世界物体所作出的交互反应。 1. 4应用领域 人工神经网络在复杂类模式识别、运动控制、感知觉模拟方面有着不可替代的作用。概括地说人工神经网络主要应用于解决下述几类问题: 模式信息处理和模式识别、最优化问题、信息的智能化处理、复杂控制、信号处理、数学逼近映射、感知觉模拟、概率密度函数估计、化学谱图分析、联想记忆及数据恢复等。 1. 5理论局限性 (1) 受限于脑科学的已有研究成果由于生理试验的困难性, 目前对于人脑思维与记忆机制的认识尚很肤浅, 对脑神经网的运行和神经细胞的内部处理机制还没有太多的认识。 (2) 尚未建立起完整成熟的理论体系目前已提出的众多人工神经网络模型,归纳起来一般都是一个由节点及其互连构成的有向拓扑网, 节点间互连强度构成的矩阵可通过某种学
神经网络原理及其应用——基于BP 人工神经网络的图像分割器 学校：东北大学 班级：电子信息工程0901班 姓名：吴戈林 学号：20092676 指导老师：王斐 时间：2012年12月
目录 人工神经网络 (3) 一、特点与优势 (3) 二、人工神经网络的主要研究方向 (4) 三、人工神经网络的应用分析 (4) 四、人工神经网络在图像分割中的应用 (6) 1.问题概述 (7) 2.基于BP 人工神经网络的图像分割器 (8) 2.1神经网络结构的确定 (8) 2. 2 神经网络结构的改进 (9) 2. 3 BP 神经网络的图像分割基本训练 (9) 2. 4 BP 神经网络的针对性训练 (10) 3.网络应用 (10) 4.结论 (11) 五、课程收获与感想 (11) 六、参考文献 (12)
人工神经网络 人工神经网络（Artificial Neural Networks，简写为ANNs）也简称为神经网络（NNs）或称作连接模型（Connectionist Model），是对人脑或自然神经网络（Natural Neural Network）若干基本特性的抽象和模拟。人工神经网络以对大脑的生理研究成果为基础的，其目的在于模拟大脑的某些机理与机制，实现某个方面的功能。国际著名的神经网络研究专家，第一家神经计算机公司的创立者与领导人Hecht Nielsen给人工神经网络下的定义就是：“人工神经网络是由人工建立的以有向图为拓扑结构的动态系统，它通过对连续或断续的输入作状态相应而进行信息处理。”这一定义是恰当的。人工神经网络的研究，可以追溯到1957年Rosenblatt提出的感知器模型(Perceptron) 。它几乎与人工智能——AI（Artificial Intelligence）同时起步，但30余年来却并未取得人工智能那样巨大的成功，中间经历了一段长时间的萧条。直到80年代，获得了关于人工神经网络切实可行的算法，以及以Von Neumann体系为依托的传统算法在知识处理方面日益显露出其力不从心后，人们才重新对人工神经网络发生了兴趣，导致神经网络的复兴。目前在神经网络研究方法上已形成多个流派，最富有成果的研究工作包括：多层网络BP算法，Hopfield网络模型，自适应共振理论，自组织特征映射理论等。人工神经网络是在现代神经科学的基础上提出来的。它虽然反映了人脑功能的基本特征，但远不是自然神经网络的逼真描写，而只是它的某种简化抽象和模拟。 一、特点与优势 人工神经网络的以下几个突出的优点使它近年来引起人们的极大关注： (1)可以充分逼近任意复杂的非线性关系； (2)所有定量或定性的信息都等势分布贮存于网络内的各神经元，故有很强的鲁棒性和容错性； (3)采用并行分布处理方法，使得快速进行大量运算成为可能； (4)可学习和自适应不知道或不确定的系统； (5)能够同时处理定量、定性知识。 人工神经网络的优越性，主要表现在三个方面： 第一，具有自学习功能。例如实现图像识别时，只在先把许多不同的图像样板和对应的应识别的结果输入人工神经网络，网络就会通过自学习功能，慢慢学会识别类似的图像。自学习功能对于预测有特别重要的意义。预期未来的人工神经网络计算机将为人类提供经济预测、市场预测、效益预测，其应用前途是很远大的。 第二，具有联想存储功能。用人工神经网络的反馈网络就可以实现这种联想。 第三，具有高速寻找优化解的能力。寻找一个复杂问题的优化解，往往需要很大的计算量，利用一个针对某问题而设计的反馈型人工神经网络，发挥计算机的高速运算能力，可能很快找到优化解。
西安建筑科技大学研究生课程考试试卷 考试科目：人工神经网络课程编码：071032 任课教师：谷立臣考试时间：2014.4.30 学号：1307841390 学生姓名：李宇峰
SOM神经网络在滚动轴承振动诊断中的应用 摘要：SOM网络是一种重要的无导师学习训练算法的神经网络，使用该算法进行训练后，可以将高维输入空间映射到二维空间上，并对故障现象进行自动分类，从而得出它们对应的故障原因。本文归纳和总结了SOM神经网络多参数诊断法的实施步骤，阐述了轴承故障与振动信号之间的关系以及神经网络的工作原理和实现过程，通过实验研究，提取了反映滚动轴承故障类型的振动信号的特征参数，以构建训练神经网络的特征向量，利用MA TLAB人工神经网络工具箱模拟和仿真SOM神经网络，然后用训练后的SOM神经网络对故障模式进行识别。 关键词：振动；滚动轴承；故障诊断；SOM神经网络 1故障轴承振动与信号的关系 故障滚动轴承在受载运转时，当缺陷部位与工作表面接触，都将产生一次冲击力。这种冲击力将激起轴承系统的振动，并通过适当的振动传递通道，以振动和声音的形式传出。信号传递过程，如图1所示。滚动轴承工作时，由传感器拾取的振动信号成分比较复杂，损伤引起的固有衰减振动只是其中的组成部分。当损伤微小时，往往被其他信号淹没而难以被发现。信号处理的目的就是突出这些损伤特征成分。 图1轴承振动信号传递过程 2 SOM神经网络的结构和学习算法 2.1神经网络结构 自组织特征映射神经网络是芬兰神经网络专家Kohnen于1981年提出的，网络结构由输入层和输出层组成。输入层为单层神经元排列，其作用是通过权向量将外界信息转到输出层神经元。输出层也叫竞争层，输出层的神经元同它周围的神经元侧向连接，成棋盘状平面。其神经元排列有多种形式，其最典型的是二维形式。在初始状态下，这些二维的处理单元阵列上没有这些信号特征的分布拓扑图。利用SOM模型的这一特性，可以从外界环境中按照某种测度或者是某种可有序化的拓扑空间来抽取特征或者是表达信号的、概念性的元素。自组织特征映射神经网络模型结构如图2所示。
一、选择题(每题1分，共15分) 1、AI的英文缩写是 A)Automatic Intelligence B)Artifical Intelligence C)Automatice Information D)Artifical Information 2、反演归结（消解）证明定理时，若当前归结式是（）时，则定理得证。 A)永真式B)包孕式（subsumed）C)空子句 3、从已知事实出发，通过规则库求得结论的产生式系统的推理方式是 A)正向推理B)反向推理C)双向推理 4、语义网络表达知识时，有向弧AKO 链、ISA 链是用来表达节点知识的（）。 A)无悖性B)可扩充性C)继承性 5、(A→B)∧A => B是 A)附加律B)拒收律C)假言推理D)US 6、命题是可以判断真假的 A)祈使句B)疑问句C)感叹句D)陈述句 7、仅个体变元被量化的谓词称为 A)一阶谓词B)原子公式C)二阶谓词D)全称量词 8、MGU是 A)最一般合一B)最一般替换C)最一般谓词D)基替换 9、1997年５月，著名的“人机大战”，最终计算机以3.5比2.5的总比分将世界国际象棋棋王卡斯帕罗夫击败，这台计算机被称为（） A）深蓝B）IBM C）深思D）蓝天 10、下列不在人工智能系统的知识包含的4个要素中 A)事实B)规则C)控制和元知识D)关系 11、谓词逻辑下，子句, C1=L∨C1‘, C2= ? L∨C2‘,若σ是互补文字的（最一般）合一置换，则其归结式C=（） A) C1’σ∨C2’σB)C1’∨C2’C)C1’σ∧C2’σD)C1’∧C2’ 12、或图通常称为 A）框架网络B)语义图C)博亦图D)状态图 13、不属于人工智能的学派是 A)符号主义B)机会主义C)行为主义D)连接主义。 14、人工智能的含义最早由一位科学家于1950年提出，并且同时提出一个机器智能的测试模型，请问这个科学家是 A)明斯基B).扎德C)图林D)冯.诺依曼 15.要想让机器具有智能，必须让机器具有知识。因此，在人工智能中有一个研究领域，主要研究计算机如何自动获取知识和技能，实现自我完善，这门研究分支学科叫（）。 A)专家系统B)机器学习C)神经网络D)模式识别 二、填空题(每空1.5分，共30分) 1、不确定性类型按性质分：，， ，。 2、在删除策略归结的过程中删除以下子句：含有的子句;含 有的子句;子句集中被别的子句的子句。 3、对证据的可信度CF（A）、CF（A1）、CF（A2）之间，规定如下关系： CF（~A）=、CF（A1∧A2 ）=、 CF（A1∨A2 ）= 4、图：指由和组成的网络。按连接同一节点的各边的逻辑关系又可分为和。 5、合一算法：求非空有限具有相同谓词名的原子公式集的 6、产生式系统的推理过程中，从可触发规则中选择一个规则来执行，被执行的规则称为。
神经网络的基本特征及其在战斗识别领域的应用前景简介 —神经网络原理及应用报告 课程名称：神经网络原理及应用 课程编号： 指导教师： 学院： 班级： 姓名： 学号： 日期：
神经网络的基本特征及其在战斗识别领域的应用前景简介 摘要：在未来的军事对抗上，对军事打击的物理距离越来越大，对打击的反应时间的要求越来越短，对打击的精度要求越来越高。在这种情况下，迅速且精确的敌我识别系统显得尤其重要。传统的战斗识别方式早已遇到了瓶颈，而神经网络因为它在信息、信号处理、模式识别方面有些独到之处，近年来受到各国军界的普遍重视。 关键词：军事,战斗识别,模式识别,敌我识别,神经网络 1 引言 众多科学家预言，21世纪将是“生物”世纪。这说明生物学的研究和应用已进入了空前繁荣的时代。神经网络系统理论就是近十多年来受其影响而得到飞速发展的一个世界科学研究的前沿领域。这股研究热潮必然会影响到军事技术的研究。在现代战争中，因为远程制导武器的广泛应用，绝大多数军事打击都不再依靠肉眼来辨析敌我，战场上的敌我识别变成了一个重要的问题。据统计，1991年的海湾战争期间，美军与友军之间的误伤比例高达24%；在伊拉克战争期间，共发生17起误伤事件，死18人，伤47人。两场战争的伤亡结果表明，单一的敌我识别武器已不能适应现代战争复杂的作战环境和作战要求。所以提高军队战斗识别的效率是现代军事科技研究中一个极其重要的课题。神经网络作为新的热门技术，必然受到军事研究学者们的青睐。本文只选取战斗识别这一领域，简要探讨神经网络技术在战斗识别领域中的应用前景，但求管中一窥，抛砖引玉。 2 神经网络简介 2.1 神经网络的历史 神经网络的研究可以追溯到上个世纪的1890年。但真正展开神经网络理论研究却始于本世纪40年代。1943年，有心理学家McCulloch和数学家Pitts合作提出了形式神经元的数学模型——MP模型，从此开创了神经网络理论研究的新时代。MP模型以集体并行计算结构来描述神经网络及网络的运行机制，可完成有限的逻辑运算。 1949年，Hebb通过对大脑神经的细胞、人的学习行为和条件反射等一系列
《神经网络原理》 、填空题 1、从系统的观点讲，人工神经元网络是由大量神经元通过极其丰富和完善的连接而构成的自适应、非线性、动力学系统。 2、神经网络的基本特性有拓扑性、学习性和稳定收敛性。 3、神经网络按结构可分为前馈网络和反馈网络，按性能可分为 离散型和连续型，按学习方式可分为有导师和无导师。 4、神经网络研究的发展大致经过了四个阶段。 5、网络稳定性指从t=0时刻初态开始，到t时刻后v(t+ △)=▼(◎，(t>0)，称网络稳定。 6、联想的形式有两种，它们分是自联想和异联想。 7、存储容量指网络稳定点的个数，提高存储容量的途径一是改—进网络的拓扑结构，二是改进学习方法。 8、非稳定吸引子有两种状态，一是有限环状态，二是混沌状态。 9、神经元分兴奋性神经元和抑制性神经元。 10、汉明距离指两个向量中对应元素不同的个数。 二、简答题 1、人工神经元网络的特点？ 答：(1 )、信息分布存储和容错性。 (2 )、大规模并行协同处理。 (3)、自学习、自组织和自适应。
(4)、人工神经元网络是大量的神经元的集体行为，表现为复杂
的非线性动力学特性。 (5)人式神经元网络具有不适合高精度计算、学习算法和网络 设计没有统一标准等局限性。 2、单个神经元的动作特征有哪些？ 答：单个神经元的动作特征有：(1 )、空间相加性；(2 )、时间相加性；(3)、阈值作用；(4 )、不应期；(5 )、可塑性；(6)疲劳。 3、怎样描述动力学系统？ 答：对于离散时间系统，用一组一阶差分方程来描述： X(t+1)=F[X(t)]； 对于连续时间系统，用一阶微分方程来描述： dU(t)/dt=F[U(t)]。 4、F(x)与x的关系如下图，试述它们分别有几个平衡状态，是 否为稳定的平衡状态? 答：在图(1、中，有两个平衡状态a、b，其中，在a点曲线斜率|F' (X)|>1 ,为非稳定平稳状态；在b点曲线斜率|F' (X)|<1 ,为稳定平稳状态。 在图(2、中，有一个平稳状态a，且在该点曲线斜率|F' (X)|>1 ，为非稳定平稳状态。
研究生神经网络试题A卷参考答案 一、名词解释(共5题，每题5分，共计25分) 1、泛化能力 答：泛化能力又称推广能力，是机器学习中衡量学习机性能好坏的一个重要指标。泛化能力主要是指经过训练得到的学习机对未来新加入的样本（即测试样本）数据进行正确预测的能力。 2、有监督学习 答：有监督学习又被称为有导师学习，这种学习方式需要外界存在一个“教师”，她可以对一组给定输入提供应有的输出结果，学习系统可根据已知输出与实际输出之间的差值来调节系统参数。 3、过学习 答：过学习（over-fitting），也叫过拟和。在机器学习中，由于学习机器过于复杂，尽管保证了分类精度很高（经验风险很小），但由于VC维太大，所以期望风险仍然很高。也就是说在某些情况下，训练误差最小反而可能导致对测试样本的学习性能不佳，发生了这种情况我们称学习机（比如神经网络）发生了过学习问题。典型的过学习是多层前向网络的BP算法 4、Hebb学习规则 答：如果两个神经元同时兴奋(即同时被激活)，则它们之间的突触连接加强。如果用、表示神经元i和j的激活值(输出)，表示两个神经元之间的连接权，则Hebb学习规则可以表示为：，这里表示学习速率。Hebb 学习规则是人工神经网络学习的基本规则，几乎所有神经网络的学习规则都可以看作Hebb学习规则的变形。
5、自学习、自组织与自适应性 答：神经网络结构上的特征是处理单元的高度并行性与分布性，这种特征使神经网络在信息处理方面具有信息的分布存储与并行计算而且存储与处理一体化的特点。而这些特点必然给神经网络带来较快的处理速度和较强的容错能力。能力方面的特征是神经网络的自学习、自组织与自性适应性。自适应性是指一个系统能改变自身的性能以适应环境变化的能力，它包含自学习与自组织两层含义。自学习是指当外界环境发生变化时，经过一段时间的训练或感知，神经网络能通过自动调整网络结构参数，使得对于给定输入能产生期望的输出。自组织是指神经系统能在外部刺激下按一定规则调整神经元之间的突触连接，逐渐构建起神经网络。也就是说自组织神经元的学习过程，完全是一种自我学习的过程，不存在外部教师的示教。 二、问答题（共7题，每题8分，共计56分） 1、试述遗传算法的基本原理，并说明遗传算法的求解步骤。 答：遗传算法的基本原理如下：通过适当的编码方式把问题结构变为位串形式（染色体），在解空间中取一群点作为遗传开始的第一代，染色体的优劣程度用一个适应度函数来衡量，每一代在上一代的基础上随机地通过复制、遗传、变异来产生新的个体，不断迭代直至产生符合条件的个体为止。迭代结束时，一般将适应度最高的个体作为问题的解。 一般遗传算法的主要步骤如下： (1) 随机产生一个由确定长度的特征字符串组成的初始群体。 (2) 对该字符串群体迭代的执行下面的步 (a) 和 (b) ，直到满足停止标准： (a) 计算群体中每个个体字符串的适应值； (b) 应用复制、交叉和变异等遗传算子产生下一代群体。 (3) 把在后代中出现的最好的个体字符串指定为遗传算法的执行结果，这个结果可以表示问题的一个解。 2、什么是进化计算？它包括哪些内容？它们的出发点是什么？