下载文档原格式
人工神经网络学习总结笔记主要侧重点：1.概念清晰2.进行必要的查询时能从书本上找到答案第一章：绪论1.1人工神经网络的概述“认识脑”和“仿脑”：人工智能科学家在了解人脑的工作机理和思维的本质的基础上，探索具有人类智慧的人工智能系统，以模拟延伸和扩展脑功能。
我认为这是人工神经网络研究的前身。
形象思维：不易被模拟人脑思维抽象推理逻辑思维：过程：信息概念最终结果特点：按串行模式人脑与计算机信息处理能力的不同点：方面类型人脑计算机记忆与联想能力可存储大量信息，对信息有筛选、回忆、巩固的联想记忆能力无回忆与联想能力，只可存取信息学习与认知能力具备该能力无该能力信息加工能力具有信息加工能力可认识事物的本质与规律仅限于二值逻辑，有形式逻辑能力，缺乏辩证逻辑能力信息综合能力可以对知识进行归纳类比和概括，是一种对信息进行逻辑加工和非逻辑加工相结合的过程缺乏该能力信息处理速度数值处理等只需串行算法就能解决的应用问题方便，计算机比人脑快，但计算机在处理文字图像、声音等类信息的能力远不如人脑1.1.2人脑与计算机信息处理机制的比较人脑与计算机处理能力的差异最根本的原因就是信息处理机制的不同，主要有四个方面方面类型人脑计算机系统结构有数百亿神经元组成的神经网络由二值逻辑门电路构成的按串行方式工作的逻辑机器信号形式模拟量（特点：具有模糊性。
离散的二进制数和二值逻辑容易被机器模拟的思维方式难以被机器模拟）和脉冲两种形式形式信息储存人脑中的信息分布存储于整个系统，所存储的信息是联想式的有限集中的串行处理机制信息处理机制高度并行的非线性信息处理系统（体现在结构上、信息存储上、信息处理的运行过程中）1.1.3人工神经网络的概念：在对人脑神经网络的基本认识的基础上，用数理方法从信息处理的角度对人脑神经网络进行抽象，并建立某种简化模型，称之为人工神经网络，是对人脑的简化、抽象以及模拟，是一种旨在模仿人脑结构及其功能的信息处理系统。
其他定义：由非常多个非常简单的处理单元彼此按某种方式相互连接而形成的计算系统，外部输入信息之后，系统产生动态响应从而处理信息。
人工神经网络基本模型一、MP 模型MP 模型属于一种阈值元件模型，它是由美国Mc Culloch 和Pitts 提出的最早神经元模型之一。
MP 模型是大多数神经网络模型的基础。
标准MP 模型nj ij ji i v w u 1)(i i u f v w ij ——代表神经元i 与神经元j 之间的连接强度(模拟生物神经元之间突触连接强度)，称之为连接权；u i ——代表神经元i 的活跃值，即神经元状态；v j ——代表神经元j 的输出，即是神经元i 的一个输入；θi ——代表神经元i 的阈值。
函数f 表达了神经元的输入输出特性。
在MP 模型中，f 定义为阶跃函数：,00,1i i iu u v 如果把阈值θi 看作为一个特殊的权值，则可改写为:其中，w0i ＝-θi ，v0＝1为用连续型的函数表达神经元的非线性变换能力，常采用s 型函数:该函数的图像如下图所示)(0j nj jii v wf viu i e u f11)(MP 模型在发表时并没有给出一个学习算法来调整神经元之间的连接权。
但是，我们可以根据需要，采用一些常见的算法来调整神经元连接权，以达到学习目的。
下面介绍的Hebb 学习规则就是一个常见学习算法。
Hebb 学习规则神经网络具有学习功能。
对于人工神经网络而言，这种学习归结为神经元连接权的变化。
调整w ij 的原则为：若第i 和第j 个神经元同时处于兴奋状态，则它们之间的连接应当加强，即：Δw ij ＝αu i v j这一规则与“条件反射”学说一致，并已得到神经细胞学说的证实。
α是表示学习速率的比例常数。
2感知器模型感知器是一种早期的神经网络模型，由美国学者F.Rosenblatt于1957年提出.感知器中第一次引入了学习的概念，使人脑所具备的学习功能在基于符号处理的数学到了一定程度的模拟，所以引起了广泛的关注。
1简单感知器简单感知器模型实际上仍然是MP模型的结构，但是它通过采用监督学习来逐步增强模式划分的能力，达到所谓学习的目的。
人工神经网络的模型.doc1、人工神经网络的模型:人工神经元的模型、常用的激活转移函数、MP模型神经元人工神经元的主要结构单元是信号的输入、综合处理和输出人工神经元之间通过相互联接形成网络，称为人工神经网络神经元之间互相联接的方式称为联接模式。
互相之间的联接强度由联接权值表达。
在人工神经网络中，转变信息处理及能力的过程，就是修改网络权值的过程。
人工神经网络的构造大体上都采纳如下的一些原则：由肯定数量的基本神经元分层联接；每个神经元的输入、输出信号以及综合处理内容都比较简洁；网络的学习和学问存储表达在各神经元之间的联接强度上。
神经网络解决问题的能力与成效除了与网络结构有关外，在很大程度上取决于网络激活函数。
人工神经网络是对人类神经系统2、的一种模拟。
尽管人类神经系统规模宏大、结构冗杂、功能奇妙，但其最基本的处理单元却只有神经元。
人工神经系统的功能事实上是通过大量神经元的广泛互连，以规模雄伟的并行运算来实现的。
人工神经网络模型至少有几十种，其分类方法也有多种。
例如，若按网络拓扑结构，可分为无反馈网络与有反馈网络；若按网络的学习方法，可分为有教师的学习网络和无教师的学习网络；若按网络的性能，可分为连续型网络与离散型网络，或分为确定性网络与随机型网络；若按突触连接的性质，可分为一阶线性关联网络与高阶非线性关联网络。
人工神经网络的局限性：(1)受到脑科学讨论的限制：由于生理试验的困难性，因此目前人类对思维和记忆机制的认识还很肤浅，还有许多问题需3、要解决；(2)还没有完好成熟的理论体系；(3)还带有深厚的策略和阅历色彩；(4)与传统技术的接口不成熟。
假如将大量功能简洁的形式神经元通过肯定的拓扑结构组织起来，构成群体并行分布式处理的计算结构，那么这种结构就是人工神经网络，在不引起混淆的状况下，统称为神经网络。
依据神经元之间连接的拓扑结构上的不同，可将神经网络结构分为两大类：分层网络互相连接型网络分层网络可以细分为三种互连形式：简洁的前向网络；具有反馈的前向网络；层内有互相连接的前向网络。
第2章基本的神经元及其学习规则本章先介绍了大脑神经元的组成及神经元之间的信息传递过程，在此基础上给出了简化的神经元数学模型，并讨论了神经元模型中基函数和激活函数的类型。
然后讨论了单个神经元的学习规则，包括Widrow-Hoff学习规则、Hebb学习规则、δ学习规则等。
由于单个神经元能力有限，设置不能解决异或问题，而多个神经元可以轻而易举地解决这一问题，我们引入了神经网络的概念，并介绍了常用的神经网络结构。
2.1 神经元模型2.1.1 大脑神经细胞1）神经细胞组成神经细胞又称为神经元（neuron），是大脑神经组织的主要成分。
大脑神经元的数量庞大，形态多样，结构复杂。
大脑神经元在生理上具有感受刺激、传导冲动和产生反应等功能。
神经元包括胞体和突起两部分，其中突起又分轴突和树突两种。
(1)胞体神经元的胞体（soma）在于脑和脊髓的灰质及神经节内，是神经元的代谢和营养中心。
胞体的结构与一般细胞相似，有核仁、细胞膜、细胞质和细胞核。
其中细胞膜是一个敏感而易兴奋的膜，在膜上有各种受体（receptor）和离子通道（ionic chanel）。
形成突触部分的细胞膜增厚。
膜上受体可与相应的化学物质神经递质结合，使膜的离子通透性及膜内外电位差发生改变，从而使胞膜产生相应的生理活动：兴奋或抑制。
(2)突起神经元的突起是神经元胞体的延伸部分，由于形态结构和功能的不同，可分为树突和轴突①树突（dendrite）树突是从胞体发出的一至多个突起，呈放射状。
靠近胞体部分较粗，经反复分支而变细，形如树枝状。
树突具有接受刺激并将冲动传入细胞体的功能。
②轴突（axon）轴突是一根长神经纤维，其主要功能是将神经冲动由胞体传至其他神经元。
轴突传导神经冲动的起始部位是在轴突的起始段，沿轴膜进行传导。
每个神经元只有一根轴突。
(3)突触神经元与神经元之间之间的连接点，称为突触（synapse）。
它是神经元之间的传递信息关键性结构。
突触可分两类，即化学性突触（chemical synapse）和电突触（electrical synapsse）。
