人工神经网络是什么
- 格式：pdf
- 大小：179.65 KB
- 文档页数：3
⼈⼯神经⽹络是什么⽬录
⼀、⼈⼯神经⽹络
⼈⼯智能的主流研究⽅法是连接主义，通过⼈⼯构建神经⽹络的⽅式模拟⼈类智能。
⼈⼯神经⽹络（Artificial Neural Network，即ANN ），是20世纪80 年代以来⼈⼯智能领域兴起的研究热点。它从信息处理⾓度对⼈脑神经
元⽹络进⾏抽象， 建⽴某种简单模型，按不同的连接⽅式组成不同的⽹络。
⼈⼯神经⽹络借鉴了⽣物神经⽹络的思想，是超级简化版的⽣物神经⽹络。以⼯程技术⼿段模拟⼈脑神经系统的结构和功能，通过⼤量的⾮
线性并⾏处理器模拟⼈脑中众多的神经元，⽤处理器复杂的连接关系模拟⼈脑中众多神经元之间的突触⾏为。
⼆、⽣物神经⽹络⼈脑由⼤约千亿个神经细胞及亿亿个神经突触组成，这些神经细胞及其突触共同构成了庞⼤的⽣物神经⽹络每个神经元伸出的突起分为树突和轴突。树突分⽀⽐较多，每个分⽀还可以再分⽀，长度⼀般⽐较短，作⽤是接受信号。轴突只有⼀个，长度⼀般⽐较长，作⽤是把从树突和细胞表⾯传⼊细胞体的神经信号传出到其他神经元。
⼤脑中的神经元接受神经树突的兴奋性突触后电位和抑制性突触后电位，产⽣出沿其轴突传递的神经元的动作电位。
⽣物神经⽹络⼤概有以下特点：
1. 每个神经元都是⼀个多输⼊单输出的信息处理单元，神经元输⼊分兴奋性输⼊和抑制性输⼊两种类型
2. 神经细胞通过突触与其他神经细胞进⾏连接与通信，突触所接收到的信号强度超过某个阈值时，神经细胞会进⼊激活状态，并通过突
触向上层神经细胞发送激活细号3. 神经元具有空间整合特性和阈值特性， 较⾼层次的神经元加⼯出了较低层次不具备的“新功能”
4. 神经元输⼊与输出间有固定的时滞，主要取决于突触延搁
外部事物属性⼀般以光波、声波、电波等⽅式作为输⼊，刺激⼈类的⽣物传感器。
三、硅基智能与碳基智能
⼈类智能建⽴在有机物基础上的碳基智能，⽽⼈⼯智能建⽴在⽆机物基础上的硅基智能。
碳基智能与硅基智能的本质区别是架构，决定了数据的传输与处理是否能够同时进⾏。
计算机：硅基智能
数据的传输与处理⽆法同步进⾏。
冯·诺伊曼结构体系的⼀个核⼼特征是运算单元和存储单元的分离，两者由数据总线连接。
运算单元需要从数据总线接收来⾃存储单元的数据，运算完成后再将运算结果通过数据总线传回给存储单元
数据不是为了存储⽽存储，⽽是为了在需要时能够快速提取⽽存储，存储的作⽤是提升数据处理的有效性
⼈脑：碳基智能
数据的传输和处理是同步进⾏的。
数据的传输和处理由突触和神经元之间的交互完成，并且是同时进⾏的，不存在先传输后处理的顺序。
在同样的时间和空间上，哺乳动物的⼤脑能在分布式的神经系统上交换和处理信息，这是计算机达不到的。
⽣物记忆是⼀个保留精华的过程，⽆法⽤简单的存储模拟⽣物记忆。四、MP模型
M-P模型，是按照⽣物神经元的结构和⼯作原理构造出来的⼀个抽象和简化了的模型。
MP神经元接受⼀个或多个输⼊，并对输⼊的线性加权进⾏⾮线性处理以产⽣输出。
假定MP神经元输⼊信号是N+1维向量(x0,x1,...,xN)，第i个分量的权重为wi，则输出可以写成
y=ϕ(∑Ni=0wixi)
ϕ(⋅)是传递函数，⽤于将加权后的输⼊转换为输出，通常被设计成连续且有界的⾮线性增函数。
在MP神经元中，麦卡洛克和⽪茨将输⼊和输出都限定为⼆进制信号，使⽤的传递函数则是不连续的符号函数，符号函数以预先设定的阈值
作为参数：当输⼊⼤于阈值时，符号函数输出 1，反之则输出 0
这样MP神经元⼯作就类似数字电路中的逻辑门，能够实现“逻辑与”或者“逻辑或”的功能.
感知器——最简单的神经⽹络结构
在1958年,美国⼼理学家Frank Rosenblatt提出⼀种具有单层计算单元的神经⽹络,称为感知器(Perceptron)。它其实就是基于M-P模型的结
构。Frank受到1949 年加拿⼤⼼理学家唐纳德·赫布提出的“赫布理论”，核⼼观点是学习的过程主要是通过神经元之间突触的形成和变化来实现
的。
两个神经元细胞之间进⾏交流的越多，它们之间的联系就越来越强化，学习的效果也在联系不断强化的过程中逐渐产⽣。
从⼈⼯神经⽹络的⾓度，这个理论的意义在于给出了改变模型神经元之间权重的准则
1. 如果两个神经元同时被激活，它们的权重应该增加
2. 如果两个神经元分别被激活，两者的权重应该降低
感知器不是真实的器件，⽽是⼀种⼆分类的监督学习算法，能够决定向量表⽰的输⼊是不属于某个特定类别。
感知器由输⼊导和输出导组成，输⼊导负责接收外界信号，输出导是MP神经元，也就是阈值逻辑单元。
每个输⼊信号（特征）都以⼀定的权重送⼊MP神经元中，MP神经元则利⽤符号将特征的线性组合映射为分类输出。
给⼀个包含若⼲输⼊输出对应关系实例的训练集，学习步骤为：
1. 初始化权重w(0)和阈值，其中权重可以初始化为0或较⼩的随机娄
2. 对训练集中的第j个样本，将其输⼊向量xj送⼊已经初始化的感知器，得到输出yj(t)
3. 根据yj(t)和样本j的给定输出结果dj，按以规则更新权重向量：
wi(t+1)=wi(t)+η[dj−yj(t)]⋅xj,i4. 重复以上两个步骤，直到训练次数达到预设值
第三步要对感知器的权重进⾏更新，是学习算法的核⼼步骤，其中0<η≤1 被称为学习率参数，是修正误差的⼀个⽐例系数。
如果分类结果和真实结果相同，则保持权重不变；如果输出值应该为0但实际为1，就要减少xj中输⼊值为1的分量的权重；如果输出值应该
为1但实际为0，则增加xj中输⼊值为1的分量的权重
感知器能够学习的前提是它具有收敛性。感知器学习算法能够在有限次的迭代后收敛，得到决策⾯位于两类之间的超平⾯。
本质上在执⾏⼆分类问题时，感知器以所有误差分类点到超平⾯的总距离为损失函数，⽤随机梯度下降法不断使损失函数下降，直到得到正
确的分类结果
除了优良的收敛性能外，感知器还有⾃适应性，只要给定训练数据集，算法就可以基于误差修正⾃适应地调整参数⽽⽆需⼈⼯介⼊，这在MP神经元的有了很⼤的进步。
单层感知器——⽆法处理异或问题
只能解决线性分类问题，没有办法处理异或问题
所谓线性分类意指所有的正例和负例可以通过⾼维空间中的⼀个超平⾯完全分开⽽不产⽣错误。
如果⼀个圆形被分成⼀⿊⼀⽩两个半圆，这就是个线性可分的问题；
可如果是个太极图的话，单单⼀条直线就没法把⿊⾊和⽩⾊完全区分开来了，这对应着线性不可分问题。
如果训练数据集不是线性可分的，也就是正例不能通过超平⾯与负例分离，那么感知器就不可能将所有输⼊向量正确分类。
多层感知器——隐藏层、反向传播多层感知器解决了异或问题，在输⼊与输出层之间添加了隐藏层，采⽤了反向传播的⽅式。
隐藏层
多层感知器的核⼼结构是隐藏层，⽤于特征检测。
之所以被称为隐藏层，是因为这些神经元并不属于⽹络的输⼊或输出。
隐藏的神经元将训练数据变换到新的特征空间上，并识别出训练数据的突出特征。不同层之间，多导感知器具有全连接性，即任意层中的每个神经元都与它前⼀层中的所有神经元或者节点相连接，连接的强度由⽹络中的权重系统决定。
反向传播
将输出和真实值相减得到误差函数，最后根据误差函数更新权重。
训练过程中，虽然信号的流向是输出⽅向，但是计算的误差函数和信号传播的⽅向相反，这种学习⽅式叫反向传播。通过求解误差函数关于每个权重系数的偏导数，以此使误差最⼩化来训练整个⽹络。Processing math: 100%
