深度学习卷积神经网络报告【精品PPT文档】

格式：pptx
大小：2.12 MB
文档页数：14

下载文档原格式

卷积神经网络ppt课件

6. F6层有84个单元（之所以选这个数字的原因来自于输出层的设计），与C5层全相连。有10164个可训练参数。如同经典神经网络，F6层计算输入向量和权重向量之间的点积，再加上一个偏置。然后将其传递给sigmoid函数产生节点的输出。
16
LetNet-5

比特面编码：将一个灰度图像为8 bit/像素中每个像素的第j个比特抽取出来，就得到一个称为比特平面的二值图像，于是图像完全可以用一组共8个比特平面来表示，对灰度图像的编码转为对比特平面的二值化方块编码。为此，将每个比特面分为不重叠的m×n个元素的子块。
23
池化层的误差传递
大部分池化层没有需要训练的参数，只需要将误差传递。以Max Pooling为例
Layer l-1
Layer l
24
池化层的误差传递
5. C5层是一个卷积层，有120个特征图。每个单元与S4层的全部16个单元的5*5邻域相连，故C5特征图的大小为1*1：这构成了S4和C5之间的全连接。之所以仍将C5标示为卷积层而非全连接层，是因为如果LeNet-5的输入变大，而其他的保持不变，那么此时特征图的维数就会比1*1大。C5层有48120个可训练连接。
17
卷积层的训练
layer l-1
L-1
层
？
的
误
差
L-1
层的
输出
layer l
L
层的误差
L
层的输入
18
卷积层的误差传播

19
卷积层的误差传播

20
卷积层的误差传播

卷积操作 21
卷积层filter权重梯度的计算

22
卷积层filter权重梯度的计算

卷积神经网络报告课件

卷积神经网络介绍
Annual Report
汇报人：龚志雄
学习交流PPT
1
卷积神经网络概述
受Hubel和Wiesel对猫视觉皮层电生理研究启发，有人提出卷积神经网络（CNN），Yann Lecun 最早将CNN用于手写数字识别并一直保持了其在该问题的霸主地位。
与普通神经网络的区别在于，卷积神经网络增加了卷积层和池化层的概念。
学习交流PPT
10
CNN网络的执行过程
由于S2层和C3层所涉及的图片太多，不方便说明原理，所以这里假设S2层有三张图片，C3层有两张图片。这里有一个规则：有多少张输出图片，就有多少个神经元；有多少张输入图片，每个神经元就有多少个卷积核。右图中有三张图片的输入，两张图片的输出，所以卷积层有两个神经元，每个神经元有三个卷积核。
需要注意的是S1到C2的的连接，C2层的每个神经元只是部分与S1层的神经元连接，而传统的BP网络中每个神经元会与上一层的所有神经元进行连接。
学习交流PPT
单击此处辑内容
单击添加标题，建议您在展示时采用微软雅黑体
单击此处编辑内容
单击添加标题，建议您在展示时采用微软雅黑字体
3
卷积的过程
左边是被卷积图片的像素显示，其中的数字代表每个像素点的像素值。中间的小图片就是卷积核，卷积核会从图片的左上角开始从左到右从上到下的进行卷积操作，每一次的卷积操作如右图所示：卷积核里的每个值与其对应位置的图片像素值相乘，再将所有相乘的结果求和就得到了结果。
单击添加标题，建议您在展示时采用微软雅黑体
单击此处编辑内容
由C1到S2的过程就是池化的过程，对C1层的六张图片进行池化操作，让每张图片的尺寸变为原来的一半。

深度学习Caffe卷积神经网络CNN【精品PPT文档】

计算各神经元重权 1 继承BP神经网络的优点
2 权值共享 3 加入卷积层 4 加入池化层
4.11 局部权值共享
1000x1000的图像，有1百万个隐层神经元，那么他们全连接的话将产生10^12个权重参数。
假如局部感受区域是10x10，那么1百万个隐层神经元就只产生10^8个权重参数。
4.2 卷积层与池化层
输入图像相应的邻域与可训练的5x5特征块fx 卷积后，加偏置求和，生成卷积层特征图Cx。 Cx中每2x2邻域像素加权相加，再乘以一个可训练的权重Wx+1，再加上一个可训练偏置bx+1，最后通过非线性限幅函数得到压缩层特征图Sx+1。
5 Caffe开源库
特点：
1 C++/CUDA框架 2 提供Matlab和Python接口 3 高效稳定，网络设计简单 4 CPU与GPU无缝链接
5 AlexNet
5 AlexNet
name: “AlexNet" layer { name: "data" …} layer { name: "conv" …} layer { name: "pool" …} … more layers … layer { name: "loss" …}
top blob
Convolutional Neural Network
卷积神经网络
2 神经网络
单层结构
通过训练把各权重估计出来，即可构造出一个模糊人脸数学模型
重权参数
1 j , 2 j , ..., nj
3 BP神经网络
多层结构
特点： 1 数据正向传播，计算输出层误差 2 误差反向传播，逐层修正各层权重 3 采用梯度下降法加快收敛速度

卷积神经网络报告[优质ppt]

卷积神经网络介绍
AnnualReport
汇报人：龚志雄
卷积神经网络概述
受Hubel和Wiesel对猫视觉皮层电生理研究启发，有人提出卷积神经网络（CNN），Yann Lecun 最早将CNN用于手写数字识别并一直保持了其在该问题的霸主地位。
与普通神经网络的区别在于，卷积神经网络增加了卷积层和池化层的概念。
CNN网络的执行过程
由于S2层和C3层所涉及的图片太多，不方便说明原理，所以这里假设S2层有三张图片，C3层有两张图片。
这里有一个规则：有多少张输出图片，就有多少个神经元；有多少张输入图片，每个神经元就有多少个卷积核。右图中有三张图片的输入，两张图片的输出，所以卷积层有两个神经元，每个神经元有三个卷积核。
CNN网络的执行过程
单击此处辑内容
单击添加标题，建议您在展示时采用微软雅黑体
单击此处编辑内容
由C3到S4的过程又是一个池化的过程，对C3层的十六张图片进行池化操作，让每张图片的尺寸变为原来的一半。 S4之后就是全连接层了，S4层的十六张图片需要展开成一个向量作为全连接层的输入。
CNN网络的执行过程
CNN网络的执行过程
右图展示了Input图片经过卷基层的过程，该卷基层有六个神经元，每个神经元有一个卷积核。
单击此处辑内容
单击添加标题，建议您在展示时采用微软雅黑体
单击此处编辑内容
单击添加标题，建议您在展示时采用微软雅黑字体
CNN网络的执行过程
单击此处辑内容
单击添加标题，建议您在展示时采用微软雅黑体
需要注意的是S1到C2的的连接，C2层的每个神经元只是部分与S1层的神经元连接，而传统的BP网络中每个神经元会与上一层的所有神经元进行连接。

深度卷积神经网络ppt课件

简洁、普适的结构模型。特征提取与分类器可以一起学习。
神经网络简要介绍
人类视觉机理：
David Hubel 和 TorstenWiesel 发现了视觉系统的信息处理方式，即视皮层的分级特性，获得1981年诺贝尔生理学或医学奖。
Low-level sensing
Preprocessing
人工神经网络发展历程
• 发展基础：
数据爆炸：图像数据、文本数据、语音数据、社交网络数据、科学计算等
计算性能大幅提高
• 为什么有效
– 浅层神经网络可以近似任意函数，为何多层？
深层网络结构中，高层可以综合应用低层信息。低层关注“局部”，高层关注“全局”、更具有语
义化信息。为自适应地学习非线性处理过程提供了一种可能的
感知机（Perceptron）
通过查找超平面解决二类分类问题（通过二值函数解决二类分类问题）
公式表达：
f (x) sign(w x)
w x 可看作对输入的空间变换
四种空间变换：维度、缩放、旋转、平移
感知机中的线性映射限制了模型的表达能力，线性变化的组合仍为线性变化。
神经网络简要介绍
ANN基本构成：感知机（Perceptron）+激活函数
1、计算每层中每个节点的输出
y
m j

h(s
m j
)

h(
wimj
y m1 i
)
h()
为激活函数
2、在输出层计算损失

m j

h' (smj )(Tj

yi m j
)
Tj 为目标参考输出，一般从样本训练中得到。
神经网络简要介绍

深度学习卷积神经网络在图像识别中的应用【精品PPT文档】

3.
用卷积神经网络做图像处理时，原始图像不需要太多的预处理就可以较好地学习到图像的不变性特征。
4.
权值共享、局部感受野和子采样是卷积神经网络不同于其它
神经网络的三个主要特征。
卷积神经网络模型
NN
输入
1. 2. 3. 4. 5.
C1
S2
C3
S4
输入图像通过滤波器和可加偏置进行卷积得到C1层；对C1层的特征图进行下采样得到S2层；对S2层的特征图进行卷积得到C3层；对C3层的特征图进行下采样得到S4层； S4层的特征图光栅化后变成的向量输入到传统的全连接神经网络进行进一步分类，得到输出；
程序所参考的卷积神经网络结构：LeNet-5
两个“卷积+子采样层”LeNetConvPoolLayer 全连接层相当于MLP（多层感知机）中的隐含层HiddenLayer 输出层采用逻辑回归LogisticRegression
input+layer0(LeNetConvPoolLayer)+layer1(LeNetConvPoolLayer)+layer2(HiddenLayer)+layer3(LogisticRegression)
//从一个2*2的区域里maxpooling 出1个像素
程序中可设置的参数
learning_rate = 0.05 batch_size = 40 n_epochs = 100 nkerns = [20, 50] poolsize = (2, 2) //学习速率 //一次输入CNN的样本数 //最大训练步数 //第一层卷积核个数为20，
第二层卷积核个数为50
反向传播就是误差的反向反馈和权值的更新。

深度学习卷积神经网络CNNs-(AlexNet)【精品PPT文档】

�� = 5 �� = 5 �� = 3 �� = 1 5= 5+2∗1−3 +1
4 https:///tag/darth-sidious-vs-yoda/
Convolution
/wiki/index.php/Feature_extraction_using_convolution
What is the number of parameters in this convolution layer? �� = �� ∗ �� ∗ �� ∗ ��
11
12
13
14
15
16
17
18
19
20
CNN Architectures
Get familiar with this
ZeroStride padding Channel
6
பைடு நூலகம்
Zero-padding
What is the size of the input? What is the size of the output? What is the size of the filter? What is the size of the zero-padding? �� = �� + 2 ∗ �� − �� + 1

CNN(卷积神经网络) ppt课件

Notes: 式1:
神经网络的结点计算
前向计算：
反向传播：
神经网络梯度传播(链式法则）
Notes:
目录
Contents
2. 卷积神经网络
2.1. 卷积神经网络和深度学习的历史 2.2. 卷积神经网络的设计和原理 2.3. 卷积神经网络的神经科学基础
卷积神经网络和深度学习的历史
卷积神经网络在深度学习的历史中发挥了重要作用．它们是将研究大脑获得的深刻理解成功应用于机器学习应用的关键例子，也是第一个表现良好的深度模型之一．是第一个解决重要商业应用的神经网络，并且仍然是当今深度学习应用的前沿．
目录
Contents
3. CNN实现(tensorflow)
3.1.主流CNN模型介绍 3.2.使用tensorflow实现CNN 3.3.使用tensorflow实现其它模型
使用tensorflow搭建CNN
TensorFlow™ 是一个采用数据流图，用于数值计算的开源软件库。节点在图中表示数学操作，图中的线则表示在节点间相互联系的多维数据数组，即张量（tensor）。
深度学习以及卷积神经网络的适用需要大量的有效训练数据，过去的互联网时代为深度学习提供了大量的训练数据，同时随着几十年来硬件技术的发展，为利用和计算大量数据提供了条件．所以，近年来，每一次模型算法的更新，都取得了良好的效果，为深度学习这把火炬增添了燃料．
卷积神经网络和深度学习的历史
卷积神经网络提供了一种方法来专业化神经网络，以处理具有清楚的网络结构的数据，以及将这样的模型放大到非常大的尺寸(加深层数).这种方法在二维图像拓扑上的应用是最成功的．同时，卷积神经网络比全连接网络计算效率更高，使用他们运行多个实验并调整它们的实现和超参数更容易，更大的网络也更容易训练．

卷积神经网络(纯净版)ppt课件

Convolutional Neural Networks 卷积神经网络
1
Contents
• 机器学习，神经网络，深度学习之间的关系 • 什么是神经网络 • 梯度下降算法 • 反向传播算法 • 神经网络的训练 • 什么是卷积 • 什么是池化 • LeNet-5 • 其它的工作
2
Convolutional Neural Networks
5
Convolutional Neural Networks
反向传播算法（Back Propagation）
• 反向传播算法是计算多层复合函数的所有变量的偏导数的利器，上面梯度下降的例子中就是求梯度，简单的理解就是链式法则
根据链式法则，我们求e对a的偏导和e对d的偏导是如下所示:
可以看出，它们都求了e对c的偏导。对于权值动则数万的深度模型中的神经网络，这样的冗余所导致的计算量是相当大的 BP算法则机智地避开了这种冗余，BP算法是反向(自上往下)来求偏导的。
• 神经元：
,
• 每个连接都有一个权值
4
图1.一个全连接的神经网络
Convolutional Neural Networks
梯度下降算法
• 梯度下降算法是用来求函数最小值的算法 • 每次沿着梯度的反方向，即函数值下降最快的方向，去
修改值，就能走到函数的最小值附近（之所以是最小值附近而不是最小值那个点，是因为我们每次移动的步长不会那么恰到好处，有可能最后一次迭代走远了越过了最小值那个点）
什么是卷积？
右图展示了卷积的过程，和信号处理的卷积有所区别卷积降低了网络模型的复杂度（对于很难学习的深层结构来说，这是非常重要的），减少了权值的数量黄色部分是卷积核
11
Convolutional Neural Networks

深度学习卷积神经网络 (4)【精品PPT文档】

1
1. Background
2. Characteristic
3. Transfer Learning
4. MatConvNet
Background
In the 1960s, Hubel and Wiesel propose the local receptive field
when researching the visual cortex of cat.
Convolutions. CVPR 2015.
VGGNet Simonyan K, Zisserman A. A Very Deep Convolutional
Networks for Large-Scale Image Recognition. ICLR 2015.
ResNet He K, Zhang X, Ren S, et al. Deep Residual Learning for Image
MatConvNet
19
20Biblioteka 122imagenet-caffe-alex.mat
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 input conv1 relu1 norm1 pool1 conv2 relu2 norm2 pool2 conv3 relu3 conv4 relu4 conv5 relu5 pool5 fc6 relu6 fc7 relu7 fc8 prob 227x227x3 single 55x55x96 single 55x55x96 single 55x55x96 single 27x27x96 single 27x27x256 single 27x27x256 single 27x27x256 single 13x13x256 single 13x13x384 single 13x13x384 single 13x13x384 single 13x13x384 single 13x13x256 single 13x13x256 single 6x6x256 single 1x1x4096 single 1x1x4096 single 1x1x4096 single 1x1x4096 single 1x1x1000 single 1x1x1000 single

卷积神经网络PPT演示课件

隐含层的每一个神经元都连接10x10个图像区域，也就是说每一个神经元存在10x10=100个连接权值参数。那如果我们每个神经元这100个参数是相同，每个神经元用的是同一个卷积核去卷积图像，这就是权值共享。
权值共享的优点：
一方面，重复单元能够对特征进行识别，而不考虑它在可视域中的位置。另一方面，权值共享使得我们能更有效的进行特征抽取，因为它极大的减少了需要学习的自由变量的个数。通过控制模型的规模，卷积网络对视觉问题可以具有很好的泛化能力。
• CNNs它利用空间关系减少需要学习的参数数目以提高一般前向BP算法的训练性能。CNNs作为一个深度学习架构提出是为了最小化数据的预处理要求。在CNN中，图像的一小部分（局部感受区域）作为层级结构的最低层的输入，信息再依次传输到不同的层，每层通过一个数字滤波器去获得观测数据的最显著的特征。这个方法能够获取对平移、缩放和旋转不变的观测数据的显著特征，因为图像的局部感受区域允许神经元或者处理单元可以访问到最基础的特征，例如定向边缘。
卷积神经网络应用
• LeNet-5手写数字识别
C1层：输入图片大小：卷积窗大小：卷积窗种类：输出特征图数量：输出特征图大小：神经元数量：连接数：可训练参数：
32*32 5*5 6 6 28*28 4707 122304 156
C1层是一个卷积层，卷积运算一个重
要的特点就是，通过卷积运算，可以使原信号特征增强，并且降低干扰，由6个特征图Feature Map构成。特征图中每个神经元与输入中5*5的邻域相连。特征图的大小为 28*28，这样能防止输入的连接掉到边界之外。C1有ቤተ መጻሕፍቲ ባይዱ56个可训练参数（每个滤波器 5*5=25个unit参数和一个bias参数，一共6 个滤波器，共(5*5+1)*6=156个参数），共 (5*5+1)*6*(28*28)=122,304个连接。

卷积神经网络PPT课件

15
多层感知器预测
将光栅化后的向量连接到多层感知器
16
CNN参数更新
17
多层感知器层
• 残差定义 • 使用多层感知器的参数估计方法，得到其最低的一个隐层 s 的残差向量 • δs 。 • 现在需要将这个残差传播到光栅化层 r ，光栅化的时候并没有对向量的
值做修改，因此其激活函数为恒等函数，其导数为单位向量。
6
隐层输出层
可以视为级联在隐层上的一个感知器。若为二分类，则常用 LogisticRegression；若为多分类，则常用Softmax Regression。
7
核心！权值、偏置估计（结论如下，推导见“卷积神经网络全面解析”）
• 残差定义：
假设有层 p, q, r ，分别有 l, m, n 个节点，
对网络权值的训练，可以使感知器对一组输人矢量的响应达到元素为0或1 的目标输出，从而实现对输人矢量分类的目的。
3
单层感知器作用范围
• 感知器是一个简单的二类分类的线性分类模型，要求我们的样本是线性可分的。
4
多层感知器
多层感知器的思路是，尽管原始数据是非线性可分的，但是可以通过某种方法将其映射到一个线性可分的高维空间中，从而使用线性分类器完成分类。图1中，从X到O这几层，正展示了多层感知器的一个典型结构，即输入层隐层输出层。
20
• 对权值和偏置的更新：
卷积层
• 其中，rot180 是将一个矩阵旋转180度； Oq'是连接到该卷积层前的池化层的输出。
•
21
卷积层的残差反传？
22
整体思路
• 以层为单位，分别实现卷积层、池化层、光栅化层、MLP隐层、分类层这五个层的类。其中每个类都有output和backpropagate这两个方法。

深度学习机器学习算法之卷积神经网络【精品PPT文档】

卷积层(Convolutional Layer)
(a)局部感受野(局部连接)
(b)神经元激活方式
卷积层(Convolutional Layer)
(a)blur
(b)edge detect
采样层(Pooling Layer)
下采样
BN(Batch Normalization) Layer
• 关于数据预处理 • Batch Normalization
DeepFace:CNN for Face Recognition[1]
卷积层(Convolutional) + 采样层(Pooling) + 全连接层(Fully-connected) 特征提取
简单神经网络层
[1]Taigman et. al 2014 DeepFace: Closing the Gap to Human-Level Performance in Face Verification
卷积层学习到了什么？
Layer 4、Layer 5处于较高卷积层，学习得特征多为物体代表特征，如狗鼻子，车轱辘
双隐层神经网络彻底实现复杂分类
PCA whiten & ZCA whiten
PCA whiten
ZCA whiten
数据各维度方差为1 使得白化后数据更接近原始数据分布
Batch Normalization
Ioffe S, Szegedy C. Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift[J]. Computer Science, 2015.
Why CNN works?

深度学习史上最详细的卷积循环神经网络 PPT

•ReLU激励层 / ReLU layer
•池化层 / Pooling layer
•全连接层大/家好FC layer
3
卷积神经网络（CNN)介绍
数据输入层
该层要做的处理主要是对原始图像数据进行预处理，其中包括：
•去均值：把输入数据各个维度都中心化为0
•归一化：幅度归一化到同样的范围
•PCA/白化：用PCA降维；白化是对数据各个特征轴上的幅度归一化
8
卷积神经网络（CNN)介绍
卷积计算层
大家好
9
卷积层的计算过程
卷积运算的特点：通过卷积运算，可
以使原信号特征增强，并且降低噪音
大家好
10
卷积层的计算过程
同一个图片，经过两个（红色、绿色）不同的filters扫描过后可得到不同特点的Feature Maps。每增加一个filter，就意味着你想让网络多抓取一个特征。
将卷积所得的Feature Map经过ReLU变换（elementwise）后所得到的 output就如下图所展示
大家好
13
卷积神经网络（CNN)介绍
池化层
池化层夹在连续的卷积层中间，用于压缩数据和参数的量，减小过拟合。简而言之，如果输入是图像的话，那么池化层的作用就是压缩图像。
池化层用的方法有Max pooling 和 average pooling，而实际用的较多的是Max pooling
深度学习二
卷积神经网络
讲解人：
导师：
大家好
1
内容
• 卷积神经网络（CNN）介绍 • LeNet5模型的介绍 • 分析 LeNet5模型相关代码 • LeNet5 模型的训练代码 • 实验结果

1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。

单击添加标题，建议您在展示时采用微软雅黑字体
单击添加标题，建议您在展示时采用微软雅黑体
传统的BP网络和CNN网络的区别
传统的BP网络包括输入层、隐藏层、输出层。下面的CNN网络以一张图片作为输入，先经过卷积层得到C1，再经过池化层得到S1，再经过卷积层得到C2，再经过池化层得到S2。将S2的所有图片展开生成X，之后连接上普通的全连接神经网络进行图单击此处编辑内容
图片的输出，所以卷积层有两个神经元，每个神经元有三个卷积核。
CNN网络的执行过程
右边的动图显示的是上一张图片的动态过程，左
边三张蓝色图片对应S2层的三张输入图片，中间
的两列的红色图片对应两个神经元中的卷积核，右边两个绿色的图片对应C3层的两张输出图片。单击此处编辑内容
单击添加标题，建议您在展示时采用微软雅黑字体
单击此处编辑内容
由C1到S2的过程就是池化的过程，对C1层的六张图片进行池化操作，让每张图片的尺寸变为原来的一半。
CNN网络的执行过程
单击此处辑内容
单击添加标题，建议您在展示时采用微软雅黑体
单击此处编辑内容
从S2到C3的过程是我认为最重要也是最难理解的过程，从S2经过第二层卷积层生成了C3，这个过程和从Input 到C1一样是一个卷积的过程，但从Input到C1的过程输入只有一张图片也就是Input，但S2却有六张图片作为输入，下面来说明一下从S2到C3的过程。
CNN网络的执行过程
单击此处辑内容
单击添加标题，建议您在展示时采用微软雅黑体
右图展示了Input图片经过卷基层的过程，该卷基层有六个神经元，每个神经元有一个卷积核。单击此处编辑内容
单击添加标题，建议您在展示时采用微软雅黑字体
CNN网络的执行过程
单击此处辑内容
单击添加标题，建议您在展示时采用微软雅黑体
单击添加标题，建议您在展示时采用微软雅黑字体
单击此处辑内容
单击添加标题，建议您在展示时采用微软雅黑体
CNN网络的执行过程
单击此处辑内容
单击添加标题，建议您在展示时采用微软雅黑体
单击此处编辑内容
在这个例子中，CNN的输入是一张32*32像素的黑白图片，其中每个像素点的像素值的范围在0~255。首先它会经过第一层卷积层得到C1层，这个卷积层有六个神经元，每个神经元包含一个卷积核，每个卷积核对输入图片进行卷积操作生成一张新的28*28的图片，这样经过了这层卷积层，就能得到图中C1层所示的六张图片。
单击添加标题，建议您在展示时采用微软雅黑字体
单击此处辑内容
单击添加标题，建议您在展示时采用微软雅黑体
片的分类。
需要注意的是S1到C2的的连接，C2层的每个神经元只是部分与S1层的神经元连接，而传统的BP网络中每个神经元会与上一层的所有神经元进行连接。
卷积的过程
左边是被卷积图片的像素显示，其中的数字代表每个像素点的像素值。中间的小图
CNN网络的执行过程
由于S2层和C3层所涉及的图片太多，不方便说明原理，所以这里假设S2层有三张图片，C3层
有两张图片。
这里有一个规则：有多少张输出图片，就有多少个神经元；有多少张输入图片，每个神经元就有
单击此处编辑内容
单击添加标题，建议您在展示时采用微软雅黑字体
多少个卷积核。右图中有三张图片的输入，两张
卷积神经网络介绍
卷积神经网络概述
单击此处辑内容受Hubel和Wiesel对猫视觉皮层电生理研究启发，有人提出卷积神
经网络（CNN），Yann Lecun 最早将CNN用于手写数字识别并一直保持了其在该问题的霸主地位。与普通神经网络的区别在于，卷积神经网络增加了卷积层和池化层的概念。单击此处编辑内容
CNN网络的执行过程
单击此处辑内容
单击添加标题，建议您在展示时采用微软雅黑体
单击此处编辑内容
由C3到S4的过程又是一个池化的过程，对C3层的十六张图片进行池化操作，让每张图片的尺寸变为原来的一半。 S4之后就是全连接层了，S4层的十六张图片需要展开成一个向量作为全连接层的输入。
CNN网络的执行过程
单击添加标题，建议您在展示时Байду номын сангаас 用微软雅黑字体
单击添加标题，建议您在展示时采用微软雅黑体
池化的过程
一般经过卷积操作后生成的图像尺寸还是太大，为了减少网络计算的复杂度，需要把卷及操作后的图片进行缩小，也就是进行池化(Pooling)。池化字面理解就是把图片分成一个个池子，常用的池化有最大池化和平均池化，右图展示的是最大池化，把图片分为了四个2*2的池子，选取每个池子中的最大值作为结果。平均池化就是取每个池子的平均值作为结果。右图中经过池化图片尺寸就缩减为原图的一半。单击此处编辑内容
单击此处辑内容
单击添加标题，建议您在展示时采用微软雅黑体
假设S4层只有右图所示的两张图片，则展开的过程就是将所有的像素值从左到右从上到下的排列下来，形成一个一维向量。单击此处编辑内容
单击添加标题，建议您在展示时采用微软雅黑字体
片就是卷积核，卷积核会从图片的左上角
开始从左到右从上到下的进行卷积操作，每一次的卷积操作如右图所示：卷积核里的每个值与其对应位置的图片像素值相乘，再将所有相乘的结果求和就得到了结果。卷积核中的参数值最开始是随即生成的， CNN网络训练的目的就是训练卷积核里的这些参数，这些参数相当于BP网络中的权重w。
单击此处辑内容
单击添加标题，建议您在展示时采用微软雅黑体
单击此处编辑内容
单击添加标题，建议您在展示时采用微软雅黑字体
卷积的过程
单击此处辑内容右图是一个卷积的动态过程，黄色区域就是卷积
核，右下角的小数字是卷积核的参数，这里卷积核的移动步长是一个单位。若原图尺寸为a*a，卷积核尺寸为b*b，则卷积操作生成的图片尺寸为(a-b+1)*(a-b+1)，也就是说生成的图片一般会比原图小一些。单击此处编辑内容