卷积神经网络进阶之资料整理

卷积神经⽹络学习——第⼆部分：卷积神经⽹络训练的基本流程卷积神经⽹络学习——第⼆部分：卷积神经⽹络训练的基本流程import torchimport torchvisionimport torch.nn as nnimport torch.optim as optimimport torch.nn.functional as Ffrom torch.autograd import Variablefrom torchvision import datasets, transforms# 步骤⼀：数据载⼊# pose()将各种预处理操作组合到⼀起# 2.transforms.ToTensor()将图⽚转换成 PyTorch 中处理的对象 Tensor.在转化的过程中 PyTorch ⾃动将图⽚标准化了，也就是说Tensor的范⽤是(0,1)之间# 3.transforms.Normalize()要传⼊两个参数:均值、⽅差，做的处理就是减均值，再除以⽅差。

将图⽚转化到了(-1,1)之间# 4.注意因为图⽚是灰度图，所以只有⼀个通道，如果是彩⾊图⽚，有三个通道，transforms.Normalize([a,b,c],[d,e,f])来表⽰每个通道对应的均值和⽅差。

data_tf = pose([transforms.ToTensor(),transforms.Normalize([0.5],[0.5])])# PyTorch 的内置函数 torchvision.datasets.MNIST 导⼊数据集# 这⾥存储的还是MNIST数据集的格式，但是不⼀样的是这个数据集当中的元素是以tensor格式存储的train_dataset = datasets.MNIST(root = '/Users/air/Desktop/【2020秋】数据科学基础/第三次作业',train = True,transform = data_tf,download = True)test_dataset = datasets.MNIST(root = '/Users/air/Desktop/【2020秋】数据科学基础/第三次作业',train = False,transform = data_tf)# 定义超参数BATCH_SIZE = 128 # 训练的包的⼤⼩，通过将训练包分为2的倍数以加快训练过程的⽅式LR = 1e-2 # 学习率，学习率太⼩会减慢训练效果，学习率太⾼会导致准确率降低EPOCHS = 5 # 定义循环次数，避免因为次数太多导致时间过长# torch.utils.data.DataLoader 建⽴⼀个数据迭代器，传⼊数据集和 batch size, 通过 shuffle=True 来表⽰每次迭代数据的时候是否将数据打乱。

Ø 卷积神经网络的学习
• 平移不变性 • 旋转不变性 • 尺度不变性
• 卷积运算的过程
Ø 单入多出的升维卷积
• 原始输入是一维的图片，但是我们可以用多个卷积核分别对其计算，得到多个特征输出。
Ø 多入单出的降维卷积
• 一张图片，通常是彩色的，具有红绿蓝三个通道。我们可以有两个选择来处理：
ü 变成灰度的，每个ing
• 池化又称为下采样，downstream sampling or sub-sampling。池化方法分为两种，一种是 最大值池化 Max Pooling，一种是平均值池化 Mean/Average Pooling。
• 最大值池化，是取当前池化视野中所有元素的最大值，输出到下一层特征图中。
Ø 卷积神经网络的典型结构
• 在一个典型的卷积神经网络中，会至少包含以下几个层：
ü 卷积层 ü 激活函数层 ü 池化层 ü 全连接分类层
Ø 卷积核
• 卷积网络之所以能工作，完全是卷积核的功劳。
• 各个卷积核的作用
Ø 卷积的后续运算
• 四个子图展示如下结果：
ü 原图 ü 卷积结果 ü 激活结果 ü 池化结果
ü 对于三个通道，每个通道都使用一个卷积核，分别处理红绿蓝三种颜色的信息
• 显然第2种方法可以从图中学习到更多的 特征，于是出现了三维卷积，即有三个卷 积核分别对应三个通道，三个子核的尺寸 是一样的。
• 对三个通道各自做卷积后，得到右侧的三 张特征图，然后再按照原始值不加权地相 加在一起，得到最右侧的白色特征图。
Ø 卷积编程模型
• 输入 Input Channel • 卷积核组 Weights,Bias • 过滤器 Filter • 卷积核 Kernel • 输出 Feature Map

音频识别是一种通过机器学习算法来识别和理解音频信号的技术。

近年来，随着深度学习技术的发展，卷积神经网络（CNN）在音频识别领域取得了显著的进展。

本文将介绍如何使用卷积神经网络进行音频识别的教程。

一、数据准备首先，我们需要准备用于训练和测试的音频数据集。

数据集应包含各种不同类型的音频文件，如语音指令、音乐、环境声音等。

可以使用公开的数据集，也可以自行采集和整理数据。

一般来说，数据集越大越丰富，训练出的模型效果越好。

二、音频特征提取在将音频数据输入到卷积神经网络之前，我们需要先提取音频的特征。

常用的音频特征提取方法包括梅尔频谱系数（Mel-frequency cepstral coefficients，MFCC）、梅尔频率倒谱系数（Mel-Frequency Cepstral Coefficients，MFCC）等。

这些特征提取方法能够将音频数据转换成一系列特征向量，从而方便卷积神经网络进行处理。

三、构建卷积神经网络模型接下来，我们需要构建卷积神经网络模型。

卷积神经网络通常由卷积层、池化层和全连接层组成。

在音频识别任务中，我们可以使用一维卷积层来处理音频数据。

通过堆叠多层卷积和池化层，可以提取音频数据的特征。

最后通过全连接层将提取的特征映射到对应的类别，完成音频识别任务。

四、模型训练与调优在构建好卷积神经网络模型后，我们需要将准备好的音频数据集输入到模型中进行训练。

在训练过程中，我们可以使用交叉熵损失函数来衡量模型的性能，并通过反向传播算法来更新模型参数。

此外，可以使用一些技巧和策略来进一步提升模型的性能，如学习率调整、正则化、数据增强等。

五、模型评估与应用在模型训练完成后，我们需要对模型进行评估和测试。

可以使用测试集来评估模型在不同类别上的准确率、召回率和F1分数等指标。

此外，还可以通过混淆矩阵和ROC曲线来分析模型的性能。

最后，我们可以将训练好的模型应用到实际的音频识别任务中，如语音识别、声音分类等。

3DU-Net卷积神经⽹络3D U-Net这篇论⽂的诞⽣主要是为了处理⼀些块状图（volumetric images），基本的原理跟U-Net其实并⽆⼤差，因为3D U-Net就是⽤3D 卷积操作替换了2D的，不过在这篇博⽂中我会按照论⽂的结构⼤概介绍⼀下整体的原理及结构运⽤。

当然在原本的论⽂中，论⽂作者为了证实框架的可执⾏性及实验的最终结果，是设⽴了两组不同的实验的，⼀个是半⾃动设置（即：⼈为地利⽤算法对3D图像中地某些切⽚（slices）进⾏标注然后再放⼊模型中去跑程序），⽽另外⼀种情况则是作者假设有代表性地，稀疏地标注训练集是存在地，直接将数据输⼊模型进⾏end-to-end地训练，这部分地处理我将不详细描述，有兴趣的朋友或者⼩伙伴请点击下⾯论⽂链接进⾏下载阅读理解，在博⽂中将主要讲述3D U-Net的结构及特征。

1. 介绍（Introduction)⽣物医学影像（biomedical images）很多时候都是块状的，也就是说是由很多个切⽚构成⼀整张图的存在。

如果是⽤2D的图像处理模型去处理3D本⾝不是不可以，但是会存在⼀个问题，就是不得不将⽣物医学影像的图⽚⼀个slice⼀个slice成组的（包含训练数据和标注好的数据）的送进去设计的模型进⾏训练，在这种情况下会存在⼀个效率问题，因⽽很多时候处理块状图的时候会让任感到不适，并且数据预处理的⽅式也相对⽐较繁琐（tedious）。

所以，论⽂的作者就提出来了3D -Net模型，模型不仅解决了效率的问题，并且对于块状图的切割只要求数据中部分切⽚被标注即可（可参考下图说明）。

2. 模型结构（Network Architecture）整个3D U-Net的模型是基于之前U-Net（2D）创建⽽来，同样包含了⼀个encoder部分和⼀个decoder部分，encoder部分是⽤来分析整张图⽚并且进⾏特征提取与分析，⽽与之相对应的decoder部分是⽣成⼀张分割好的块状图。