Learning Pyramid

repgfpn结构
repgfpn结构是一种深度学习模型的架构，它在计算机视觉任务中被广泛应用。

"repgfpn"代表了"Region Proposal-based Global Feature Pyramid Network"的缩写。

这个架构的主要目标是在目标检测任务中提高模型的准确性和效率。

repgfpn结构基于特征金字塔网络（Feature Pyramid Network, FPN）和区域建议网络（Region Proposal Network, RPN）的结合。

在repgfpn结构中，FPN用于提取图像特征。

它通过在不同层级上构建特征金字塔，以便在不同尺度下检测目标。

FPN可以有效地解决目标在不同尺度下的大小变化问题，并保留了图像的语义信息。

RPN部分负责生成候选目标框。

它通过在图像上滑动一个固定大小的窗口，并使用卷积神经网络来确定窗口中是否存在目标。

RPN会生成一系列候选目标框，并为每个框分配一个置信度得分。

最后，repgfpn结构将FPN和RPN进行整合，并通过使用分类器和回归器来对候选目标框进行进一步的筛选和定位。

分类器用于判断每个候选框中是否存在目标，而回归器用于优化目标框的位置和大小。

总的来说，repgfpn结构通过综合使用FPN和RPN，以及分类器和回归器，提供了一种有效的目标检测方法，能够在不同尺度下准确地检测出目标。

这种架构在计算机视觉领域中得到了广
泛应用，并取得了良好的效果。

吴恩达深度学习第⼆课第⼀周编程作业_regularization（正则化）Regularization 正则化声明本⽂作业是在jupyter notebook上⼀步⼀步做的，带有⼀些过程中查找的资料等（出处已标明）并翻译成了中⽂，如有错误，欢迎指正！参考Kulbear 的和和，以及的，以及，欢迎来到本周的第⼆次作业。

深度学习模型有很⼤的灵活性和容量，如果训练数据集不够⼤，过拟合可能会成为⼀个严重的问题。

当然，它在训练集上做得很好，但学习过的⽹络不能推⼴到它从未见过的新例⼦!（也就是训练可以，⼀到实战测试就拉胯。

） 第⼆个作业的⽬的： 2. 正则化模型： 2.1：使⽤⼆范数对⼆分类模型正则化，尝试避免过拟合。

2.2：使⽤随机删除节点的⽅法精简模型，同样是为了尝试避免过拟合。

您将学习:在您的深度学习模型中使⽤正则化。

让我们⾸先导⼊将要使⽤的包。

# import packagesimport numpy as npimport matplotlib.pyplot as pltfrom reg_utils import sigmoid, relu, plot_decision_boundary, initialize_parameters, load_2D_dataset, predict_decfrom reg_utils import compute_cost, predict, forward_propagation, backward_propagation, update_parametersimport sklearnimport sklearn.datasetsimport scipy.io #scipy是构建在numpy的基础之上的，它提供了许多的操作numpy的数组的函数。

scipy.io包提供了多种功能来解决不同格式的⽂件的输⼊和输出。

from testCases import * #from XXX import*是把XXX下的所有名字引⼊当前名称空间。

SPP（SpatialPyramidPooling）详解⼀直对Fast RCNN中ROI Pooling层不解，不同⼤⼩的窗⼝输⼊怎么样才能得到同样⼤⼩的窗⼝输出呢，今天看到⼀篇博⽂讲得挺好的，摘录⼀下，⽅便查找。

Introduction在⼀般的CNN结构中，在卷积层后⾯通常连接着全连接。

⽽全连接层的特征数是固定的，所以在⽹络输⼊的时候，会固定输⼊的⼤⼩(fixed-size)。

但在现实中，我们的输⼊的图像尺⼨总是不能满⾜输⼊时要求的⼤⼩。

然⽽通常的⼿法就是裁剪(crop)和拉伸(warp)。

这样做总是不好的：图像的纵横⽐(ratio aspect) 和输⼊图像的尺⼨是被改变的。

这样就会扭曲原始的图像。

⽽Kaiming He在这⾥提出了⼀个SPP(Spatial Pyramid Pooling)层能很好的解决这样的问题，但SPP通常连接在最后⼀层卷基层。

SPP 显著特点1) 不管输⼊尺⼨是怎样，SPP 可以产⽣固定⼤⼩的输出2) 使⽤多个窗⼝(pooling window)3) SPP 可以使⽤同⼀图像不同尺⼨(scale)作为输⼊, 得到同样长度的池化特征。

其它特点1) 由于对输⼊图像的不同纵横⽐和不同尺⼨，SPP同样可以处理，所以提⾼了图像的尺度不变(scale-invariance)和降低了过拟合(over-fitting)2) 实验表明训练图像尺⼨的多样性⽐单⼀尺⼨的训练图像更容易使得⽹络收敛(convergence)3) SPP 对于特定的CNN⽹络设计和结构是独⽴的。

(也就是说，只要把SPP放在最后⼀层卷积层后⾯，对⽹络的结构是没有影响的，它只是替换了原来的pooling层)4) 不仅可以⽤于图像分类⽽且可以⽤来⽬标检测使⽤SPP的CNNConvolutional Layers and Feature Maps作者使⽤上图意在说明保留原图⽚的尺⼨对实验的特征提取和结果都很重要The Spatial Pyramid Pooling Layer为什么会得固定⼤⼩的输出？注意我们上⾯曾提到使⽤多个窗⼝(pooling窗⼝，上图中蓝⾊，青绿，银灰的窗⼝，然后对feature maps 进⾏pooling，将分别得到的结果进⾏合并就会得到固定长度的输出), 这就是得到固定输出的秘密原因。

sklearn 1.17. Neural network models (supervised)神经网络模型(监督学习)Warning :This implementation is not intended for large-scale applications. In particular, scikit-learn offers no GPU support. For much faster, GPU-based implementations, as well as frameworks offering much more flexibility to build deep learning architectures, see Related Projects.警告:此实现不适用于大规模应用。

特别是scikit-learn 不提供图形处 理器支持。

有关更快、基于GPU 的实现，以及为构建深度学习架构 提供更大灵活性的框架，请参见相关项目。

Deep neural networks etc.深度神经网络pylearn2: A deep learning and neural network library build on theano with scikit-learn like interface.pylearn2: 一个深度学习和神经网络库建立在具有scikit- learn 类接口的theano 之上。

sklearn_theano: scikit-learn compatible estimators, transformers, and datasets which use Theano internallysklearn_theano: sklearn 在内部使用theano 的兼容估计 器、转换器和数据集.nolearn: A number of wrappers and abstractions around existing neural network librariesnolearn:围绕现有神经网络库的许多包装器和抽象keras : Deep Learning library capable of running on top of either TensorFlow or Theano.keras :能够在tensorflow 或thetano 上运行的深度学习库。