下载文档原格式
了解深度学习和神经网络的基本原理深度学习和神经网络的基本原理深度学习（Deep Learning）作为人工智能领域的一个重要分支，利用神经网络来模拟人脑神经元的工作方式，实现机器对数据进行学习和理解的能力。
本文将简要介绍深度学习和神经网络的基本原理，并分点列出以下内容：1. 深度学习的基本概念- 深度学习是机器学习的一个子领域，主要以神经网络为基础，通过训练模型实现对数据的学习和预测。
- 深度学习最大的特点就是能够对大规模的数据进行处理，并从中提取有用的特征。
2. 神经网络的基本原理- 神经网络是深度学习的基石，它是由大量的神经元相互连接而成的，类似于人脑的神经元网络。
- 神经网络通常包括输入层、隐藏层和输出层。
输入层接收外部输入的数据，隐藏层通过计算和处理数据，输出层给出结果。
- 每个神经元都有多个输入和一个输出，输入通过权重和偏差进行加权求和，再经过激活函数进行处理，最后输出给下一层的神经元。
3. 深度学习的核心技术- 激活函数：激活函数在神经元中起到非线性变换的作用，常用的激活函数有sigmoid、ReLU等。
- 反向传播算法：用于对神经网络中的权重和偏差进行调整，使得神经网络的输出与实际结果更加接近。
- 损失函数：损失函数用于衡量神经网络输出结果与实际结果的差距，常用的损失函数有均方差、交叉熵等。
4. 深度学习的应用领域- 计算机视觉：深度学习在图像识别、目标检测、图像分割等方面取得了巨大的突破，例如人脸识别技术、自动驾驶等。
- 自然语言处理：深度学习在机器翻译、文本分类、情感分析等方面的应用越来越广泛，例如谷歌翻译、智能客服等。
- 语音识别：深度学习在语音识别方面具有重要的应用，例如苹果的Siri语音助手、亚马逊的Alexa等。
5. 深度学习的发展与挑战- 硬件提升：随着硬件计算能力的提升，如GPU的应用以及新型的神经网络加速器，加快了深度学习模型的训练和推断速度。
- 数据集和算法：大规模的数据集以及更加高级的算法模型，会对深度学习的发展产生积极影响。
人工神经网络与深度学习的区别从某种程度上来说，人工神经网络和深度学习是紧密相关的概念。
然而在现实应用中，人们往往会将这两个概念混淆起来，难以理解它们之间的差别和联系。
那么，人工神经网络和深度学习真的是同一个东西吗？接下来，我们将详细讨论这两个概念。
人工神经网络人工神经网络通常被称为ANN，它是一种仿照人脑神经系统构建的计算机模型。
与人脑中的神经元相似，人工神经元也可以接受输入信号，并对这些信号进行处理和传递。
在人工神经网络中，神经元通常被分为输入层、隐藏层和输出层三个部分。
输入层负责接受外部输入的信号，例如图像或语音信号等；隐藏层是网络的核心部分，可以用于处理和传递信息；输出层则将最终的处理结果转化为相应的输出。
人工神经网络的训练过程可以通过反向传播算法来实现。
这个算法可以使网络学习和优化参数，以便最大程度地提高网络的预测和分类能力。
这种方法被广泛应用于人脸识别、语音识别、机器翻译、人类运动学习等领域。
深度学习深度学习是一种特定类型的机器学习，通常是基于人工神经网络构建的。
与传统机器学习方法不同的是，深度学习最大的特点是使用多层神经网络来处理和分类数据。
尤其是对于大规模数据集，深度学习可以有效地提高分类和判别的准确度，使得机器可以更好地模仿人类思维的过程。
深度学习的最早应用可以追溯到20世纪80年代末。
然而，由于当时计算机性能的限制，深度学习并没有得到广泛的认可和应用。
直到近些年来，随着计算能力的提高和大规模数据集的出现，深度学习才得以广泛推广和应用。
如今，深度学习已经被成功应用于语音识别、自然语言处理、图像识别、自动驾驶、医疗诊断等多个领域。
区别与联系从定义上来看，深度学习是一种特殊的人工神经网络。
深度学习通常是指在神经网络中使用多层结构，以更好地处理大数据集和更复杂的任务。
而人工神经网络则是广义上神经网络的一个具体实现方法，它可以是深度网络，也可以是浅层网络，甚至是单一人工神经元。
简单来说，深度学习是人工神经网络的一种特殊实现方式。
45. 深度学习与人工神经网络的联系是什么？关键信息项：1、深度学习的定义与特点2、人工神经网络的概念与结构3、深度学习中人工神经网络的应用领域4、两者在算法和模型方面的相似性5、两者在数据处理和特征提取上的关联6、深度学习对人工神经网络发展的推动作用7、人工神经网络为深度学习提供的基础和启示1、引言深度学习和人工神经网络是当今人工智能领域中备受关注的重要概念。
它们之间存在着密切的联系，相互促进和影响。
深入理解两者之间的关系对于推动人工智能技术的发展和应用具有重要意义。
11 深度学习的背景和发展深度学习是一种基于多层神经网络的机器学习方法，近年来在图像识别、语音处理、自然语言处理等领域取得了显著的成果。
111 深度学习的技术突破介绍一些关键的技术突破，如大规模数据的利用、更强大的计算能力以及优化算法的改进。
112 深度学习的应用实例列举一些具体的应用场景，如自动驾驶、医疗诊断、智能推荐等，以展示其实际影响力。
12 人工神经网络的起源与演进人工神经网络的概念可以追溯到上世纪，经过多年的发展，其结构和算法不断完善。
121 早期的理论基础阐述一些早期的理论研究和实验成果。
122 现代人工神经网络的主要类型如前馈神经网络、反馈神经网络、卷积神经网络等。
2、深度学习与人工神经网络的概念解析21 深度学习的定义和核心思想详细解释深度学习如何通过多层的神经网络进行特征学习和模式识别。
211 深度学习中的层次结构说明不同层次在信息处理和特征抽象方面的作用。
212 深度学习的训练过程包括数据准备、模型构建、参数调整和优化等步骤。
22 人工神经网络的基本原理介绍神经元的工作机制、网络的连接方式以及信号传播和处理的过程。
221 人工神经网络的学习规则如误差反向传播算法、随机梯度下降等。
222 人工神经网络的拓扑结构分析不同拓扑结构对网络性能和功能的影响。
3、两者在算法和模型方面的相似性31 共同的数学基础例如线性代数、概率论、微积分等在两者中的应用。
神经网络与深度学习的区别神经网络与深度学习是机器学习领域内的两个重要概念。
对于非专业人士来说，这两个概念可能会混淆。
虽然两者密不可分，但仍然有着显著的区别。
在本文中，我们将探讨神经网络与深度学习的这些区别。
神经网络是一种模仿人类神经系统结构与功能的计算机系统。
它由互相连接的节点组成，节点分别代表着人类大脑中的神经元。
神经网络的基本思想是，通过一系列大量的计算处理、模型迭代，使得神经网络学习到具有普遍性的规律，并能够推广至新的数据集中。
一个神经网络通常跨越多个层次，每层子节点都有许多不同的变化方式，从而使得神经网络具有拟合复杂数据的能力。
深度学习是一种机器学习的技巧，名称来源于其使用的深度神经网络。
深度学习与传统的机器学习技术不同，传统的机器学习技术（如支持向量机（SVM）或K-最近邻（KNN））通常需要手动选择特征。
而深度学习技术不需要人为干预，它能够自动地从数据中学习到可以产生更好结果的特征，并利用这些特征来进行分类或回归等任务，从而完成复杂的数据分析。
深度学习的核心思路是“层次化”，将网络的计算过程组织为不同的抽象层，每一层的输出作为下一层的输入，满足多次非线性叠加的传递过程，从而提高模型的分类准确率。
因此，神经网络和深度学习并非等同，而是具有某些联系和区别。
首先，神经网络包含浅层、深层和反馈神经网络（如循环神经网络），而深度学习则是针对深度神经网络的。
其次，在数据特征和处理方面，神经网络一般需要人工提取特征，而深度学习则是在大量数据训练中自我提取特征，使得模型具有更强的泛化能力。
最后，在使用方面，神经网络着重于分类、回归和聚类问题，而深度学习则对模式识别、语音识别、图像识别和自然语言处理等方面有很好的应用。
综上所述，神经网络和深度学习的区别在于深度学习是特别针对深度神经网络而言的，并且不需要人工手动提取特征，具有强大的模型泛化能力，能够应用于多种领域的数据分析和分类。
神经网络则更加重视数据的预处理和手动选择特征，适用于分类、回归和聚类等方面的问题。
深度学习和神经网络的关系随着人工智能技术的不断发展，深度学习和神经网络的研究成为了人工智能领域的两个热门话题。
那么，深度学习与神经网络之间有何关系呢？深度学习是一种基于多层神经网络结构的机器学习技术，其最基本的思想就是通过神经网络来描述多层次的非线性关系，从而达到对数据的高效建模和预测。
而神经网络则是一种模仿人类神经系统功能的计算模型，通过互相连接的节点以及这些节点之间的权重来模拟人类神经元之间的相互作用。
因此，深度学习和神经网络是紧密相关的两个领域。
深度学习的核心理念在于构建多层的神经网络结构，在每一层中学习到更高级别的特征表示，并最终对整个数据集进行训练和预测。
深度学习算法通过大量的训练数据、优秀的特征表示以及高效的优化算法，可以有效地解决分类、回归和生成等多种机器学习任务。
而神经网络则是深度学习算法的计算基础，它提供了一种强大且灵活的方法来组织和处理复杂的数据集，例如图像、视频、音频和自然语言文字等等。
简单来说，深度学习是有关神经网络的一系列算法，而神经网络则是深度学习算法的计算引擎。
深度学习属于人工智能的范畴，而神经网络则是深度学习的重要工具。
深度学习和神经网络之间的紧密联系使得它们都成为人工智能领域的重要研究方向。
事实上，现在很多深度学习中的重要算法都是基于神经网络设计的，例如卷积神经网络、循环神经网络和自编码器等。
此外，深度学习和神经网络也广泛应用于自然语言处理、计算机视觉、语音识别和机器人学等领域。
总之，深度学习和神经网络之间的关系是紧密相关的，两者相互依存、相辅相成。
深度学习算法的快速发展离不开神经网络这一重要的计算引擎，而神经网络的高效应用也受益于深度学习算法的不断进步。
随着人工智能技术的不断发展，相信深度学习和神经网络仍将在未来的研究中发挥着重要作用。
深度学习与神经网络深度学习和神经网络是近年来在人工智能领域取得重大突破的两个概念。
它们的出现改变了传统机器学习的方式，为我们提供了更强大、更高效的算法和模型。
本文将介绍深度学习与神经网络的基本概念和原理，并探讨它们在各个领域的应用。
一、深度学习的基本概念深度学习是一种基于神经网络模型的机器学习方法。
它的核心思想是通过多层次、逐层抽象的方式，从数据中自动学习特征，并用于任务的求解。
与传统机器学习相比，深度学习能够处理大规模的数据集，并能够自主学习和提取复杂高级特征。
神经网络是深度学习的基本构件，它是由人工神经元相互连接而成的网络模型。
神经网络的节点称为神经元，它们通过权重、偏置和激活函数来计算输入信号的输出。
通过调整权重和偏置，神经网络能够自我适应地学习和调整参数，达到更好的拟合数据和解决问题的效果。
二、深度学习的原理与算法深度学习的原理基于反向传播算法。
反向传播算法通过计算误差的梯度，以梯度下降的方式，不断调整神经网络的参数，使得网络输出尽可能接近实际标签。
例如，在图像识别任务中，反向传播算法能够让神经网络自动学习到图像的边缘、纹理等特征。
为了提高神经网络的性能和训练效率，人们提出了一系列深度学习算法和模型。
其中，卷积神经网络（CNN）是处理图像和视觉任务的经典模型；循环神经网络（RNN）则适用于语言处理和时序数据分析；生成对抗网络（GAN）则能够生成逼真的图像样本。
这些模型的结构和算法都经过不断改进和优化，使得深度学习在多个领域中都取得了令人瞩目的成果。
三、深度学习的应用领域深度学习的应用领域非常广泛，包括计算机视觉、自然语言处理、语音识别、医学影像分析等多个方向。
在计算机视觉中，深度学习可以用于图像分类、物体检测、人脸识别等诸多任务。
在自然语言处理中，深度学习能够实现文本分类、机器翻译、情感分析等任务。
在医疗领域，深度学习可以帮助医生进行病理判断、癌症检测等。
这些应用不仅提高了工作效率，也改善了我们的生活质量。
深度学习与神经网络的区别与联系在当今人工智能的浪潮中，深度学习和神经网络是两个备受关注的话题。
虽然有很多人认为这两个名词是同义词，但实际上它们有着明显的区别和联系。
本文将从各个方面深入探讨深度学习和神经网络的异同点，希望能够帮助读者更好地理解这两个概念。
1.定义深度学习是一种机器学习模型，它通过一系列的计算单元来模拟人类神经元的工作原理，进行信息的处理和学习。
而神经网络是一个由许多神经元组成的网络，其中每个神经元都有一些输入和一个输出。
神经网络的基本结构是由一个输入层、若干个隐藏层和一个输出层组成的。
2.结构从结构上来看，深度学习与神经网络有着明显的不同。
深度学习模型可以包含多个层次，一般包括输入层、多个隐藏层和输出层。
而神经网络的层数相对较少，一般只包含一个或几个隐藏层。
这也意味着深度学习模型可以处理更加复杂的数据结构和任务，而神经网络的能力相对较弱。
3.计算原理深度学习利用反向传播算法进行训练，这种算法能够根据实际输出与预期输出之间的误差，来调整网络中每个神经元之间连接的权值，从而达到最小化误差的目的。
而神经网络的计算原理与深度学习比较相似，但是神经网络训练的过程中一般采用基于梯度下降法的反向传播算法。
4.应用场景深度学习在图像处理、自然语言处理等领域具有很广泛的应用，例如图像分类、语音识别等，在这些领域中深度学习模型取得了非常好的效果。
而神经网络的应用场景相对较为狭窄，一般只应用于图像处理等相对简单的任务。
5.优劣势分析深度学习相对于神经网络的优势在于其更加高级的结构和学习能力，可以处理更加复杂的数据结构和任务。
但同时也存在着训练时间较长、过拟合等问题。
而神经网络的优势在于其简洁的结构和速度快的训练过程，但其在处理复杂数据结构和复杂任务时表现相对较差。
6.未来发展趋势随着深度学习和神经网络的不断发展，两者之间的界限也随之模糊。
未来的研究将更加关注深度学习和神经网络之间的融合和优化，以达到更加高效和强大的人工智能模型。
神经网络与深度学习随着人工智能的快速发展，神经网络与深度学习成为近年来备受瞩目的研究方向。
神经网络是一种模仿生物神经元网络结构和功能的数字化数学模型，其目的是实现对于数据的有效学习和处理。
深度学习则是一种基于多层神经网络的机器学习算法，它可以用来训练大规模的神经网络，并从中提取出复杂的高层次特征。
神经网络和深度学习的核心思想是对数据进行多次的学习和优化，以提高模型的预测能力和分类能力。
具体的实现方法可以通过前向传递和反向传递两种方式来实现。
前向传递用于计算模型的输出结果，而反向传递则用于更新模型的参数。
在优化过程中，通常采用梯度下降的方法来找到最优解。
神经网络和深度学习的应用非常广泛，例如图像识别、语音识别、自然语言处理、视频分析等。
其中，图像识别是深度学习应用的一个重要方向。
通过构建卷积神经网络，可以实现对于大规模复杂数据的自动分类和识别。
在自然语言处理方面，深度学习可以通过递归神经网络的方式，对于长短不一的文本序列进行处理和分析。
当然，神经网络和深度学习在应用过程中还面临许多挑战和难题。
例如，网络的复杂度和训练的耗时、数据的标注问题等。
同时，随着技术的不断更新和研究的深入，这些问题也逐渐得到了解决。
例如，文本和图像自动标注技术和分布式深度学习技术等，都为神经网络和深度学习的发展提供了有力的支持。
总之，神经网络和深度学习是一种基于数学理论和数据学习的机器学习方法，其应用场景非常广泛。
通过对数据的多次学习和优化，可以实现对数据的分类、识别、自动标注等。
尽管在应用过程中还存在一些挑战和难题，但是随着技术的不断发展和研究的深入，相信神经网络和深度学习将会成为人工智能领域发展的一个重要方向。
神经网络和深度学习的关系
近年来，神经网络和深度学习技术在计算机及相关领域取得了重大突破，它们也正在影响着许多不同领域的发展。
那么，神经网络和深度学习到底有何关系?
从定义上来看，神经网络是一个涉及多层神经元的模型，它可以通过调整其内部参数来实现强大的功能。
在这里，神经元可以用来储存和处理任何数据和信号，这使得它可以在大量的数据下解决复杂的问题。
它可以被用于处理各种不同的任务，包括自动驾驶、图像处理和自然语言处理等。
而深度学习技术则是基于神经网络技术的一种更加强大的技术。
深度学习技术可以在大量的数据和大量的复杂模型结构下实现比例
制和非比例制学习，从而使其具备更强大的功能。
它可以用于自动驾驶、计算机视觉任务和自然语言处理等许多领域。
因此，神经网络和深度学习技术之间有着密切的关系，神经网络是驱动深度学习技术的基础，而深度学习则是在神经网络技术之上发展起来的一种更加强大的技术。
借助深度学习，研究人员可以处理更复杂和更大规模的任务，这是神经网络技术所不能做到的。
此外，深度学习也有助于提高神经网络的性能。
结合深度学习技术，研究人员可以应用许多先进的方法，比如机器学习、自适应优化和自监督学习，来最大限度地利用神经网络的潜力，使它能够有效地处理更复杂的任务。
因此，神经网络和深度学习之间存在着千丝万缕的联系，神经网
络是深度学习发展的基础，而深度学习也可以提高神经网络的性能。
而如何更好地利用这两项技术，也是计算机和相关领域研究人员当前面临的课题之一。
CDA数据分析研究院出品，转载需授权深度学习是机器学习的一个子领域，研究的算法灵感来自于大脑的结构和功能，称为人工神经网络。
如果你现在刚刚开始进入深度学习领域，或者你曾经有过一些神经网络的经验，你可能会感到困惑。
因为我知道我刚开始的时候有很多的困惑，我的许多同事和朋友也是这样。
因为他们在20世纪90年代和21世纪初就已经学习和使用神经网络了。
该领域的领导者和专家对深度学习的观点都有自己的见解，这些具体而细微的观点为深度学习的内容提供了很多依据。
在这篇文章中，您将通过听取该领域的一系列专家和领导者的意见，来了解什么是深度学习以及它的内容。
来让我们一探究竟吧。
深度学习是一种大型的神经网络Coursera的Andrew Ng和百度研究的首席科学家正式创立了Google Brain，最终导致了大量Google服务中的深度学习技术的产品化。
他已经说了很多关于深度学习的内容并且也写了很多，这是一个很好的开始。
在深度学习的早期讨论中，Andrew描述了传统人工神经网络背景下的深度学习。
在2013年的题为“ 深度学习，自学习和无监督特征学习”的演讲中“他将深度学习的理念描述为：这是我在大脑中模拟的对深度学习的希望：- 使学习算法更好，更容易使用。
- 在机器学习和人工智能方面取得革命性进展。
我相信这是我们迈向真正人工智能的最好机会后来他的评论变得更加细致入微了。
Andrew认为的深度学习的核心是我们现在拥有足够快的计算机和足够多的数据来实际训练大型神经网络。
在2015年ExtractConf大会上，当他的题目“科学家应该了解深度学习的数据”讨论到为什么现在是深度学习起飞的时候，他评论道：我们现在拥有的非常大的神经网络......以及我们可以访问的大量数据他还评论了一个重要的观点，那就是一切都与规模有关。
当我们构建更大的神经网络并用越来越多的数据训练它们时，它们的性能会不断提高。
这通常与其他在性能上达到稳定水平的机器学习技术不同。
对于大多数旧时代的学习算法来说......性能将达到稳定水平。
......深度学习......是第一类算法......是可以扩展的。
...当你给它们提供更多的数据时，它的性能会不断提高他在幻灯片中提供了一个漂亮的卡通片：最后，他清楚地指出，我们在实践中看到的深度学习的好处来自有监督的学习。
从2015年的ExtractConf演讲中，他评论道：如今的深度学习几乎所有价值都是通过有监督的学习或从有标记的数据中学习在2014年的早些时候，在接受斯坦福大学的题为“深度学习”的演讲时，他也发出了类似的评论。
深度学习疯狂发展的一个原因是它非常擅长监督学习Andrew经常提到，我们应该并且会看到更多的好处来自DL的无监督的一面，因为该领域已经成熟到可以处理大量未标记的数据。
Jeff Dean是Google的系统和基础架构小组的向导和谷歌高级研究员，他参与并可能负责部分Google内部深度学习的扩展和采用。
Jeff参与了Google Brain项目以及负责大型深度学习软件DistBelief和后来的TensorFlow的开发。
在2016年的一次题为“ 构建智能计算机系统的深度学习”的演讲中“他以类似的方式发表评论，深度学习实际上是关于大型神经网络的。
当你听到深度学习这个词的时候，就想想一个巨大的深度神经网络。
深度指的是典型的层数，因此这种流行术语在印刷机中被采用。
我认为它们通常是深度神经网络。
他已经多次发表过这个演讲，并且在同一个演讲的一组修改过的幻灯片中，他强调了神经网络的可扩展性，表明随着更多的数据和更大的模型，结果会变得更好，然而这反过来需要更多的计算来训练模型。
深度学习是层次特征学习除了可扩展性之外，深度学习模型的另一个经常被引用的好处是它们能够从原始数据中执行自动特征提取，也称为特征学习。
Yoshua Bengio是深度学习的另一个领导者，尽管他开始对大型神经网络能够实现的自动特征学习产生了浓厚的兴趣。
他描述了使用特征学习发现和学习良好表示的算法能力方面的深度学习。
在2012年题为“ 深度学习无监督和转移学习的表征”的论文中，他评论说：深度学习算法试图利用输入分布中的未知结构，以便通常在多个级别上发现良好的表示，并使用较低级别的特征定义更高级别的学习特征他在2009年的技术报告“ 人工智能学习深层架构”中提供了沿着这些方向深入学习的详细视角，其中他强调了特征学习中层次结构的重要性。
深度学习方法旨在学习具有来自较低级别特征的组成所形成的较高级别的层级的特征的特征层级。
在多个抽象级别上自动学习特性允许系统学习的复杂函数，这些函数直接从数据映射输入到输出，而不完全依赖于人工创建的特性。
在与Ian Goodfellow和Aaron Courville合着的即将出版的名为“ 深度学习”的书中，他们根据模型的架构深度来定义深度学习。
概念的层次结构允许计算机通过用简单的概念构建复杂的概念来学习它们。
如果我们绘制一个图表来显示这些概念是如何相互构建的，那么图表很深的，有很多层。
出于这个原因，我们将这种方法称为人工智能深度学习。
这是一本重要的书，有可能在一段时间内成为该领域的权威资源。
本书继续描述多层感知器作为深度学习领域中使用的算法，给出了深度学习已包含在人工神经网络中的观点。
深度学习模型的典型例子是前馈深度网络或多层感知器（MLP）。
彼得·诺维格（Peter Norvig）是谷歌研究部主任，以其题为“ 人工智能：现代方法”的人工智能教科书而闻名。
在2016年的一次演讲中，他给出了题为“深度学习和可理解性与软件工程和验证的关系”“他以与Yoshua非常相似的方式定义深度学习，重点关注使用更深层网络结构所允许的抽象力量。
这是一种学习，你形成的表示有多个抽象层次，而不是直接输入到输出为什么称它为“深度学习”？而不只是称它为“人工神经网络”？Geoffrey Hinton是人工神经网络领域的先驱，共同发表了关于训练多层感知器网络的反向传播算法的第一篇论文。
他可能已经开始引入“ 深度” 这个短语来描述大型人工神经网络的发展。
他在2006年共同撰写了一篇题为“ 深度信念网的快速学习算法”的论文，其中描述了一种受训练限制的玻尔兹曼机器的“深度”（就像一个多层网络一样）的方法。
使用互补先验，我们推导出一种快速，贪婪的算法，可以一次一层地学习深层定向信念网络，前提是前两层形成一个无向联想记忆。
本文和Geoff 在无向深度网络上共同撰写的题为“ 深度玻尔兹曼机” 的相关论文得到了社区的好评（现已引用数百次），因为它们是贪婪的分层网络训练的成功范例，允许前馈网络中有更多的层。
在《科学》杂志上发表的一篇题为“用神经网络降低数据的维度”的合著文章中，他们坚持使用相同的“深度”描述来描述他们开发网络的方法，这些网络的层数比以前典型的网络要多的多。
我们描述了一种初始化权重的有效方法，它允许深度自动编码器网络学习低维度代码，作为一种降低数据维度的工具，这种低维度代码比主成分分析工作的更好。
在同一篇文章中，他们发表了一篇有趣的评论，与Andrew Ng关于最近计算能力的提高以及对大型数据集的访问的评论相吻合，这些数据集在大规模使用时释放了神经网络尚未开发的能力。
自20世纪80年代以来，显而易见的是，通过深度自动编码器的反向传播对于非线性降维是非常有效的，只要计算机足够快，数据集足够大，并且初始权重足够接近良好的解决方案。
而现在这三个条件都满足了。
在2016年与皇家学会的题为“深度学习”的谈话中，Geoff评论说，深层信念网络深度学习的开始是2006年，这一新的深度学习浪潮的第一次成功应用是2009年的语音识别，题为” 使用深度信念网络进行声学建模“，实现了最先进的技术水平结果。
结果使语音识别和神经网络社区注意到，使用“深层”作为先前神经网络技术的差异因素，可能导致名称改变。
英国皇家学会谈话中对深度学习的描述以反向传播为中心。
有趣的是，他提出了为什么反向传播（读作“深度学习”）在上世纪90年代没有成功的4个原因。
前两点与Andrew Ng的评论相符，是因为数据集太小而计算机太慢。
深度学习作为跨域的可扩展学习深度学习在输入（甚至输出）是模拟的问题域上表现优异。
意思是，它们不是表格格式的少量数量，而是像素数据的图像，文本数据的文档或音频数据的文件。
Yann LeCun是Facebook Research的主管，是网络架构之父，擅长图像数据中的对象识别，称为卷积神经网络（CNN）。
这种技术看起来非常成功，因为像多层感知器前馈神经网络一样，该技术可以根据数据和模型大小进行扩展，并且可以通过反向传播进行训练。
这使他对深度学习的定义产生了偏差，他将深度学习定义为大型中枢神经网络的发展，而大型中枢神经网络在照片对象识别方面取得了巨大的成功。
在劳伦斯利弗莫尔国家实验室2016年的一次题为“ 加速理解：深度学习，智能应用和GPU ”的演讲中“他将深度学习描述为学习层次表示，并将其定义为构建对象识别系统的可扩展方法：深度学习[是] ...所有可训练的模块管道。
......因为在识别一个物体的过程中有多个阶段，所有这些阶段都是训练的一部分“Jurgen Schmidhuber是另一种流行算法的父亲，其中MLP和CNN也可以根据模型大小和数据集大小进行扩展，并且可以通过反向传播进行训练，而是针对学习序列数据而定制，称为长短期记忆网络（LSTM），是一种递归神经网络。
我们确实看到在该领域的措辞中存在一些混淆，也就是“深度学习”。
在2014年题为“ 神经网络中的深度学习：概述”的论文中，他对该领域的命名问题以及深度与浅层学习的区别进行了评论。
他还有趣地描述了问题复杂性而不是用来解决问题的模型来描述深度。
浅层学习在什么时候结束，而深度？与DL专家的讨论尚未对这一问题作出结论性的回答。
[...]，让我为本概述的目的定义：深度> 10的问题需要非常深度学习。
Demis Hassabis是DeepMind的创始人，公司后来被谷歌收购。
DeepMind突破了将深度学习技术与强化学习结合起来，以处理复杂的学习问题，如玩游戏，在玩Atari游戏和Go with Alpha Go游戏的著名例子。
为了与命名保持一致，他们将他们的新技术称为深度Q网络，将深度学习与Q-Learning结合起来。
他们还将更广泛的研究领域命名为“深层强化学习”。
在2015年题为“ 通过深度强化学习的人类控制”的自然杂志文章中，他们评论了深度神经网络在突破中的重要作用，并强调了对分层抽象的必要性。
为了实现这一目标，我们开发了一种新型代理，一种深度Q网络（DQN），它能够将强化学习与一类称为深度神经网络的人工神经网络相结合。
值得注意的是，深度神经网络的最新进展使得人工神经网络可以直接从原始传感数据中学习诸如对象类别之类的概念，其中使用若干层节点来逐渐建立数据的抽象表示。
