人工神经网络的发展和分类
- 格式:doc
- 大小:26.00 KB
- 文档页数:4
人工神经网络的研究进展与应用人工神经网络是一种基于神经元模型的计算机模型,它能够通过学习和适应提高自己的性能,从而解决各种复杂的问题。
近年来,随着科学技术的不断进步,人工神经网络的研究和应用也越来越广泛,本文将以此为主题,探讨其研究进展和应用。
一、人工神经网络的发展历程人工神经网络的概念最早可以追溯到1943年,当时生物学家麦卡洛克和数学家皮茨在研究海马的神经元模型时,提出了“神经元网络”的概念。
然而,由于当时计算机技术的不发达,研究进展缓慢,直到20世纪80年代,人工神经网络才开始进入蓬勃发展期。
在接下来的几十年里,人工神经网络不断得到完善和改进。
1986年,加利福尼亚大学教授里夫金首次提出了反向传播算法,从理论上提高了神经网络的学习能力;1998年,Yan LeCun等人在训练卷积神经网络上取得了突破性的进展,为语音识别、图像识别等领域的应用奠定了基础;2006年,西谷和众人提出了深层神经网络,在语音识别、自然语言处理、图像处理等领域取得了重大突破。
二、人工神经网络的应用领域1. 图像识别人工神经网络在图像识别领域的应用非常广泛。
以2012年ImageNet大规模视觉识别挑战赛为例,该比赛采用卷积神经网络进行图像识别,识别准确率达到了85.4%,远高于传统算法。
2. 语音识别人工神经网络在语音识别领域也有广泛的应用。
在过去的十年里,深度神经网络被广泛用于语音识别,取得了显著的进展。
例如,微软研究院的DeepSpeech就是一种深度神经网络模型,能够通过学习进行语音识别并生成相应的文本。
3. 金融分析人工神经网络在金融领域也有广泛的应用。
例如,在股票交易中,人工神经网络能够通过学习历史股价数据,预测未来的股票价格走势。
此外,人工神经网络还可以用于信用评估、风险管理等方面,为金融决策提供有力的辅助。
4. 医学诊断人工神经网络在医学诊断领域也有广泛的应用。
例如,在疾病诊断方面,人工神经网络能够通过学习医学数据,对病情进行准确的判断和诊断。
人工神经网络历史发展及应用综述1、引言人类为了生存在改造探索自然的过程中,学会利用机械拓展自身的体力,随着对自然认识的不断深入,创造语言,符号,算盘、计算工具等来强化自身脑力。
复杂的数字计算原本是靠人脑来完成的,为了摆脱这种脑力束缚发明了计算机。
其数字计算能力比人脑更强,更快、更准。
计算机的出现,人类开始真正有了一个可以模拟人类思维的工具,期盼可以实现人工智能,构造人脑替代人类完成相应工作。
要模拟人脑的活动,就要研究人脑是如何工作的,要怎样模拟人脑的神经元。
人脑的信息处理具有大规模并行处理、强容错性和自适应能力、善于联想、概括、类比和推广的特点,多少年以来,人们从生物学、医学、生理学、哲学、信息学、计算机科学、认知学、组织协同学等各个角度企图获悉人脑的工作奥秘,寻求神经元的模拟方法。
在寻找上述问题答案的研究过程中,从20世纪40年代开始逐渐形成了一个新兴的边缘性交叉学科,称之为“神经网络”,是人工智能、认知科学、神经生理学、非线性动力学、信息科学、和数理科学的“热点”。
关于神经网络的研究包含众多学科领域,涉及数学、计算机、人工智能、微电子学、自动化、生物学、生理学、解剖学、认知科学等学科,这些领域彼此结合、渗透,相互推动神经网络研究和应用的发展。
2、定义思维学普遍认为,人类大脑的思维有三种基本方式,分为抽象(逻辑)思维、形象(直观)思维和灵感(顿悟)思维。
逻辑性的思维是根据逻辑规则进行推理的过程,这一过程可以写成指令,让计算机执行,获得结果。
而直观性(形象)的思维是将分布式存储的信息综合起来,结果是忽然间产生想法或解决问题的办法。
这种思维方式的有以下两个特点:一是信息通过神经元上的兴奋模式分布储在网络上;二是信息处理通过神经元之间同时相互作用的动态过程来完成的。
人工神经网络就是模拟第二种人类思维方式。
人工神经网络是由大量具备简单功能的人工神经元相互联接而成的自适应非线性动态系统。
虽然单个神经元的结构和功能比较简单,但大量神经元连接构成的网络系统行为却异常复杂。
神经网络的发展与应用人工神经网络,简称神经网络,是一种模拟人脑神经系统的计算模型,它通过模拟神经元之间的信息传递和计算过程,实现了信息处理和智能决策。
从20世纪50年代起,神经网络就开始吸引越来越多的研究者,至今已有数十年的发展历程。
本文将回顾神经网络的发展史,介绍其主要应用场景和未来趋势。
一、神经网络的发展历史题海战术是练好神经网络的关键。
在1960年代到1980年代,美国、英国、日本、德国等国家和地区的专家纷纷投身于神经网络的研究当中。
这一时期,神经网络的基本理论,包括前馈神经网络、反馈神经网络、Hopfield 网络、Boltzmann机等模型先后被提出。
其中,前馈神经网络主要用于解决分类、识别、回归等问题,反馈神经网络主要用于时序预测、神经信号处理、优化问题等;而Hopfield网络和Boltzmann机则用于解决优化问题和联想记忆问题。
然而,由于数据量小、计算能力有限、学习算法不稳定等因素的限制,神经网络的应用一度受到限制。
1990年代以后,随着计算机和网络技术的迅速发展,大数据时代的到来,神经网络得到了前所未有的发展机遇。
神经网络的各个领域都经历了飞跃式的发展,特别是深度学习的应用,更是引领了神经网络技术的潮流。
二、神经网络的应用场景神经网络已经成为人工智能、机器学习中最重要的技术手段之一,几乎涉及到所有方面的应用场景。
以下将介绍几个具有代表性的应用案例。
1. 图像识别在图像识别领域,卷积神经网络(CNN)是当今最流行的神经网络之一。
它可以对图像进行特征提取和识别,广泛应用于人脸识别、车辆识别、智能安防等领域。
例如,当今最先进的人脸识别技术,就是基于CNN网络实现的。
2. 语音识别语音识别是另一个广泛应用神经网络的领域。
深度循环神经网络(RNN)和长短时记忆网络(LSTM)都是可以处理语音信号序列的网络模型,它们的应用范围包括语音识别、文本转语音(ConvTTS)等,可以极大地提高语音识别的准确率和稳定性。
神经网络的发展及应用现状分析神经网络是一种模拟人类神经系统结构和功能的计算模型,它具有自学习、自适应和自组织能力。
随着人工智能技术的快速发展,神经网络在各个领域的应用也得到了广泛关注和应用。
本文将对神经网络的发展历程以及在不同领域中的应用现状进行分析。
1. 神经网络的发展历程神经网络的概念最早可以追溯到20世纪40年代的传统人工神经元模型。
然而,直到二十世纪六十年代,学者们才开始关注神经网络的研究。
在此后的几十年里,神经网络不断发展壮大,主要包括以下几个阶段:(1)单层感知器:1958年,Rosenblatt提出了单层感知器模型,该模型是最简单的神经网络模型之一,用于模拟神经元的工作原理。
(2)多层感知器:1986年,Hinton和Rumelhart提出了反向传播算法,使得神经网络可以用于解决非线性问题。
多层感知器模型对于复杂模式的识别和分类具有很强的能力。
(3)深度学习:近年来,随着计算机计算能力的提高和大规模数据的积累,深度学习成为神经网络研究的新热点。
深度学习通过增加神经网络的层数,使得模型可以更好地处理复杂的任务,例如图像识别、自然语言处理等。
2. 神经网络在图像识别领域的应用现状图像识别是人工智能领域的重要应用之一,神经网络在此领域的应用取得了许多重要突破。
以深度卷积神经网络(CNN)为代表的模型,通过学习图像之间的特征表示,可以实现高效准确的图像分类和识别。
近年来,随着大型数据集的建立和模型结构的不断改进,图像识别的准确率得到了显著提升。
例如,ImageNet是一个包含超过一百万个图像的数据集,通过使用深度卷积神经网络,模型在ImageNet图像识别挑战赛中的错误率已经大幅下降。
此外,神经网络还可以用于目标检测、图像分割和图像生成等任务,为图像处理领域带来了许多创新和突破。
例如,生成对抗网络(GAN)可以生成逼真的图像,对艺术创作和虚拟现实等领域具有重要的应用价值。
3. 神经网络在自然语言处理领域的应用现状自然语言处理是指让计算机理解和处理人类语言的能力,神经网络在该领域的应用也取得了显著进展。
介绍人工神经网络的发展历程和分类1943年,心理学家W.S.McCulloch 和数理逻辑学家W.Pitts 建立了神经网络和数学模型,称为MP 模型。
他们通过MP 模型提出了神经元的形式化数学描述和网络结构方法,证明了单个神经元能执行逻辑功能,从而开创了人工神经网络研究的时代。
1949年,心理学家提出了突触联系强度可变的设想。
60年代,人工神经网络的到了进一步发展,更完善的神经网络模型被提出。
其中包括感知器和自适应线性元件等。
M.Minsky 等仔细分析了以感知器为代表的神经网络系统的功能及局限后,于1969年出版了《Perceptron 》一书,指出感知器不能解决高阶谓词问题。
他们的论点极大地影响了神经网络的研究,加之当时串行计算机和人工智能所取得的成就,掩盖了发展新型计算机和人工智能新途径的必要性和迫切性,使人工神经网络的研究处于低潮。
在此期间,一些人工神经网络的研究者仍然致力于这一研究,提出了适应谐振理论(ART 网)、自组织映射、认知机网络,同时进行了神经网络数学理论的研究。
以上研究为神经网络的研究和发展奠定了基础。
1982年,美国加州工学院物理学家J.J.Hopfield 提出了Hopfield 神经网格模型,引入了“计算能量”概念,给出了网络稳定性判断。
1984年,他又提出了连续时间Hopfield 神经网络模型,为神经计算机的研究做了开拓性的工作,开创了神经网络用于联想记忆和优化计算的新途径,有力地推动了神经网络的研究,1985年,又有学者提出了波耳兹曼模型,在学习中采用统计热力学模拟退火技术,保证整个系统趋于全局稳定点。
1986年进行认知微观结构地研究,提出了并行分布处理的理论。
人工神经网络的研究受到了各个发达国家的重视,美国国会通过决议将1990年1月5日开始的十年定为“脑的十年”,国际研究组织号召它的成员国将“脑的十年”变为全球行为。
在日本的“真实世界计算(RWC )”项目中,人工智能的研究成了一个重要的组成部分。
人工神经网络的研究和应用随着科技的不断发展,我们进入了一个智能化的时代,人工神经网络成为了人们讨论的重点。
人工神经网络是一种仿生学的技术手段,它能够模拟人类大脑的神经网络结构,实现像人类一样学习、决策和预测的功能。
本文将探讨人工神经网络的研究和应用。
一、人工神经网络的基本原理人工神经网络是由许多个“神经元”组成的,每个神经元接受多个输入信号,经过运算后输出一个结果。
简单的神经元通常由加权求和运算和一个阈值函数组成,它将输入信号与其对应的权重相乘并求和,再将结果输入到激活函数中,最后输出一个结果。
在人工神经网络中,我们将多组神经元组织成多层网络,每一层由若干个神经元组成。
每个神经元的输出将作为下一层神经元的输入,最终的输出结果将由输出层神经元组成。
二、人工神经网络的分类人工神经网络可以分为多种类型,如前馈神经网络、反馈神经网络、卷积神经网络等。
其中前馈神经网络是最为常见的一种,它没有反馈回路,信息只能从输入层到输出层流动。
反馈神经网络则允许信息沿着回路反向传播,这样神经网络就可以学习时间上的相关性,例如预测时间序列数据。
卷积神经网络是一种专门用来处理图像和视频数据的神经网络。
它通过卷积核对图像进行卷积运算,提取出图像中的特征,并经过多层池化操作后进行分类或识别。
三、人工神经网络的应用人工神经网络在各个领域都有广泛的应用,例如:1. 语音识别语言识别是人工智能领域的一个重要应用方向,人工神经网络在语音识别上也有广泛的应用。
通过学习音频输入和其对应的文字标注,神经网络可以准确地识别不同人的发音,并将其转化为文字。
2. 图像识别人工神经网络可以对图像进行分类、识别和分割等操作,例如在自动驾驶汽车、医疗图像识别、安防监控等领域中都有广泛的应用。
3. 自然语言处理自然语言处理技术是人工智能领域的另一个研究热点,它涉及到文字自动翻译、情感分析、问答系统等多个方向。
人工神经网络可以通过学习大量的语言数据,对自然语言信息进行自动处理和解析。
人工神经网络的发展及其应用随着科技的不断发展,人工神经网络成为一种越来越被广泛应用于各个领域的技术。
人工神经网络是一种基于生物神经网络原理的计算模型,其应用领域如机器学习、计算机视觉、自然语言处理、语音识别、控制系统等方面均有广泛应用。
一、人工神经网络的发展历史人工神经网络最早来源于1940年代末期的哈佛大学神经学家Warren McCulloch与Walter Pitts提出的“神经元模型”,其设计初衷是为了实现人类神经元结构与信息处理的模拟。
随后的几十年里,人工神经网络模型得到了不断改进和发展。
例如,1950年Rossenblatt博士提出了“感知器模型”,1980年代Hopfield等学者提出了“反馈神经网络模型”等。
20世纪80年代到90年代,人工神经网络进入了快速发展阶段。
1992年,Yann LeCun等人提出了用于图像识别的反向传播神经网络,实现了在MNIST数据集上的手写数字识别,开始了卷积神经网络(CNN)的时代。
20世纪90年代后期,支持向量机和其他新兴技术使得“智能”系统的应用迅猛发展。
二、人工神经网络的工作原理人工神经网络的工作原理仿照人类大脑神经元的工作原理,由神经元、突触和神经网络三个组成部分组成。
神经元是神经网络的基本单位,每个神经元接收到其他神经元传来的信息,并通过一个激活函数处理这些信息,以确定继续向下传递的信息是否被激活。
突触是连接不同神经元之间的通道。
人工神经网络的目的是通过训练模型对输入数据进行分类、预测、识别等操作。
训练模型的过程一般可分为前馈和反向传播两个过程。
前馈指将输入信号在神经网络中传递至输出端的过程,反向传播则是通过误差反向传递回神经网络中的每个神经元,并根据误差进行权重调整的过程。
三、人工神经网络在各领域中的应用1.机器学习人工神经网络是最为常见的机器学习算法之一。
在机器学习中,人工神经网络常被用于进行物体识别、分类和预测,这些任务包括模式识别、语音识别、手写文字识别等。
人工神经网络的发展及应用随着科技的快速发展,已经成为当今社会最为热门的话题之一。
作为的重要组成部分,人工神经网络也受到了广泛的。
本文将简要介绍人工神经网络的发展历程、技术特点、应用领域以及未来展望,探讨其重要性和应用前景。
人工神经网络的发展可以追溯到上世纪40年代,当时心理学家Warren McCulloch和数学家Walter Pitts提出了第一个基于生物神经网络的计算模型。
随后,在1957年,感知机模型被提出,这被认为是第一个真正的人工神经网络模型。
然而,受限于当时的技术和计算能力,这些早期的模型并未取得太大的突破。
直到上世纪80年代,随着计算机技术和算法的发展,人工神经网络才真正得到了发展。
BP(反向传播)算法的提出使得人工神经网络能够进行深层次的训练和学习。
然而,这个时期的网络结构相对简单,训练时间较长,且易陷入局部最小值。
人工神经网络是一种模拟人脑神经元网络的结构和功能的计算模型。
它由多个层次组成,每个层次包含多个神经元。
每个神经元接收输入信号,通过激活函数将其转化为输出信号,并将输出信号传递给下一层的神经元。
BP算法是人工神经网络中最常用的学习算法之一。
它通过反向传播误差梯度来更新网络权重,使得网络在经过训练后能够学习和模拟输入数据之间的关系。
深度学习技术也得到了广泛应用,它通过组合低层特征形成更加抽象的高层表示,从而提升网络的表示能力和性能。
人工神经网络的应用领域非常广泛,下面将介绍几个主要的应用领域。
医疗领域:人工神经网络在医疗领域的应用主要集中在疾病诊断、药物研发和医学影像分析等方面。
例如,通过训练人工神经网络来分析医学影像,可以帮助医生更准确地诊断肿瘤等疾病。
金融领域:人工神经网络在金融领域的应用主要包括风险评估、信用评分和股票预测等。
通过训练人工神经网络来分析大量数据,可以帮助银行和投资者更加准确地评估风险和预测市场走势。
自动驾驶:人工神经网络在自动驾驶汽车中的应用主要集中在感知和决策方面。
人工神经网络的发展及应用人工神经网络(Artificial Neural Network,ANN)是一种模拟生物神经网络的计算模型,其结构与人脑的神经元系统相似。
它由输入层、隐藏层和输出层等多层神经元组成,通过学习和训练来进行模式识别、分类、回归等任务。
在发展历程中,神经网络经历了多次进化和突破,并在各个领域展示出了广泛的应用。
人工神经网络的发展可以追溯到上世纪40年代,当时混合电路公司创始人沃伦·斯密斯和心理学家理查德·莫波斯首次提出了用电子电路来模拟人脑神经网络的想法。
随后,神经元计算模型被提出,并在上世纪50年代逐渐发展成为人工神经网络的基础理论。
然而,在当时的计算能力和数据量限制下,神经网络的应用受到了很大的限制。
直到上世纪80年代,随着计算机技术和数据存储能力的快速发展,神经网络重新引起了人们的关注。
此时,多层前馈神经网络(Multilayer Perceptron,MLP)模型被提出,通过反向传播算法可以对神经网络进行训练和优化,使神经网络能够解决更加复杂的问题。
这一突破使得神经网络在模式识别、图像处理、语音识别等领域取得了一系列的成功应用。
然而,在上世纪90年代,神经网络的发展遇到了瓶颈,因为神经网络训练过程中存在着局部极小值和过拟合等问题。
这导致了神经网络的研究陷入低谷,并且在一段时间内被其他机器学习算法所取代。
直到2024年,加拿大多伦多大学的Geoffrey Hinton等人提出了深度置信网络(Deep Belief Network,DBN),通过逐层训练和贪婪逐层预训练等技术,成功应对了神经网络的训练问题,重新点燃了研究人员对神经网络的兴趣。
在其他领域中,神经网络也取得了一系列的应用。
例如,在医学图像处理中,神经网络可以帮助医生自动检测和诊断疾病;在金融领域中,神经网络可以用于股票预测和交易策略优化;在自然语言处理中,神经网络可以用于机器翻译、情感分析等任务。
人工神经网络的发展和分类人工神经网络是一种应用类似于大脑神经突触联接的结构进行信息处理的数学模型。
在工程与学术界也常直接简称为神经网络或类神经网络。
神经网络是一种运算模型,由大量的节点(或称神经元)和之间相互联接构成。
每个节点代表一种特定的输出函数,称为激励函数(activation function)。
每两个节点间的连接都代表一个对于通过该连接信号的加权值,称之为权重,这相当于人工神经网络的记忆。
网络的输出则依网络的连接方式,权重值和激励函数的不同而不同。
而网络自身通常都是对自然界某种算法或者函数的逼近,也可能是对一种逻辑策略的表达。
它的构筑理念是受到生物(人或其他动物)神经网络功能的运作启发而产生的。
人工神经网络通常是通过一个基于数学统计学类型的学习方法(Learning Method)得以优化,所以人工神经网络也是数学统计学方法的一种实际应用,通过统计学的标准数学方法我们能够得到大量的可以用函数来表达的局部结构空间,另一方面在人工智能学的人工感知领域,我们通过数学统计学的应用可以来做人工感知方面的决定问题(也就是说通过统计学的方法,人工神经网络能够类似人一样具有简单的决定能力和简单的判断能力),这种方法比起正式的逻辑学推理演算更具有优势。
1943年,心理学家W.S.McCulloch和数理逻辑学家W.Pitts建立了神经网络和数学模型,称为MP模型。
他们通过MP模型提出了神经元的形式化数学描述和网络结构方法,证明了单个神经元能执行逻辑功能,从而开创了人工神经网络研究的时代。
1949年,心理学家提出了突触联系强度可变的设想。
60年代,人工神经网络的到了进一步发展,更完善的神经网络模型被提出。
其中包括感知器和自适应线性元件等。
M.Minsky等仔细分析了以感知器为代表的神经网络系统的功能及局限后,于1969年出版了《Perceptron》一书,指出感知器不能解决高阶谓词问题。
他们的论点极大地影响了神经网络的研究。
加之当时串行计算机和人工智能所取得的成就,掩盖了发展新型计算机和人工智能新途径的必要性和迫切性,使人工神经网络的研究处于低潮。
在此期间,一些人工神经网络的研究者仍然致力于这一研究,提出了适应谐ART,同时进行了神经网络数学理论的研究。
以上研究为神经网络的研究和发展奠定了基础。
1982年,美国加州工学院物理学家J.J.Hopfield提出了Hopfield神经网格模型,引入了“计算能量”概念,给出了网络稳定性判断。
1984Hopfield神经网络模型,为神经计算机的研究做了开拓性的工作,开创了神经网络用于联想记忆和优化计算的新途径,有力地推动了神经网络的研究。
1985年,又有学者提出了波耳兹曼模型,在学习中采用统计热力学模拟退火技术,保证整个系统趋于全局稳定点。
1986年进行认知微观结构地研究,提出了并行分布处理的理论。
人工神经网络的研究受到了各个发达国家的重视。
美国国会通过决议将1990年1月5日开始的十年定为“脑的十年”,国际研究组织号召它的成员国将“脑的十年”变RWC项目中,人工智能的研究成了一个重要的组成部分。
人工神经网络的模型很多,可以按照不同的方法进行分类。
其中,常见的两种分类方法是,按照网络连接的拓朴结构分类和按照网络内部的信息流向分类。
按照网络拓朴结构分类网络的拓朴结构,即神经元之间的连接方式。
按此划分,可将神经网络结构分为两大类,层次型结构和互联型结构。
层次型结构的神经网络将神经元按功能和顺序的不同分为输出层、中间层,隐层、输出层。
输出层各神经元负责接收来自外界的输入信息,并传给中间各隐层神经元,隐层是神经网络的内部信息处理,负责信息变换。
根据需要可设计为一层或多层,最后一个隐层将信息传递给输出层神经元经进一步处理后向外界输出信息处理结果。
而互连型网络结构中,任意两个节点之间都可能存在连接路径,因此可以根据网络中节点的连接程度将互连型网络细分为三种情况,全互连型、局部互连型和稀疏连接型。
另一方面按照网络信息流向分类从神经网络内部信息传递方向来看,可以分为两种类型,前馈型网络和反馈型网络。
单纯前馈网络的结构不分层网络结构相同,前馈是因网络信息处理的方向是从输入层到各隐层再到输出层逐层进行而得名的。
前馈型网络中前一层的输出是下一层的输入,信息的处理具有逐层传递进行的方向性,一般不存在反馈环路。
因此这类网络很容易串联起来建立多层前馈网络。
反馈型网络的结构不单层全互连结构网络相同。
在反馈型网络中的所有节点都具有信息处理功能,而且每个节点既可以从外界接受输入,同时又可以向外界输出。
人工神经网络的发展前景针对神经网络存在的问题和社会需求,今后发展的主要方向可分为理论研究和应用研究两个方面。
(1)利用神经生理与认识科学研究大脑思维及智能的机理、计算理论,带着问题研究理论。
人工神经网络提供了一种揭示智能和了解人脑工作方式的合理途径,但是由于人类起初对神经系统了解非常有限,对于自身脑结构及其活动机理的认识还十分肤浅,并且带有某种“先验”。
例如, Boltzmann机引入随机扰动来避免局部极小,有其卓越之处,然而缺乏必要的脑生理学基础,毫无疑问,人工神经网络的完善与发展要结合神经科学的研究。
而且,神经科学,心理学和认识科学等方面提出的一些重大问题,是向神经网络理论研究提出的新挑战,这些问题的解决有助于完善和发展神经网络理论。
因此利用神经生理和认识科学研究大脑思维及智能的机理,如有新的突破,将会改变智能和机器关系的认识。
利用神经科学基础理论的研究成果,用数理方法探索智能水平更高的人工神经网络模型,深入研究网络的算法和性能,如神经计算、进化计算、稳定性、收敛性、计算复杂性、容错性、鲁棒性等,开发新的网络数理理论。
由于神经网络的非线性,因此非线性问题的研究是神经网络理论发展的一个最大动力。
特别是人们发现,脑中存在着混沌现象以来,用混沌动力学启发神经网络的研究或用神经网络产生混沌成为摆在人们面前的一个新课题,因为从生理本质角度出发是研究神经网络的根本手段。
(2)神经网络软件模拟,硬件实现的研究以及神经网络在各个科学技术领域应用的研究。
由于人工神经网络可以用传统计算机模拟,也可以用集成电路芯片组成神经计算机,甚至还可以用光学的、生物芯片的方式实现,因此研制纯软件模拟,虚拟模拟和全硬件实现的电子神经网络计算机潜力巨大。
如何使神经网络计算机与传统的计算机和人工智能技术相结合也是前沿课题;如何使神经网络计算机的功能向智能化发展,研制与人脑功能相似的智能计算机,如光学神经计算机,分子神经计算机,将具有十分诱人的前景。
人工神经网络打开了认识论的新领域(1)认识与脑的问题,长期以来一直受到人们的关注,因为它不仅是有关人的心理、意识的心理学问题,也是有关人的思维活动机制的脑科学与思维科学问题,而且直接关系到对物质与意识的哲学基本问题的回答。
人工神经网络的发展使我们能够更进一步地既唯物又辩证地理解认识与脑的关系,打开认识论的新领域。
人脑是一个复杂的并行系统,它具有“认知、意识、情感”等高级脑功能,用人工进行模拟,有利于加深对思维及智能的认识,已对认知和智力的本质的研究产生了极大的推动作用。
在研究大脑的整体功能和复杂性方面,人工神经网络给人们带来了新的启迪。
由于人脑中存在混沌现象,混沌可用来理解脑中某些不规则的活动,从而混沌动力学模型能用作人对外部世界建模的工具,可用来描述人脑的信息处理过程。
混沌和智能是有关的,神经网络中引入混沌学思想有助于提示人类形象思维等方面的奥秘。
人工神经网络之所以再度兴起,关键在于它反映了事物的非线性,抓住了客观世界的本质,而且它在一定程度上正面回答了智能系统如何从环境中自主学习这一最关键的问题,从认知的角度讲,所谓学习,就是对未知现象或规律的发现和归纳。
由于神经网络具有高度的并行性,高度的非线性全局作用,良好的容错性与联想记忆功能以及十分强的自适应、自学习功能,而使得它成为揭示智能和了解人脑工作方式的合理途径。
但是,由于认知问题的复杂性,目前,我们对于脑神经网的运行和神经细胞的内部处理机制,如信息在人脑是如何传输、存贮、加工的?记忆、联想、判断是如何形成的?大脑是否存在一个操作系统?还没有太多的认识,因此要制造人工神经网络来模仿人脑各方面的功能,还有待于人们对大脑信息处理机理认识的深化。
(2)人工神经网络发展的推动力来源于实践、理论和问题的相互作用随着人们社会实践范围的不断扩大,社会实践层次的不断深入,人们所接触到的自然现象也越来越丰富多彩、纷繁复杂,这就促使人们用不同的原因加以解释不同种类的自然现象,当不同种类的自然现象可以用同样的原因加以解释,这样就出现了不同学科的相互交叉、综合,人工神经网络就这样产生了。
在开始阶段,由于这些理论化的网络模型比较简单,还存在许多问题,而且这些模型几乎没有得到实践的检验,因而神经网络的发展比较缓慢。
随着理论研究的深入,问题逐渐地解决特别是工程上得到实现以后,如声纳识别成功,才迎来了神经网络的第一个发展高潮。
可Minisky认为感知器不能解决异或问题,多层感知器也不过如此,神经网络的研究进入了低谷,这主要是因为非线性问题没得到解决。
随着理论的不断丰富,实践的不断深入,现在已证明Minisky的悲观论调是错误的。
今天,高度发达的科学技术逐渐揭示了非线性问题是客观世界的本质。
问题、理论、实践的相互作用又迎来了人工神经网络的第二次高潮。
目前人工神经网络的问题是智能水平不高,还有其它理论和实现方面的问题,这就迫使人们不断地进行理论研究,不断实践,促使神经网络不断向前发展。
总之,先前的原因遇到了解释不同的新现象,促使人们提出更加普遍和精确的原因来解释。
理论是基础,实践是动力,但单纯的理论和实践的作用还不能推动人工神经网络的发展,还必须有问题提出,才能吸引科学家进入研究的特定范围,引导科学家从事相关研究,从而逼近科学发现,而后实践又提出新问题,新问题又引发新的思考,促使科学家不断思考,不断完善理论。
人工神经网络的发展无不体现着问题、理论和实践的辩证统一关系。
(3 )人工神经网络发展的另一推动力来源于相关学科的贡献及不同学科专家的竞争与协同人工神经网络本身就是一门边缘学科,它的发展有更广阔的科学背景,亦即是众多科研成果的综合产物,控制论创始人Wiener在其巨著《控制论》中就进行了人脑神经元的研究;计算机科学家Turing就提出过B网络的设想;Prigogine提出非平衡系统的自组织理论,获得诺贝尔奖;Haken研究大量元件联合行动而产生宏观效果,非线性系统“混沌”态的提出及其研究等,都是研究如何通过元件间的相互作用建立复杂系统,类似于生物系统的自组织行为。
脑科学与神经科学的进展迅速反映到人工神经网络的研究中,例如生物神经网络理论,视觉中发现的侧抑制原理,感受野概念等,为神经网络的发展起了重要的推动作用。