神经网络作业

1.神经网络的发展与展望

经过近半个世纪的发展。神经网络理论在模式识别"自动控制"信号处理"辅助决策"人工智能等众多研究领域取得了广泛的成功，关于学习"联想和记忆等具有智能特点过程的机理及其模拟方面的研究正受到越来越多的重视，目前神经网络研究与发展主要集中在以下5个方面.

1. 神经生理学

神经解剖学研究的发展通过神经网络研究的发展。人们对人脑一些局部功能的认识已经有所提高。如对感知器的研究，对视觉处理网络的研究。对存储与记忆问题的研究等都取得一定的成功。遗憾的是这些成功一方面还远不够完善。另一方面。在对人脑作为一个整体的功能的解释上几乎起不到任何作用。科学家已经积累了大量关于大脑组成大脑外形、大脑运转基本要素等知识，但仍无法解答有关大脑信息处理的一些实质问题。

整体功能决不是局部功能的简单组合，而是一个巨大的质的飞跃。人脑的知觉和认知等过程是包含着一个复杂的动态系统中对大量神经元活动进行整合的统一性行动。由于人们对人脑完整工作过程几乎没有什么认识。连一个稍微完善的可令人接受的假设也没有。这造成神经网络研究始终缺乏一个明确的大方向这方面如果不能有所突破。神经网络研究将始终限于模仿人脑局部功能的缓慢摸索过程当中。而难以达到研究水平的质的飞跃。

2. 与之相关的数学领域的研究与发展

神经元以电为主的生物过程在认识上一般采用非线性动力学模型。其动力学演变过程往往是非常复杂的。神经网络这种强的生物学特征和数学性质。要求有更好的数学手段而对解决非线性微分方程这样的问题。稍微复杂一些的便没有办法利用数学方法求得完整的解这使得在分析诸如一般神经网络的自激振荡"稳定性"混沌等问题时常常显得力不从心。更不用说。当我们面对人脑这样的由成千上万个神经元网络子系统组成的巨系统。而每个子系统具有某种特定功能，又可能由成千上万个神经元组成。每个神经元本身是一个基本的非线性环节。

因此，笔者认为当今神经网络理论的发展已经客观要求有关数学领域必须有所发展。并大胆预期一种更简洁、更完善和更有效的非线性系统表达与分析的数学方法是这一领域数学发展的主要目标之一。

3. 神经网络应用的研究与发展

从神经网络发展过程看，理论研究经常走在前列。有时会超出实际使用阶段。虽然说理论研究和实际应用可以相辅相成。但实际需求总是科技发展的主要推动力。目前，在神经网络实用上，虽然有不少实际应用成果报道。如智能控制、模式识别及机器人控制等，但真正成熟的应用还比较少见。在这方面，作者重点研究了神经网络在故障诊断领域的应用。如将神经网络与信息融合技术相结合，构造出一神经网络信息融合分类器，并将其应用于电子设备故障断之中。取得了比较好的应用效果。

4.神经网络硬件的研究与发展

要真正实现神经网络计算机则神经网络芯片设计与生产技术必须有实质性的进展。目前，在单片上集成数百个神经元的制作技术已经没有困难。但这种水平与神经网络实际应用的要求尚有较大距离。神经网络硬件设计和理论研究相比要落后很多。因此这也是神经网络研究发展的重要方向之一。在这方面，光学技术是实现神经网络及神经计算机的一个比较理想的选择。因为光学技术具有非常好的固有特性。主要体现在(高驱动性较高的通信带宽以光速并行传递信息等。虽然光学神经计算机实现技术目前还不成熟，其商品化大规模实现还有待时日，但一些光学神经元器件，光电神经计算机研究已表现出广阔的发展和应用潜力， 并引起相应领域的充分关注。

5.新型神经网络模型的研究

为了推动神经网络理论的发展，除了期待神经生理学等研究突破外!将神经网络与其他理论交叉结合。研究新型神经网络模型!也是神经网络研究发展方向之一。如将之与混沌理论相结合产生的混沌神经网络理论。再如将量子力学与神经网络的结合研究量子神经网络，实现功能强大的量子神经计算就是目前神经网络研究的热点之一。在模型研究方面作者将模糊集合论与小脑神经网络相结合。研究了模糊小脑神经网络的组织运行原理，并将其应用到动态非线性系统的在线故障辨识之中较好地解决了非线性动态系统容错控制问题。

2.人工神经网络的种类及应用领域

1.小波神经网络

小波神经网络将小波变换良好的时频局域化特性和神经网络的自学习功能相结合，因而具有较强的逼近能力和容错能力。在结合方法上，可以将小波函数作为基函数构造神经网络形成小波网络，或者小波变换作为前馈神经网络的输入前置处理工具，即以小波变换的多分辨率特性对过程状态信号进行处理，实现信噪分离，并提取出对加工误差影响最大的状态特性，作为神经网络的输入。

小波神经网络在电机故障诊断、高压电网故障信号处理与保护研究、轴承等机械故障诊断以及许多方面都有应用，将小波神经网络用于感应伺服电机的智能控制，使该系统具有良好的跟踪控制性能，以及好的鲁棒性，利用小波包神经网络进行心血管疾病的智能诊断，小波层进行时频域的自适应特征提取，前向神经网络用来进行分类，正确分类率达到94%。

小波神经网络虽然应用于很多方面，但仍存在一些不足。从提取精度和小波变换实时性的要求出发，有必要根据实际情况构造一些适应应用需求的特殊小波基，以便在应用中取得更好的效果。另外，在应用中的实时性要求，也需要结合DSP的发展，开发专门的处理芯片，从而满足这方面的要求。

2.混沌神经网络

混沌第一个定义是上世纪70年代才被Li?Yorke第一次提出的。由于它具有广泛的应用价值，自它出现以来就受到各方面的普遍关注。混沌是一种确定的系统中出现的无规则的运动，混沌是存在于非线性系统中的一种较为普遍的现象，混沌运动具有遍历性、随机性等特点，能在一定的范围内按其自身规律不重复地遍历所有状态。混沌理论所决定的是非线性动力学混沌，目的是揭示貌似随机的现象背后可能隐藏的简单规律，以求发现一大类复杂问题普遍遵循的共同规律。

1990年KAihara、TTakabe和MToyoda等人根据生物神经元的混沌特性首次提出混沌神经网络模型，将混沌学引入神经网络中，使得人工神经网络具有混沌行为，更加接近实际的人脑神经网络，因而混沌神经网络被认为是可实现其真实世界计算的智能信息处理系统之一，成为神经网络的主要研究方向之一。与常规的离散型Hopfield神经网络相比较，混沌神经网络具有更丰富的非线性动力学特性，主要表现如下：在神经网络中引入混沌动力学行为；混沌神经网络的同步特性；混沌神经网络的吸引子。

当神经网络实际应用中，网络输入发生较大变异时，应用网络的固有容错能力往往感到不足，经常会发生失忆现象。混沌神经网络动态记忆属于确定性动力学运动，记忆发生在混沌吸引子的轨迹上，通过不断地运动(回忆过程)，一一联想到记忆模式，特别对于那些状态空间分布的较接近或者发生部分重叠的记忆模式，混沌神经网络总能通过动态联想记忆加以重现和辨识，而不发生混淆，这是混沌神经网络所特有的性能，它将大大改善Hopfield神经网络的记忆能力。混沌吸引子的吸引域存在，形成了混沌神经网络固有容错功能。这将对复杂的模式识别、图像处理等工程应用发挥重要作用。

3.基于粗集理论的神经网络

粗糙集(Rough sets)理论是1982年由波兰华沙理工大学教授Z?Pawlak首先提出，它是一个分析数据的数学理论，研究不完整数据、不精确知识的表达、学习、归纳等方法。粗糙集理论是一种新的处理模糊和不确定性知识的数学工具，其主要思想就是在保持分类能力不变的前提下，通过知识约简，导出问题的决策或分类规则。目前，粗糙集理论已被成功应用于机器学习、决策分析、过程控制、模式识别与数据挖掘等领域。

粗集和神经网络的共同点是都能在自然环境下很好的工作，但是，粗集理论方法模拟人类的抽象逻辑思维，而神经网络方法模拟形象直觉思维，因而二者又具有不同特点。粗集理论方法以各种更接近人们对事物的描述方式的定性、定量或者混合性信息为输入，输入空间与输出空间的映射关系是通过简单的决策表简化得到的，它考虑知识表达中不同属性的重要性确定哪些知识是冗余的，哪些知识是有用的，神经网络则是利用非线性映射的思想和并行处理的方法，用神经网络本身结构表达输入与输出关联知识的隐函数编码。

在粗集理论方法和神经网络方法处理信息中，两者存在很大的两个区别：其一是神经网络处理信息一般不能将输入信息空间维数简化，当输入信息空间维数较大时，网络不仅结构复杂，而且训练时间也很长；而粗集方法却能通过发现数据间的关系，不仅可以去掉冗余输入信息，而且可以简化输入信息的表达空间维数。其二是粗集方法在实际问题的处理中对噪声较敏感，因而用无噪声的训练样本学习推理的结果在有噪声的环境中应用效果不佳。而神经网络方法有较好的抑制噪声干扰的能力。

因此将两者结合起来，用粗集方法先对信息进行预处理，即把粗集网络作为前置系统，再根据粗集方法预处理后的信息结构，构成神经网络信息处理系统。通过二者的结合，不但可减少信息表达的属性数量，减小神经网络构成系统的复杂性，而且具有较强的容错及抗干扰能力，为处理不确定、不完整信息提供了一条强有力的途径。

目前粗集与神经网络的结合已应用于语音识别、专家系统、数据挖掘、故障诊断等领域，将神经网络和粗集用于声源位置的自动识别，将神经网络和粗集用于专家系统的知识获取中，取得比传统专家系统更好的效果，其中粗集进行不确定和不精确数据的处理，神经网络进行分类工作。

4.神经网络与分形理论的结合

自从美国哈佛大学数学系教授B?B?Mandelbrot于20世纪70年代中期引入分形这一概念，分形几何学(Fractal geometry)已经发展成为科学的方法论--分形理论，且被誉为开创了20世纪数学重要阶段。现已被广泛应用于自然科学和社会科学的几乎所有领域，成为现今国际上许多学科的前沿研究课题之一。由于在许多学科中的迅速发展，分形已成为一门描述自然界中许多不规则事物的规律性的学科。它已被广泛应用在生物学、地球地理学、天文学、计算机图形学等各个领域。

分形神经网络的应用领域有图像识别、图像编码、图像压缩，以及机械设备系统的故障诊断等。分形图像压缩／解压缩方法有着高压缩率和低遗失率的优点，但运算能力不强，由于神经网络具有并行运算的特点，将神经网络用于分形图像压缩／解压缩中，提高了原有方法的运算能力。将神经网络与分形相结合用于果实形状的识别，首先利用分形得到几种水果轮廓数据的不规则性，然后利用3层神经网络对这些数据进行辨识，继而对其不规则性进行评价。

分形神经网络已取得了许多应用，但仍有些问题值得进一步研究：分形维数的物理意义；分形的计算机仿真和实际应用研究。随着研究的不断深入，分形神经网络必将得到不断的完善，并取得更好的应用效果。