下载文档原格式
基于混沌和神经网络的时域参数测试研究及其在示波器中的应用的开题报告一、选题背景和意义随着社会的不断发展，现代科技也在不断进步。
示波器作为一种重要的电子测试仪器，被广泛应用于电子技术、通信技术等领域，对于接口的、高精度的模拟信号处理和数字信号处理等方面均具有重要作用。
因此，如何提高示波器的精度和性能一直是电子技术领域的重要研究内容之一。
而通过混沌和神经网络等高新技术的应用，可以显著提高示波器的性能。
二、研究内容1. 混沌和神经网络的基本原理与研究进展。
2. 混沌和神经网络在电子测试领域中的应用研究。
3. 基于混沌和神经网络的时域参数测试方法研究。
4. 基于混沌和神经网络的时域参数测试方法在示波器中的应用研究。
三、研究目的和意义本研究旨在探讨混沌和神经网络等高新技术在电子测试领域中的应用，特别是在示波器中的应用。
通过研究和实验，可使示波器的测试精度和性能得到进一步提高，实现电子测试的更高效、更精确、更方便的目标。
同时，该研究还可为相关领域的混沌和神经网络技术的研究和应用提供借鉴和参考。
四、研究方法本研究采用文献研究法和实验法相结合的方法，通过对文献资料的查阅和分析，了解混沌和神经网络等高新技术在电子测试和示波器领域的应用情况及研究进展，并对基于混沌和神经网络的时域参数测试方法进行研究。
同时，依据具体实验需要设计相应的样品和实验设备，分析实验结果，从而验证研究成果。
五、拟解决的关键问题1. 混沌和神经网络基本原理及其在电子测试领域中的应用。
2. 基于混沌和神经网络的时域参数测试方法的设计和研究。
3. 基于混沌和神经网络的时域参数测试方法在示波器中的应用研究。
六、预期成果本研究预期通过深入研究混沌和神经网络在电子测试领域中的应用，提出基于混沌和神经网络的时域参数测试方法，并将其应用于示波器中。
该研究成果可以提高示波器的测试精度和性能，为电子测试和相关领域的混沌和神经网络技术研究和应用提供参考和借鉴。
混沌的神经网络
Aihara,K
【期刊名称】《世界科学》
【年(卷),期】1992(000)004
【摘要】现在研究神经网络的人很多,但主要是人工神经网络。
最近,有几个实验室分析了健康人的脑电图,发现其中存在混沌的证据;混沌也会是神经系统的正常特征。
其实,尤其在一个单独的生物神经元中,可以在实验上观察到混沌性态,而这是一般人工神经元所没有的。
本文介绍一种单独神经元的模型,它能够定性地描写实验观察
到的混沌响应。
一、神经元的非线性动力学模拟生物神经元动态的历史要追溯到早期的一些著名模型,例如MoCulloch-Pitts神经元(1943)
【总页数】3页(P10-11,14)
【作者】Aihara,K
【作者单位】无
【正文语种】中文
【中图分类】Q811.211
【相关文献】
1.混沌神经网络中的超混沌复杂性研究 [J], 王辉;张兴周
2.基于暂态混沌神经网络的低阶混沌时间序列预测 [J], 李天舒;田凯;李文秀
3.基于混沌保持神经元的混沌神经网络中的超混沌 [J], 李钰
4.返回扩张不动点与瞬态混沌神经网络中的混沌研究 [J], 王立冬;王辉
5.一种混沌神经网络的混沌时间序列预测 [J], 王燚;郭伟
因版权原因，仅展示原文概要，查看原文内容请购买。
基于神经网络的混沌控制技术研究在当今快速发展的科技时代，人类对于混沌现象的探究已经不是一个新的话题。
在物理、化学、天文等科学领域，混沌现象的研究已经有了很多成果，并且为人类的现代技术与实践提供了许多重要的理论支持。
而在混沌控制技术方面，人们一直在不断寻找更加高效、可靠的方法来控制混沌现象，而神经网络就是其中一种非常重要的方法。
神经网络是一种强大的工具，它可以对大量的数据进行处理和分析。
其基本原理类似于动物的神经系统，由大量的神经元组成，通过神经元之间的链接传递信息。
这种网络结构可以用来处理各种不同类型的数据，包括数字、图像、音频等。
在混沌控制技术中，神经网络的主要作用是通过对混沌系统的建模，来控制混沌运动。
具体实现方法一般包括以下几个步骤：第一步是混沌系统的建模。
在这一步中，需要对混沌系统的特性和运动状态进行分析，并确定其数学模型。
第二步是神经网络的设计。
这一步主要是根据混沌系统的模型来设计神经网络，通过选择合适的网络结构和参数设置，使神经网络能够准确地模拟混沌系统的运动。
第三步是神经网络的训练。
在这一步中，需要将混沌系统的实际运动数据输入神经网络中进行训练，以使神经网络能够更准确地模拟混沌系统的运动。
第四步是神经网络的控制。
在这一步中，通过使用训练好的神经网络来控制混沌系统的运动，以实现混沌系统的稳定控制。
通过采用神经网络方法，可以有效地控制混沌运动，实现稳定控制。
其中，神经网络的性能与混沌系统的特性密切相关，因此需要对不同的混沌系统进行分析和控制。
麻省理工学院的学者Hiroki Sayama等人对神经网络在混沌控制方面做了较为深入的研究，利用特定的算法实现了对混沌系统的深度控制。
研究发现，通过改变神经网络的连接方式和神经元数量等因素，可以有效地控制混沌系统的运动。
此外，日本的一些学者也在神经网络控制混沌系统方面进行了研究。
其中，宫川纪夫、内田树、长井正基等学者在相关领域的研究成果在国际上有着广泛的影响，并且他们所开发的混沌控制系统也被广泛应用于工业、交通、军事等领域。
上海大学2010 ～2011 学年冬季学期研究生课程论文课程名称：《动力系统基础》课程编号：011201907论文题目: 混沌神经网络的研究及其应用作者姓名:王敏瑞学号: 10720072 成绩: 论文评语:评阅人签名:批阅日期:混沌神经网络的研究及其应用王敏瑞（上海大学理学院，上海200444）摘要：本文通过保持暂态混沌神经元的混沌搜索机制，产生了一类新的混沌动力学系统。
首先分析了该混沌动力系统的参数对系统的影响；其次分析了其混沌时间序列的Lyapunov指数、关联维、熵等动力学特性。
举例通过试验分析验证了该混沌动力系统在密码学上应用。
关键词：混沌动力系统混沌神经元Lyapunov指数The Research And Application OfChaotic Neural NetworkWang Minrui(College of science, Shanghai University, Shanghai 200444. China)Abstract：This paper presents a kind of novel chaotic dynamic system by maintaining the chaotic searching mechanism of TCNN. First, we make an analysis of the parameters’ effects to the system; second, we make an analysis of the Lyapunov exponent, correlation dimension, entropy of the chaotic time series. The test proves that the chaotic dynamic system in encrypt is valid.Key Words: chaotic dynamic system chaotic neural unit Lyapunov exponent0.引言目前广泛研究的混沌神经网络模型是在Hopfield神经网络中引入了一个具有混沌特性的负反馈项，进而得到了混沌神经网络模型，因此在深入研究混沌神经网络之前，有必要先介绍一下Hopfield神经网络。
基于混沌动力学的生物神经网络模型的构建近年来，基于混沌动力学的生物神经网络模型正逐渐成为神经科学领域内的研究热点。
由于神经元是一种高度非线性的元素，它在网络中的行为模式往往表现出混沌性质。
因此，通过建立混沌动力学模型，可以更好地描述神经元的行为，从而深入研究神经网络的结构、功能和信息处理机制。
本文将重点介绍基于混沌动力学的生物神经网络模型的构建。
一、混沌动力学的基础混沌动力学是一种研究复杂非线性系统的数学理论，它解释了许多自然现象中存在的明显混沌行为。
混沌动力学模型具有以下几个特点：1. 非线性性：混沌动力学模型的非线性度往往非常高，使得模型常常表现出复杂、不可预测的行为；2. 敏感依赖初值：微小的初值差异可能导致模型演化过程中产生巨大的变化；3. 自组织：混沌动力学模型是具有自组织能力的系统，它能够产生出一种具有自我组织、自我适应、自我控制的动力学结构。
二、基于混沌动力学的神经元模型在神经科学领域内，Hindmarsh-Rose模型是最为常用的基于混沌动力学的神经元模型之一。
该模型是一种三维非线性动力学系统，由以下方程组构成：$$\frac{dx}{dt} = y - ax^3 + bx^2 -z + I$$$$\frac{dy}{dt} = c - dx^2 - y$$$$\frac{dz}{dt} = r(s(x-x_0)-z)$$其中，$x$代表神经元膜电位的变化，$y$代表离子流的变化量，$z$代表高阈电流通道的变化量，$a$、$b$、$c$、$d$、$r$、$s$、$x_0$均为可调参数，$I$代表外部刺激。
该模型的非线性度较高，两种稳态相序、混沌状态、周期振荡状态均可在该模型中被观察到。
三、混沌动力学的生物神经网络模型在混沌动力学的基础上，可以建立生物神经网络模型。
其中，网络中的每个神经元都可以建立基于混沌动力学的模型，从而描述其非线性行为。
在此基础上，可以进一步揭示神经网络中的信息处理机制、同步性等重要特征。
混沌神经网络优化机制研究王逊;朱志宇【摘要】分析了混沌神经网络的优化机制,研究了具有模拟退火特性的混沌神经网络模型,给出了混沌神经网络的能量函数,以及计算网络Lyapunov指数的方法,从理论上证明了当网络参数满足一定条件时,网络具有混沌性状.在仿真实验中,应用Hopfield网络和混沌神经网络求解信道分配问题.结果表明,混沌神经网络在求解优化问题时具有更强的搜索全局最优解的能力,和更快的收敛速度.【期刊名称】《江苏科技大学学报（自然科学版）》【年(卷),期】2007(021)003【总页数】5页(P42-46)【关键词】混沌神经网络;Hopfield神经网络;优化;信道分配【作者】王逊;朱志宇【作者单位】江苏科技大学,电子信息学院,江苏,镇江,212003;江苏科技大学,电子信息学院,江苏,镇江,212003【正文语种】中文【中图分类】TN9110 引言Hopfield神经网络(HNN)在优化问题的求解过程中获得了广泛应用,它通过在网络中引入能量函数以构造动力学系统,并使网络的平衡态与能量函数的极小解相对应,从而将实际问题的优化解与神经网络的稳定状态相对应,将求解能量函数极小解的过程转化为网络向平衡态的演化过程。
但是这种网络在求解许多优化问题时收敛过程易产生振荡,容易陷入局部极小[1-2]。
近几年来,混沌特有的动力学特性引起了众多学者的高度关注,理论和实验研究均表明,与一般的神经网络相比,混沌神经网络具有更强的全局搜索能力和寻优能力[3-5]。
目前主要采用两种方法来构造混沌神经网络,一种是在离散Hopfield网络(HNN)中增加一个大的自反馈项,通过引入混沌动态来构造混沌神经网络;另一种是通过在HNN中引入外部机制产生的混沌噪声来构成混沌神经网络。
本文详细分析混沌神经网络中的混沌暂态动力学行为,研究判别混沌神经网络的混沌特性的Lyapunov指数法。
1 混沌神经网络模型本节讨论的混沌神经网络模型是应用欧拉法对连续时间HNN模型离散化后得到的[4],通过改变Eular离散化HNN的时间步长,其模型描述为( 1 )( 2 )Δt(t+1)=βΔt(t)( 3 )γ(t+1)=(1-λ)·γ(t)( 4 )( 5 )η(k)=(1-ε)·η(k-1)( 6 )其中Δt表示t时刻的步长(系统分岔参数),0<β<1。
人工智能,面向对象和思维,混沌间的关系
董军
【期刊名称】《计算机科学》
【年(卷),期】1997(024)005
【摘要】人工智能就是计算机执行某些与人的智能有关的复杂功能的能力[1],是对人类智能的一种拟和扩展。
面向对象方法以类、对象、消息和方法为最基本的特征图,追求的是求解空间与问空间的直接模仿。
【总页数】4页(P67-70)
【作者】董军
【作者单位】浙江大学CAD＆CG国家重点实验室
【正文语种】中文
【中图分类】TP18
【相关文献】
1.个人与群体间实体思维向关系思维转向——兼论个人存在的两种群体生活类型[J], 王洪波
2.面向对象方法中对象间关系的研究 [J], 万建成;张曙明
3.一种面向对象类间关系测试方法 [J], 申小荣;段富
4.人工智能和思维的关系初探 [J], 张保生
5.人工智能是否可以超越人类智能?——计算机和人脑、算法和思维的关系 [J], 钱铁云
因版权原因，仅展示原文概要，查看原文内容请购买。
基于混沌神经网络加密研究混沌神经网络加密是一种新兴的加密算法，它结合了混沌系统和神经网络的优势，具有高度的安全性和可靠性。
在这篇文章中，我们将详细介绍混沌神经网络加密的原理、特点和应用。
混沌神经网络加密的原理是基于混沌系统的非线性和随机性特征以及神经网络的非线性映射能力。
混沌系统是一种高度不可预测的系统，具有随机性、非线性和灵敏性等特点，这使得混沌神经网络加密具有高度的安全性。
神经网络是一种仿生学的模式识别和数据处理工具，它可以通过学习和训练来适应不同的数据模式，具有自适应性和学习能力。
混沌神经网络加密的加密过程分为训练和加密两个阶段。
首先，在训练阶段，将混沌系统的初始条件作为训练样本输入到神经网络中，通过反向传播算法调整神经网络的权重和阈值。
然后，在加密阶段，将待加密的原始数据输入到训练好的神经网络中，通过神经网络的非线性映射和混沌系统的随机性生成密文。
与其他传统的加密算法相比，混沌神经网络加密具有以下几个特点：首先，混沌神经网络加密具有高度的安全性。
混沌系统的非线性和随机性特征使得密钥空间非常大，增加了破解的难度。
同时，由于混沌系统的高度不可预测性，使得攻击者无法获取到系统的关键信息，提高了加密算法的安全性。
其次，混沌神经网络加密具有较高的速度和效率。
由于神经网络的学习能力和非线性映射能力，使得加密和解密的速度较快。
此外，混沌神经网络加密还可以采用并行处理的方式，进一步提高加密的效率。
最后，混沌神经网络加密具有较好的容错性和鲁棒性。
由于混沌系统的灵敏性和神经网络的自适应性，即使在输入数据有噪声或者干扰的情况下，仍然可以保持较好的加密效果。
混沌神经网络加密可以应用于各种领域的数据保护和加密通信。
例如，可以应用于电子商务、网络传输、物联网和云计算等领域，保护用户的隐私和敏感信息。
此外，混沌神经网络加密还可以用于图像加密、语音加密和视频加密等多媒体数据的保护。
综上所述，混沌神经网络加密是一种结合了混沌系统和神经网络的加密算法，具有高度的安全性、速度和效率。
小波混沌神经网络研究及其应用的开题报告一、选题背景随着科技的不断发展，各行各业都在不断地寻求新的技术来提高效率、降低成本以及改进产品。
在工业、农业、医疗等多个领域，神经网络技术都得到了广泛的应用，取得了显著的效果。
在神经网络的发展过程中，小波混沌神经网络逐渐受到了人们的关注和研究。
二、研究目的和意义小波混沌神经网络是一种新型的神经网络模型，具有较强的适应性、学习能力和容错性，在信号处理、时间序列分析、图像识别等领域具有广泛的应用前景。
本研究旨在对小波混沌神经网络进行深入研究，探索其基本原理、特点以及应用实践，进一步提高小波混沌神经网络的设计和优化水平，为实际应用提供科学依据。
三、研究内容和方法1.小波混沌神经网络的基本理论及其数学模型的建立。
2.小波混沌神经网络的学习算法和优化算法的研究。
3.小波混沌神经网络在信号处理、时间序列分析、图像识别等方面的应用实践研究。
研究方法包括文献调研、实验分析、数据统计等，利用matlab等软件进行模拟仿真和实验验证，探究小波混沌神经网络的性能和应用效果。
四、预期成果1.对小波混沌神经网络的基本理论、特点以及应用进行深入探讨，为神经网络研究提供新的思路和方法。
2.掌握小波混沌神经网络的设计和优化方法，提高小波混沌神经网络的性能。
3.在信号处理、时间序列分析、图像识别等领域探索小波混沌神经网络的应用实践，为实际生产和应用提供参考。
五、研究进度安排1.前期准备（1周）：进行文献调研，收集有关小波混沌神经网络的研究资料，准备相关软件及数据集。
2.理论研究（4周）：对小波混沌神经网络的基本理论、特点及优化方法进行深入探讨，建立小波混沌神经网络的数学模型。
3.算法设计（4周）：根据小波混沌神经网络的基本理论及特点，设计小波混沌神经网络的学习算法和优化算法。
4.应用实践（5周）：在信号处理、时间序列分析、图像识别等领域进行小波混沌神经网络的应用实践，分析其应用效果并进行优化。
一类混沌神经网络的观测器广义投影同步设计
王兴元;孟娟
【期刊名称】《应用力学学报》
【年(卷),期】2008(25)4
【摘要】研究了混沌神经网络的广义投影同步问题。
基于改进的非线性状态观测器理论和极点配置技术,设计了一种新的广义投影同步方案。
该方案可以实现不同混沌神经网络之间的广义投影同步。
通过对细胞神经元系统和三阶Winner-Take-All竞争型混沌神经元系统的数值仿真试验,进一步验证了所提方案的有效性。
该方案具有全局性,与混沌神经网络的初始条件无关,且可以灵活地调整同步误差的收敛速度。
【总页数】4页(P656-659)
【关键词】非线性状态观测器;极点配置技术;广义投影同步;混沌神经网络
【作者】王兴元;孟娟
【作者单位】大连理工大学
【正文语种】中文
【中图分类】R318.19
【相关文献】
1.一类基于广义观测器的混沌系统自适应同步方法 [J], 季晓蕾;惠淑荣;郭志鹏;张国伟
2.基于状态观测器的一类混沌系统的投影同步 [J], 尹柯;夏保胜
3.基于观测器的混沌系统广义投影同步 [J], 汪贺;贾贞;李勇;王俊
4.基于非线性观测器的一类分数阶混沌系统完全状态投影同步 [J], 陈向荣;刘崇新;李永勋
5.基于模糊观测器混沌系统的广义投影同步 [J], 赵磊;郑永爱
因版权原因，仅展示原文概要，查看原文内容请购买。
第26卷第5期1997年10月 信息与控制Infor mation and Contr olV ol.26,N o.5 Oct.,1997混沌神经网络研究进展与展望董 军 胡上序(浙江大学 杭州 310027)摘 要 概述了混沌动力学的特性,回顾了近年来混沌神经元模型及混沌神经网络的研究进展,在此基础上,介绍了两种混沌神经网络模型,分析了其构成和特点.已有研究结果表明,混沌神经网络在联想记忆和组合优化等方面有着比现有网络更好的性能.最后,指出了混沌神经网络的应用与研究方向.关键词 混沌,人工神经元,混沌神经网络,联想记忆,组合优化1 引言在过去的十年里,人工神经元网络的研究与应用是计算机与人工智能、认知科学、神经生理学、非线性动力学等相关专业的热点.它吸引了为数众多的科技工作者,提出或用及的网络类型有百种,涉及模式识别、决策优化、联想记忆、自适应控制和计算机视觉等等难以胜数的方面,有关神经网络算法、性能及应用的论文大量出现.然而,由于目前人类对真实神经系统只了解非常有限的一部分,对于自身脑结构及其活动机理的认识还十分肤浅,当今的神经网络模型实际上是极为简略和粗糙,并且是带有某种“先验”的.譬如,Boltzmann机引入随机扰动来避免局部最小,有其卓越之处,然而缺乏必要的脑生理学基础.毫无疑问,人工神经元网络的完善与发展有待于神经生理学、神经解剖学的研究给出更加详细的信息和证据.近年来,人们发现,脑中存在着混沌现象[1,2],混沌理论可用来理解脑中某些不规则的活动[3],从而,混沌动力学为人们研究神经网络提供了新的契机,用神经网络研究或产生混沌以及构造混沌神经网络成为摆在人们面前的又一新课题.因为从生理本质角度出发(这里并不是单纯提倡纯粹意义上的生理模拟,因为人类认识自然和社会的规律并非是一种“照抄照搬”的过程,只是应该有客观的依据和明确的目的)是研究神经网络的根本手段.为此,本文对当今混沌神经网络的研究作一简要回顾,疏漏之处在所难免,恳望指正.2 混沌动力学简介神经网络是高度非线性动力学系统.动力学系统一般可定义为由确定的微分方程或差分方程描述的一个系统在时间轴上的状态演变,若刻划系统的函数对自变量的依赖关系高于一次,则此动力学系统为非线性动力学系统[4].动力学系统中的吸引子(Attractor)是一个十分重要的概念,当某一时刻系统状态确定后,其后的状态将按动力学方程转移,靠近某一稳定状态,这样的状态便是吸引子.吸引子有许多种,包括点吸引子,周期吸引子,奇异吸引子(混沌是其典型例子).通常,神经网络有多个吸引子,吸引子对应的初值集合叫做吸引域.神经网络研究的关键是吸引域[5].严格说来,混沌现象是不含外加随机因素的完全确定性的系统所表现出的内秉随机行 1996-06-21收稿为[6].是界于规则和随机之间的一种行为.对于混沌性质的判别,从数学上讲至今没有统一的定义,比较常用的有Li-Yorke,Devaney,M arotto 意义下的混沌3种.在实际上为了刻划混沌动力学性质往往用到Lyapunov 指数和熵[7,8].设离散动力系统(X ,f ),初值为x 0,生成轨道为{x n },n ∈Z .考虑沿x 0的某个切线方向上的无穷小扰动y 0,则y 0随时间的演化服从于y n +1=Df (x n )y n(1)显然y 0/ y 0 给出了在x 0处所引起扰动方向,而 y n / y 0 表示扰动是放大或缩小.由(1)式得y n =Df n (x 0)y 0(2)其中Df n (x 0)=Df (x n -1)Df (x n -2)…Df (x 0).这样就可定义在初值x 0下,沿着y 0/ y 0 方向的Lyapunov 指数为L E (x 0,u 0)=lim n →∞1n ln( y n / y 0 )=lim n →∞1n ln(Df n (x 0)u 0)(3)其中u 0= y 0 / y 0 .正的Lyapunov 指数表征存在混沌行为.1963年Lorenz 在分析气侯数据时发现:初值十分接近的两条曲线的最终结果会相差很大,从而获得了混沌的第一个例子;1975年Li-Yorke 的论文“周期三意味着混沌”使“混沌”一词首次出现在科技文献中.混沌可由简单的确定性规则产生,其运动状态可容易地由控制参数改变,并可使初值的微小差别加以扩大,表面上的非周期背后隐藏着有序性,混沌表明了长期预测是不可能的.混沌的研究始于数学和物理,现已扩及工程、信息和社会科学领域.目前,混沌的应用可分为综合混沌(Sy nthetic Chaos)和分析混沌(Analy tic Chaos)两方面[9].前者利用人工产生的混沌从混沌动力学系统中获得可能的功能,如人工神经网络的联想记忆,逃离局部最小,机器人的路径规划等,它们都利用了简单的确定性规则;后者分析由复杂的人工和自然系统中获得的混沌信号并寻找隐藏的确定性规则,如时间序列数据的非线性确定性预测,系统的诊断和控制等.混沌吸引子是混沌系统研究的主要对象,不管系统初态如何,最终行为都取决于吸引子.神经网络理论研究中引入混沌学思想有助于揭示人类形象思维等方面的奥秘,进而为合理利用神经网络的混沌行为指明方向[10].3 混沌神经元模型及混沌神经网络的研究情况混沌是一种非线性的动力学行为,而Ho pfield 结构正是神经网络与非线性动力学行为的良好结合,因而它可以作为研究混沌神经网络的基础网型[11,17];而BP 算法可用来观察、学习混沌动力学系统[12],用被破坏的输入数据集重构二维混沌系统的吸引子,得到相应的几何信息[13].混沌神经网络的研究起于并基于混沌神经元的研究[3,14～22],混沌神经元是构造混沌神经网络的基本单位,对于单个神经元的混沌特性的了解可为混沌神经网络提供必要前提和认识基础.混沌神经元的研究中,振荡子(Oscillator )是一种典型的研究对象[17～19,32],因为振荡子或它们的组合可表现出丰富的混沌动力学行为.对于在动力系统平衡点不满足Lipschitz 条件所引起的极限(Terminal)混沌的现象的研究显示:神经元活动的混沌态与高级认识过程有关[14];还有用谱和维数分析混沌神经元模型[15],并用f ( )谱量化混沌神经元模型的多分形(M ulti-fractal)结构[16].混沌神经网络的框架或模型也已提出[18～24],并涉及联想记忆、组合优3615期董 军等:混沌神经网络研究进展与展望362信 息 与 控 制26卷 化如T SP等问题.人们对人工神经网络有兴趣的原因,归根结底还是希望能看到神经网络的硬件实现,即构造神经计算机,所以,构造和讨论硬件线路以观察混沌神经元或神经网络的混沌响应[11,15,17,25,26],不仅可直接观察混沌神经网络的动力学行为,还可为构造混沌神经计算机打下基础.由3个神经元组成的自激(Autonomo us)元胞神经网络实际上是一种简化模型[17,25,27],这有助于用神经网络分析分形和混沌行为.两个神经元组成的延时元胞神经网络也是如此[28],通过研究特征值和特征向量可以得出混沌神经元奇异吸引子的量化描述.混沌时间序列则是研究较多的又一方面[12,13,29].混沌时间序列在其内部有确定的规律性,这来自于它的非线性混沌动力学特性,它们使系统表现出某种记忆能力,这种性质不易为解析法所描述,但又适于用神经网络处理.而混沌系统不可能作长期预测,但只要有足够好的模型和对初始条件的精确观察,它的确定性却使之在预测能力消失以前可以进行短期预测.这里又是一个吸引人的崭新天地.通过对于流体(Fluid)神经网络(由具有随机活动性的可移动的单元构成的神经网络)中的混沌的研究,得到了用于描述象昆虫社会、机器人集体、免疫系统等一类系统的理论框架[30],这对于用混沌理论分析社会大系统,对于系统工程,都是有所启发的.研究间歇性(Inter mittency)有助于对混沌神经元及其网络的混沌动力学活动的本质的了解[31,32],而混沌在信息处理中的作用和角色更是人们的关心之处[33～36],尤其是与联想记忆、模式识别有关的方面.应用混沌动力学特性,构造一个双向网络,使联结权值对应某种约束,则可将有效模式存在网络能量域的局部最小点[30].耦合的伪周期和混沌神经网络振动子的离散时间动力学特性也得以研究[31].还有基于脑的生理机制和解剖学实验,分析脑的存储记忆、联想回忆等非线性动力学问题,一维混沌图显示了脑的混沌动力学特性[35].利用混沌所表现出的伪随机行为来获取输入中类噪声模式的关键信息为模式分类提供了新的希望[36].一个将神经信息学(Neuro informatics)和确定的混沌组合起来的“生物”代理,利用递归神经网络(Recurr ent Neural Netw orks)可观察并重构一个目标处理过程[37],并用于存储和检索信息[38].实验表明,通过学习,可进化到模拟一个目标的随机过程的混沌行为,这使我们看到了经由神经学习的有趣的混沌自组织机制,并显示出规则是怎样被嵌入到确定的混沌中的.还可利用混沌的初值敏感性,训练有微小扰动输入的神经网络,使之用于混沌控制[39].简略地讲,目前的研究主要在于认识单个神经元的混沌特性和分析简单混沌神经网络的行为,因而需要深入研究,并获得应用.4 混沌神经网络模型下面,基于上面回顾的工作及相关内容,描述混沌神经网络的模型主要有Aihar a依据动物试验提出的和Ino ue依据Logistic映象提出的两种.4.1 Aihara的混沌神经网络模型1990年,Aihara等[22]在前人推导和实验的基础上,给出了一个混沌神经元模型.在生物神经元的动力学模型构造历史上,M cCulloch-Pitts神经元(1943)和Caianiello (1961)神经元方程是非常重要的,后者包含了前者.x i (t +1)=u (∑Mj =1∑t r =0W (r )ij x i (t -r )- i )(4)其中,x i (t +1)是在离散时刻t +1第i 个神经元的输出,x 取1(激活)或0(非激活).u 定义如下:u (y )=0, y <01, y ≥0W (r )ij (i ≠j )是第j 个神经元激活r +1个时间单位后影响第i 个神经元的联结权值,W (r )ii 是第i 个神经元激活r +1个时间单位后保持的对自己的影响的记忆系数,与不应性(Refracto riness )相对应, 是第i 个神经元的全或无激活的阈值.这里,不应性指神经元激活后其阈值增加的性质,全或无规律是指神经元激活与否取决于刺激的强度是否大于阀值.Nagumo 和Sato (1971)在此基础上,假设过去的激活导致的不应性影响随指数衰减,即W (r )ij =- k r ,k ∈[0,1],>0,k 是不应性的衰减因子,并设A (t )是离散时刻t 的输入强度,得出x i (t +1)=u (A (t )- ∑tr =0k rx (t -r )- )(5) 定义神经元内部状态y (t +1)=A (t )- ∑tr =0k rx (t -r )- (6)则(5)式可化为y (t +1)=ky (t )- u (y (t ))+a (t )(7)x (t +1)=u (y (t +1))(8)这里a (t )=A (t )-kA (t -1)- (1-k )(9) 在通常的生物电子实验中,输入A (t )是等幅周期脉冲,所以,(9)式可改写为a (t )=(A (t )- )(1-k )(10) 下面证明(7)式.y (t +1)=A (t )- ∑tr =0k rx (t -r )- =A (t )- ∑t r =0k r x (t -r )- +ky (t )-k y (t )+a (t )-a (t )=k y (t )+a (t )- ∑tr =0x (t -r )+A (t )- -a (t )-ky (t )由(10)式得A (t )- -a (t )=k (A (t )- )所以y (t +1)=k y (t )+a (t )- ∑tr =0x (t -r )+k (A (t )- )-ky (t )(11)又由(6)式得y (t )=A (t )- ∑t r =0k r x (t -r -1)- 两边同乘k ,得k y (t )=k (A (t )- )- ∑t -1r =0k r +1x (t -r -1)=k (A (t )- )+ x (t )- ∑tr =0k r x (t -r )代入上面(11)式得 y (t +1)=ky (t )- x (t )+a (t )=ky (t )- u (y (t ))+a (t )其Lyapunov 指数为3635期董 军等:混沌神经网络研究进展与展望=lim n →+∞1n∑n -1t =0ln d y (t +1)d y (t ) (12)平均激活率为 =lim n →+∞1n ∑n -1t =0x (t )(13) 但Cole 等(1970)的实验与上述方程所预期的结果不符,即空间箝制条件下的全或无定律未被满足,响应并非不连续地全或无,而有连续增加的趋势,因而考虑用一连续递增函数f 代替(5)式中的ux i (t +1)=f (A (t )- ∑tr =0k rg (x (t -r ))- )(14)x i (t +1)为[0,1]间的模拟输出,g 是表示神经元输出与不应性的大小间的关系的函数,f 可取为具有陡度参数 的Log istic 函数f (y )=1/(1+e -y / )内部状态y (t +1)=A (t )- ∑tr =0k rg (x (t -r ))- (15)从而,同理可简作y (t +1)=ky (t )- g (f (y (t )))+a (t )(16)x (t +1)=f (y (t +1))(17)平均激活率为=lim n →+∞1n∑n -1t =0h (x (t ))(18)h (x )=1, x ≥0.50, <0.5 通过上面的分析可知,由以上神经元构成混沌神经网络时,要考虑几个不同于普遍神经网络的方面:类似Hopfield 结构的来自内部神经元的反馈项和类似BP 算法的外部输入项,以及不应性响应和阀值.从而有x i (t +1)=f i (∑M j =1W ij∑t r =0k r h j (x j (t -r ))+∑Nj =1V ij ∑t r =0k r I j (t -r )- ∑tr =0k rg i (x i (t -r ))- i )(19)M 是混沌神经元的个数,N 是外部输入个数,W ij 是第j 个混沌神经元到第i 个混沌神经元的联结权值,V ij 是第j 个外部输入到第i 个混沌神经元的联结权值,f i 第i 个混沌神经元的连续输出函数,h j 是第j 个混沌神经元的内部反馈函数,I j (t -r )是离散时刻t -r 第j 个外部输入的强度,g i 是第i 个混沌神经元的不应性函数.假设过去的输入随时间指数衰减,形如W ij k r 或V ij k r ,k 为衰减因子,则同样可得y i (t +1)=ky i (t )+∑Mj =1W ij h j (f j (y i (t )))+∑N j =1V ij I j (t )- g i (f i (y i (t )))- i (1-k )(20)x i (t +1)=f i (y i (t +1))(21)364信 息 与 控 制26卷 当k 和 趋向零,则有x i (t +1)=f i (∑M j =1W ij h j (f j (y i (t )))+∑Nj =1V ij I j (t )- i )(22) 该模型已用于联想记忆.它有如下特点.(1)具有梯度动作电位的连续刺激——反映曲线;(2)激活后相应的不应性的连续指数衰减缘于先前动作电位的不应效果的叠加;(3)通过许多突触的输入的时空累加.4.2 Inoue 等的混沌神经网络模型1991年Inoue 等提出用耦合的混沌振荡子作为单个神经元,构造混沌神经网络模型的方法[18].耦合的混沌振荡子的同步和异步分别对应神经元的激活和抑制两个状态.虽然混沌是由简单的确定性规则产生的,但它包含规则性和不规则性两个方面.耦合的混沌振荡子的同步来自规则性,而不规则性可产生随机搜索能力.对于离散时间,耦合的振荡子的运动方程由f (x )和g (x )描述x i (n +1)=f (x i (n ))+D i (n )[y i (n +1)-x i (n +1)](23)y i (n +1)=g (y i (n ))+D i (n )[x i (n +1)-y i (n +1)](24)其中,D i (n )是时刻n 第i 个神经元的耦合系数,x i (n )和y i (n )分别是时刻n 第i 个神经元第一和第二个振荡子变量.设 L 是同步态最大的Lyapunov 指数,则当D i (n )>D c =[exp( L )-1]/2时,可观察到完全同步态.f (x ),g (y )选混沌动力学基本的Log istic 映射f (x )=ax (1-x ), 0<a ≤4(25)g (y )=by (1-y ), 0<b ≤4(26)时刻n 第i 个神经元的状态定义为u i (n )=1(激活), x i (n )-y i (n ) < 0(抑制), 其他(27) 是同步的临界参数. 当 =0且a =b 时,u i (n )=1(激活)表明两个振荡子完全同步.一旦完全同步,即使D i (n )变得很小,神经元始终处于相同状态,所以选择a ≠b 以避免完全同步.设第i 个和第j 个神经元由耦合常数w ij 联结,通过联结媒介,神经元的状态对D i (n )有一个影响.在这里,W ij 和D i (n )间的关系很重要DD i (n )=∑j W ji u j (n )+s i + i (28)D i (n )=DD i (n ), DD i (n )>00, 其他(29)s i 是外部输入,i 是阀值.振荡有时会中断,(30)式可避免这一现象.a ,b 取几乎相同的值,i =-D c .用该模型可实现Hopfield 的联想记忆和求T SP 解.对于T SP ,离散Hopfield 是非常难解的.而这里,T SP 不需要模拟退火, 和a -b 具有Boltzmann 机的温度功能.另一与Bo ltzmann 机的不同之处是这里同时改变所有神经元状态,所以计算快,而Boltz-mann 机一次只改一个.3655期董 军等:混沌神经网络研究进展与展望在这里,单个神经元的反映并不快,这是因为耦合振荡子系统有一个瞬变时间;但工作速度很快,因为是同步处理的.在脑中发现了同样现象.Bolthmann机没有这个机能.这又一次说明混沌神经网络对脑的较为真实的模拟.瞬变时间可能有重要作用.需要进一步研究的是:若选择适当的参数集{a,b, },是否存在一个可用于所有系统的Lyapunov函数;是否能保证找到一个优解.接着,Ino ue等又用一个混沌振荡子实现上述功能[19].运动方程为x i(n+1)=a i(n)x i(n)[1-x i(n)](30)定义 i(n)= x i(n)-x i(n+3) (31)u i(n)=1(激活), i(n)<0(抑制), 其他(32)混沌态和周期三(到达混沌前所经历的一种分岔现象)对应于耦合振荡子的同步和异步.a i(n)按下列方程,每m步改变其值aa i(n′)=∑kW ik u k(n′)+s i- i(33) W ij和a i(n)间的关系有重要作用.a i(n′)=aa i(n′),a c-c1<aa i(n′)<(a c+c2)a c-c i,aa i(n′)<(a1-c1)a c+c2,aa i(n′)>(a c+c2)(34)n′=p m(p=0,1,2…),(35)式同样是为防止由于不合适的运动而引起的振荡.基于此,实现了联想记忆和T SP求解.该模型不如前者有效,是否肯定能找到解还有待分析.进而,Ino ue等又将上述情况推广到模拟态[20].运动方程为x i(n+1) y i(n+1)=11+2D i(n)1+D i(n)D i(n)D i(n)1+D i(n)f[x i(n)]g[y i(n)](35)0≤x i(n)<1, 0≤y i(n)<1.u i(n)=11+ex p(-z i/z0)(36)z i≡i(n)-1(37) 同样,这里也解答了TSP,结果表明,短路径比长路径更稳定.需要进一步研究的是混沌神经元计算的本质及神经元模拟特性和网络亚稳态间的关系.在以上模型的基础上,Inoue等又进一步分析了脑的动力学特性,用波动谱理论研究了解TSP时Ho pfield能量的时间序列,认为时间序列与脑波有关.如果选择合适的参数,模型可有效地找到解,还观察到了这时的间隙“脑波”[21].也已有对上述两类模型的结合进行的研究[40].5 小结混沌是一种现象与行为,神经网络是一种特定计算模式的拓朴结构,它们各有自身的特366信 息 与 控 制26卷 征,但也有共同的规律,即非线性动力学特性.尽管混沌神经网络的研究是近几年的事,工作还刚起步,理论远不成熟.然而,它是建立在人脑存在混沌这个前提之上的,因而,它也就有了生理学基础和生命力.它在联想记忆、组合优化等方面优于现有其他模型的性能表明了这一意义.为此,可在下列几个方面进行深一步地研究并谋求应用.(1)选择更加合适的奇异吸引子构成混沌神经网络;(2)决策对象(如控制系统)往往是一个复杂的动力学系统,且结构化与半结构化交织,所以,用混沌神经网络进行决策可能有较好效果,也易获全局最优;(3)利用混沌系统对初始条件的敏感依赖性,有可能对仅有微小区别的模式进行识别;(4)对以前认为不规则的运动,若是混沌现象,就可能进行短期的但较精确的预测;(5)在优化方面,由于混沌的特性,不再必需用模拟退火法、遗传算法等来避免局部最小.混沌神经网络在智能信息处理中显示了广阔的应用前景.混沌动力学是发展中的学科.当今,对大脑的认识远不深入,对混沌神经网络似乎同样不可期望过高.但从机理上探索神经网络的行为是应该首肯的,也是神经网络研究所必需的.就目前的情况而言,如何有效地在神经网络中反映和获得混沌特性,并掌握它们内在联系是关键问题.参 考 文 献1 Bab loyan tz A,et al .Evidence for Chaotic Dynam ics of Brain Activity dur ing the Sleep Cycle.Phys Lett,1985,111:152～1562 Wass erm an P D.Advanced M eth ods in Neural Computing.New York:Van Nostrand Reinhold ,1993:187～1933 Chay T R,Fan Y.Evolution of Periodic S tates and Ch aos in T w o Types of Neural M od els.In Ditto W L (ed.)C haos inBiology and M edicine,Proc S PIE ,W as hington:SPIE,1993:100～1134 Ott E.Chaos in Dynamical Sys tems.New York:Cam bridge U nivers ity Press,1993:1～1485 张承福.对当前神经网络研究的几点看法.力学进展,1994,24(2):181～1866 郝伯林.从抛物线谈起-混沌动力学引论.上海:上海科学技术出版社,19937 刘增荣.二维平面映射的奇怪吸引子.苏州:苏州大学出版社,1996:1～268 姜 丹.信息理论与编码.合肥:中国科学技术大学出版社,1992:23～319 Ditto W,M unakata T.Principles and Applications of Chaotic S ystem s.CACM ,1995,38(11):96～10210 胡上序等.人工神经元计算导论.北京:科学出版社,1994:52～5411 Bar hen J,Gulati S.“Ch aotic Relaxation ”in Concur rently Asynchronous Neural Network s.C om puters Electr Eng,1993,19(6):507～52312 Adachi M ,Kotani M.Iden tification of Ch aotic Dynamical Systems w ith Back -propagation Neural Netw orks.IEICETr ans ,1994,E 77-A (1):324～33413 Albano A M .Us ing Neur al Nets to Look for Chaos .Physica D ,1992,58:1～914 Zak M.Terminal Chaos for Information Process ing in Neuron Dyn amics.Biol Cybern ,1991,64:343～35115 Saito T ,Oikaw a M.Ch aos and Fractals from a Forced Artificial Neural Cell.IEEE T rans on NN,1993,4(1):43～5216 Ikegu chi T ,et al .The f( )S pectrum of a Ch aotic Neu ron M od el.IEICE Trans ,1991,E 74(6):1476～147817 Saito T.Ch aos from a Forced Neural-type Oscillator.IEICE T ran s,1990,E 73(6):836～84118 Inoue M ,Nag ayosh i A.A Chaos Neuro-com puter.Phys Lett A,1991,158(8):373～37619 Inoue M ,Fukus hima S.A Nuur al Netw ork of Ch aotic Oscillators.Prog T heor Phys ,1992,87(3):771～77420 Inoue M ,Nag ayosh i A.Solving an Optimization Problem w ith a Ch aos Neural Netw ork.Pr og T heor Phys ,1992,88(4):769～77321 Inoue M ,Nakam oto K .Ep ileps y in a Chaos Neuro -compu ter M odel .SPIE Vol .2306,Chaos in Biology an d M edicin e ,3675期董 军等:混沌神经网络研究进展与展望1993:77～8422 Aihara K,et al.Chaotic Neural Netw orks.Ph ys Lett A,1990,144(6,7):334～34023 Som polinsk y D H H.S ynchr on ization and C om putation in a C haotic Neur al Netw ork.Phys Rev Lett,1992,68(5):718～72124 S zu H,et al.Chaotic Neuron Ch ips for Fuzzy Computing.In W isniew ski H S(ed).Ch aos/Non linear Dynamics: M eth od and Commercialization,Proc.S PIE2037,San Diego,California,W as hington:SPIE,1993:110～12525 Zou F,Josef A Nos sek.Bifurcation and Chaos in Cellular Neural Netw orks.IEEE Tr ans on CAS-1:Fundamental Th e-ory and Application,1993,40(3):166～17326 Kanou N,et al.A Current-mode Im plem entation of a Chaotic Neural M odel Using a SI In tegrator.IEICE T rans, 1994,E77-A(1):335～33827 Zou F,et al.Homoclinic an d Heteroclinic Orbits of the T hree-cell Cellular Neur al Netw orks.IEE E T rans on CAS-1: Fundamen tal T heory an d App lication,1993,40(11):843～84828 Gilli M.S trange Attractors in Delayed Cellular Neural Netw orks.IE EE Tr ans on CAS-1:Fun damental Th eory and Application,1993,40(11):849～85329 Gustavo,et al.Neural Learning of Ch aotic Sys tem Behavior.IEICE T rans,1994:1840～184530 Sole R V,M iramon tes rmation at the Ed ge of Chaos in Flu id Neural Netw orks.Physica D,1995,(80):171～18031 Ts ubata T,et al.Intermittency of Recurren t Neu ron and its Netw ork Dyn amics.IE IC E T ran s,1993,E76-A(5):695～70332 M atsud a H,Uch iyam a A.A Neural Netw ork M odel for Generatin g In termitten t Ch aos.IEICE T rans,1994,E76-A(9):1544～154733 Tani J,Corp S.The Role of Chaos in Process ing Language.IJCNN,1992-3:444～44934 Wang X.Dis crete-time Dynam ics of Coupled Q uas i-periodic and Chaotic Neural Network Oscillators.IJ CNN,1992-3: 517～52235 Ts uda I,et al.M emory Dynamics in As ynch ronous Neu ral Netw ork s.Pr og T heor Phys,1987,78:51～7136 Parodi G,et in g Ch aos to Generate Keys for As sociative Noise-like C oding M emories.Neural Netw orks,1993, 6:559～57237 Tani J,Fukumu ra N.Em beddin g a Gram matical Description in Deter ministic Chaos:an Experiment in Recurr ent Neu-ral Learning.Biol C ybern,1995,72:365～37038 An dreyev,et rmation Proces sing U sing Dynamical Ch aos:Neural Netw orks Implemen tation.IEEE T ran s on NN,1996,7(2):290～29839 Als ing P M,et ing Neural Netw orks for Controlling Chaos.In Wis niews ki H S(ed).Chaos/Nonlinear Dynam-ics:M ethod and Commercializ ation,Proc SPIE2037,San Diego,California,W ashing ton:SPIE,1993:126～13740 Nozaw a H.A Neur al Netw ork M odel as a Globally Coupled M ap and Application Based on Ch aos.Chaos,1992,2:377 -386THE RESEARCH PROGRESS AND PROSPECTS OFCHAOTIC NEURAL NETWORKSDONG Jun HU Shang xu(Zhej iang Univ ersity,H ang z hou310027)Abstract T his art icle summar izes the char acter istics of chao tic dynamics,r eviews the r esearch pro-gr esses o f chaot ic neuro n mo del and chao tic neur al netw or ks in recent year s.On the basis of them,tw o kinds of chaotic neur al net wo rks ar e int ro duced,and their str uct ur es and char acter s are analy zed.T he resear ch(下转第378页)参 考 文 献1 Burkett J P.S lack,Sh ortage,and Discouraged C on sumers in E as tern Europe:Estimates Based on Smoothing Aggrega-tion.Review of Economic Studies,1988,55:493～5062 谢 方.总供需平衡的控制模型.数量经济技术经济研究,1992,(10):42～453 李文捷,张世英.非均衡多市场的调控机制研究.数量经济技术经济研究,1994,(4):37～454 王 翼.离散控制系统.科学出版社,19875 中国统计年鉴(1994年度).中国统计出版社,19946 刘建国,陈跃进.计量经济分析软件包M icr o T SP(6.5).清华大学出版社,1991AN OPTIMAL CONTROL FOR DISEQUILIBRIUM ECONOMICS——A PRACTICAL ANALYSIS FOR THE SOCIAL GENERALSUPPLY AND DEMAND OF CHINALI Zhongm in ZHANG Shiy ing(M anag ement S chool,T ianj in Univ ersity300072)Abstract T he paper studies the adjustment r ules o f the disequilibrium macro market fro m t he po int of view of o ptimal co nt ro l theor y,and makes a pr actical a nalysis for the disequilibr ium co ntro l o f the social gen-eral supply and demand o f China.Key words disequilibr ium econom ics,optimal co nt ro l,gener al supply,gener al demand作者简介李忠民,男,30岁,博士.研究领域为非均衡经济等.张世英,男,60岁,教授.研究领域为非均衡经济,社会经济系统分析.(上接第368页)results sho w that the chao tic neur al netw o rks are mo re effectiv e t han o ther ex isting neur al netw or ks t o solve associative memo ry and combination optimizatio n pro blems.F inally,t his a rticle presents the fields w here chaotic neura l netw or ks can be applied and should be furt her investigat ed.Key words chaos,ar tificial neuro n,chao tic neur al netw or ks,asso ciative memor y,co mbinatio n o pti-mizatio n作者简介董 军,33岁,博士生.研究领域为面向对象方法,混沌应用,分布式人工智能,计算机支持协同工作.胡上序,教授,博士生导师.研究领域为人工神经元网络,计算机仿真,智能信息处理.。
