面向信道分配的分段退火混沌神经网络模型
- 格式:pdf
- 大小:292.70 KB
- 文档页数:6
基于光纤信道的光混沌通信陈章摘要激光器的不稳定性是一个普遍现象,而混沌是激光器不稳定性的一个重要特例。
混沌激光作为激光器输出的一种特殊形式,具有类噪声宽频谱的特性。
近年来,基于混沌激光通信的一些应用技术相继被提出与完善。
本文结合国内外研究现状,简要介绍了利用半导体激光器产生混沌激光,以及混沌激光在保密光通信、混沌光通信与现行光通信波分复用传输等方面的应用。
关键词半导体激光器混沌激光保密通信波分复用传输1引言自从1960年世界上第一台红宝石激光器问世以来,激光技术及应用得到快速发展。
激光器的主要应用包括:光显示、光存储、激光材料加工、激光医学、光纤通信、激光检测和光谱分析等方面。
激光器是一个非线性系统,其输出可分为稳态、非稳态和混沌三种形式。
按照激光器腔内电场、粒子数及相位弛豫时间长短的分类,所有的激光器均可分为A,B,C三类[1~3]。
A类和B类激光器在外界动下(即引入一个自由度)可能无法稳定工作,C类激光器本身就可能运行在非稳态或者混沌输出的状态。
A类和B类激光器所受的外界扰动,最简单、也是最常见的形式即外部光学元件引起的光反馈,如耦合或准直透镜的表面反射、光纤端面和被照射器件表面反射等。
可以说,光反馈在激光器应用中是不可避免的,换言之,激光器的不稳定性是一个普遍现象。
ng等发现外部光反馈引起半导体激光器的非稳定性和混沌。
混沌激光是激光器输出不稳定性的一种特殊形式,此时尽管激光器的动态特性同样可以由确定的速率方程来描述,但是激光器的输出(光强、波长、相位)在时域上不再是稳态,而是类似噪声的随机变化。
在早期的研究中,侧重于研究如何抑制光反馈或外光注入激光器的噪声和不稳定输出,以保持激光器的稳态工作。
20世纪80年代,人们逐渐揭示了光反馈(及光注入)激光器的动态特性,发现了激光器从低频起伏(Low Frequency Fluctuation)到混沌,从倍周期到混沌的演变过程。
1990年,Ott等相继提出了混沌控制和混沌同步的概念,启示人们混沌激光可能有着重要的应用。
混沌神经网络模型和智能信息处理该项目组深入开展了混沌神经网络模型和智能信息处理理论与实现技术的研究工作,获得了如下主要创新成果:1. 提出了联想记忆新模型将神经网络的状态演化与动态"聚焦"和"注意力转移"机制相结合,提出了应用动态神经网络进行信息融合的自治模式识别新思想。
构造了具有丰富生物学特性的动态神经网络模型和反对称混沌神经网络模型;通过对处于混沌状态的网络进行控制,使其状态稳定在演化方程的不稳定平衡点附近,从而部分地实现了模式的联想记忆。
2. 提出了混沌检测和优化计算的新方法和时间离散驱动的混沌同步方法提出了时间离散驱动的混沌同步方法,可用于基于离散耦合混沌同步的保密通信系统。
利用混沌同步观测器证实其有效性,给出了同步观测器渐进稳定性的新的判别定理。
3. 建立了反映肌电活动和心动节律的混沌网络模型通过对生理实验数据的系统分析,建造了可再现肌电活动及心脏节律的动力学模型,再现了胃平滑肌收缩时的动力学特性,发现了蕴涵在心脏节律中的确定性分量和混沌现象,对发展基于混沌控制的除颤技术提供了理论依据。
4. 提出了一种新的高维紧支撑小波框架的构造方法和图像分割的神经网络模型与变分模型通过构造无限光滑的紧支撑径向基函数, 获得了相应的二进小波, 并且其伸缩、平移系构成平方可积函数空间的框架,该方法可有效地用于视觉信息的多通道处理。
提出了用于图像分割的基于广义熵映射的神经网络模型(GEM);建立了图像信息处理的新的变分模型及其相应的数值计算方法。
5. 提出了利用Bayesian实现无监督机器学习与聚类分析的软计算新方法提出无监督机器学习和聚类分析的Bayesian统计建模方法,改进了分离合并EM算法,并将一维高斯混合体中的RTMCMC方法推广到n维。
应用Bayesian原理证明了极大熵聚类退火算法的全局收敛性,并应用于矢量量化器设计与径向基函数的训练。
6. 提出了一种双平面x射线图像的立体在线交互式深度测量方法,获得国家发明专利。
神经网络工作原理
神经网络是一种基于人工神经元的数学模型,用于模拟和处理复杂的非线性问题。
该模型由一个由多个神经元(或节点)组成的网络组成,其工作原理是通过学习和适应数据的模式和特征,从而能够进行预测、分类、识别等任务。
神经网络的工作原理可以分为两个主要阶段:前向传播和反向传播。
在前向传播阶段,输入数据被输入到网络的输入层,并逐渐传递到网络的输出层。
每个神经元都会将收到的输入值与自身的权重进行计算,并将结果传递给下一层的神经元。
这个过程会一直持续,直到数据传递到输出层,输出层会给出最终的预测结果。
在反向传播阶段,神经网络会根据预测结果与实际输出之间的误差,来调整各个神经元之间的权重。
这一过程会沿着网络的反方向进行,依次更新每个神经元的权重和阈值,以使得误差逐渐减小。
通过多个反向传播的迭代,神经网络能够不断优化模型,提高对输入数据的预测和识别准确性。
此外,神经网络还可以通过增加网络的层数和神经元的数量来提高模型的复杂度和表达能力,从而适应更加复杂的任务和数据模式。
然而,过多的层和神经元可能会导致模型过拟合,因此在构建神经网络时需要进行适当的调节和优化。
总的来说,神经网络通过前向传播和反向传播的迭代过程,通
过学习和适应数据的模式和特征来完成各种复杂的任务。
这种模型具备良好的自适应能力和优化能力,在许多领域都展现出了强大的应用潜力。
神经网络模型的推导与参数优化神经网络是一种模仿生物神经系统的信息处理方式的计算模型,近年来由于深度学习的流行,神经网络在机器学习领域得到了广泛应用。
神经网络模型推导和参数优化是神经网络模型设计的基础。
一、神经网络模型的推导神经网络模型是由多个人工神经元组成的网络,这些神经元通过连接来传递信息。
神经网络的推导主要包括以下步骤:1. 确定模型神经网络的模型分为前向神经网络和反向神经网络。
前向神经网络仅有输入层、隐层和输出层,信息从输入层经过隐层传递到输出层;反向神经网络还包括了误差反向传播算法,使得网络可以学习和优化权重。
2. 确定神经元神经元是神经网络的基本单元,通常包括输入、输出和激活函数。
每个神经元将输入与对应的权重相乘后求和,通过激活函数获得输出。
3. 确定数学模型神经网络的数学模型通常是由权重和偏置参数组成的函数关系,通过训练得到最优参数,使得模型拟合出目标函数。
神经网络的目标函数包括分类问题的交叉熵损失函数和回归问题的平均方差损失函数等。
二、参数优化神经网络的实用价值主要在于模型所能达到的准确率和泛化能力,而模型的准确率和泛化能力很大程度上取决于模型的参数设置。
常见的优化算法包括梯度下降、随机梯度下降和Adam等,以下是几个关键的参数优化步骤:1. 初始化权重权重的初始值会直接影响神经网络的性能,随机初始化权重常常被使用。
激活函数的选择也有重要作用,常见的有sigmoid、ReLU和tanh等。
2. 性能评估在训练神经网络前要先定义性能评估指标,以确定网络的优化方向和进展情况。
通常使用交叉验证或者训练集与测试集的划分方法进行性能评估。
3. 梯度下降算法梯度下降算法可以通过求解损失函数的导数,来更新模型的权重和偏置参数,以最小化损失函数。
梯度下降也可以采用随机梯度下降和批量梯度下降等不同的变体算法。
4. Adam算法Adam算法是一种自适应学习率算法,它可以根据每个权重或偏置参数的历史梯度自适应调节学习率。
反三角函数混沌神经网络的模拟退火策略许楠;徐耀群【摘要】分析了混沌神经网络模型中加入反三角函数对解决组合优化问题的作用,以及该网络的动力学特性和对自反馈连接权值的敏感性,研究了退火函数在优化过程中对准确性和计算速度的影响.利用分段模拟退火思想对反三角函数混沌神经网络进行改进,使得该网络模型在保证优化算法准确性的基础上,加快了收敛速度,算法具有很强的克服陷入局部极小点的能力.通过对组合优化问题的典型例子TSP(旅行商问题)进行仿真实验,验证了这种分段模拟退火策略的有效性,最后说明了模型参数对改进网络性能的重要性.%Analyzed the effect of combinatorial optimization and dynamics characteristic of chaotic neural network model with anti-trigonometric function and the sensitivity to self-feedback connection weight, studied the annealing function in the optimized process to accurate and the computation speed influence. Using the sub-annealing thought improved the chaotic neural network with anti-trigonometric function, and caused this network model in the guarantee optimization algorithm accurate foundation, sped up the convergence rate, the algorithm had the very strong capacity to overcome the local minimum point. Simulation research on functions' optimization and TSP( traveling salesman problem) ,confirmed this kind of sub-annealing strategy validity. The results showed the importance of the model parameters to improve the performance of the network.【期刊名称】《哈尔滨商业大学学报(自然科学版)》【年(卷),期】2011(027)006【总页数】5页(P814-818)【关键词】混沌神经网络;模拟退火;旅行商问题【作者】许楠;徐耀群【作者单位】哈尔滨商业大学系统工程研究所,哈尔滨 150028;哈尔滨商业大学系统工程研究所,哈尔滨 150028【正文语种】中文【中图分类】TP311在科学技术领域中有很多问题都与组合优化问题有关,但是能够有效地解决组合优化问题的科学方法还是比较少的.自从Hopfield于1982年提出Hopfield神经网络模型以来,该神经网络模型已经被证明是解决组合优化问题的强大有效的工具,并且在众多领域都有实际应用.但是在求组合优化问题时,Hopfield网络模型却容易陷入局部极小点,从而无法求得最优解[1].为了解决这一问题,人们将混沌动力学的全局搜索特性引入神经网络之中,提出了多种混沌神经网络模型[2-6],其中大多数是通过在Hopfield网络中引入自反馈项而使自身表现出暂态的混沌动力学行为以避免陷入局部极小点(最著名的是Chen等提出的暂态混沌神经网络模型),因此网络的动态特性很敏感地依赖于自反馈连接权值)类似于随机模拟退火中的温度,其一般按指数退火函数动态变化,对网络的优化性能和收敛速度有很大的影响[7-8].本文提出的神经网络模型是建立在混沌神经网络模型[2]的基础上,利用一种改进的分段指数模拟退火函数,提出对自反馈权值的一种新的优化策略,既能充分利用混沌的动态特性进行搜索,使得算法可以从局部最优的“陷阱“中跳出来,又能加快收敛速度,增加搜索精度.仿真分析与实验表明,本模型能够有效减少网络运算的迭代步数,提高网络的搜索效率,同时在求解组合优化问题时能够更好地求得最优解,显示出更为优良的性能.1 带有反三角函数的暂态混沌神经网络模型根据Chen’s暂态混沌神经网络模型,通过在内部函数中引入反三角函数构造如下的神经网络模型:该网络模型中i=1,2,3,…,n;xi(t),yi(t),)分别为神经元i的输出、内部状态和自反馈连接项;ε是激励函数的陡度参数;k为神经隔膜的阻尼因子,0≤k≤1;α为输入的正的尺度参数;Ii为神经元i的输入偏差;I0为正的参数为从神经元j到神经元i的连接权值,并且;β是模拟退火参数.混沌神经网络模型的动态特性很敏感的依赖于和α的取值.k为网络记忆保留或遗忘内部状态的能力;自反馈连接项)是动态减小的,类似于随机模拟退火中的温度,退火速度依赖于β的大小)最终使网络收敛到一个平衡点;系数α也具有很重要的作用,它代表着能量函数对动态特性的影响;在解决组合优化问题时,它们的搭配必须适合,如果α太大,则能量函数的影响太强,以至于无法得到暂态混沌现象;如果α太小,能量函数的影响太弱,以至于无法收敛到最优解[5],因此适当的调节网络模型中的参数对系统的应用具有非常重要的意义.2 模拟退火策略的优化算法为了更好的理解带有反三角函数的混沌神经网络模型的运行机理,现在以单个神经元为例来检验网络的动力学行为:下面通过神经元的倒分岔图和最大Lyapunov指数时间演化图来分析该模型的动力学特性.取ε=0.02,y(1)=0.283,z(1)=0.5,c=0.9,k=0.9,I0=0.65,β=0.000 3,在该环境下神经元的倒分岔图和最大Lyapunov指数图如图1所示.取ε=0.02,y(1)=0.283,z(1)=0.5,c=0.9,k=0.9,I0=0.65,β=0.000 5,在该环境下神经元的倒分岔图和最大Lyapunov指数图如图2所示.图1 β=0.000 3时神经元的倒分岔图和最大Lyapunov指数图图2 β=0.000 5时神经元的倒分岔图和最大Lyapunov指数图从图2可以看出,随着参数β的增大,网络输出x(t)的混沌动态特性消失得更快;而且因为自反馈连接权zi(t)以指数方式衰减,所以其趋于0的收敛速度也随着参数β的增大而加快了.由上面的倒分岔图和最大Lyapunov指数图分析可知:网络的混沌动态特性很敏感地依赖于自反馈连接权值zi(t),zi(t)的下降速度直接影响到判断优化算法的两个重要指标:准确性和速度[6].在该反三角函数暂态混沌神经网络模型中,随着自反馈连接项zi(t)的减小,zi(t)对网络的影响越来越小,网络逐渐趋于稳定的平衡点,这个过渡过程表现在网络的单神经元就是一个倒分岔的过程.在前半段表现为混沌搜索现象,当zi(t)下降到某一程度时,混沌消失,转为收敛阶段.当zi(t)下降速度很快时,将通过短暂的搜索阶段直接进入收敛过程,因此算法的速度很快,但因为没有充分利用混沌的丰富动态特征,容易陷入局部最小值,准确性大大降低;相反地,如果zi(t)变化小,可以提高准确性但是却降低了收敛速度.为了既能充分利用混沌动态搜索的特性,同时又不会影响到网络的收敛速度,将采用分段指数模拟退火策略的思想,对带有反三角函数的混沌神经网络模型进行改进.通常情况下,模拟退火算法从搜索阶段转移到收敛阶段的分岔点是比较稳定的,基本上是位于zi(0)/2附近[3],因此本文用如下的分段指数模拟退火函数代替原网络模型中的公式(8).其中:β1,β2为常数,β1<β2.开始时zi(t)的值较大,而参数β值较小从而可以充分利用混沌的丰富动态搜索特征,使得网络输出值能在大范围内进行遍历搜索,使算法可以从局部最优值中跳出,而得到全局最优解;随着zi(t)值的减小,网络输出逐渐收敛于分岔点,所以可以采用比较大的指数衰减,减小收敛时间.通过以上分析,如果在带有反三角函数的混沌神经网络模型中加入分段指数退火函数,在zi(t)>zi(0)/2时,采用相对比较小的指数衰减,充分利用混沌的动态特性进行搜索,使网络可以跳出局部最优的陷阱,将更有可能求得组合优化问题的整体最优解;在收敛阶段采用比较大的指数衰减,克服小指数衰减带来的速度问题,减小收敛时间[3].所以基于此提出了基于分段指数退火的反三角函数暂态混沌混沌神经网络模型.新的网络模型如下所示:取ε=0.02,y(1)=0.283,z(1)=0.5,c=0.9,k=0.9,I0=0.65,β1=0.000 3,β2=0.000 5,ε0=0.6在该环境下神经元的倒分岔图和最大Lyapunov指数图如图3所示.图3 β1=0.000 3,β2=0.000 5时神经元的倒分岔图和最大Lyapunov指数图由于β1=0.000 3<0.000 5,所以图3与图2相比较,分段反三角函数混沌神经元比未分段的反三角函数混沌神经元晚进入了收敛阶段;由于β2=0.000 5>0.000 3,所以图3与图1相比较,分段的反三角函数混沌神经元比未分段的反三角函数混沌神经元早进入了收敛阶段.所以分段反三角函数混沌神经网络的混沌搜索能力是介于未分段的反三角函数混沌神经网络分别在β=β1和β=β2时的混沌搜索能力之间的.3 在组合优化问题中的应用旅行商问题(TSP)是一个经典的组合优化问题,是一个NP-hard问题,目前还没有有效地方法可以对其求解.TSP问题可以描述为:给定n个城市和两两城市之间的距离,要求确定一条经过各城市当且仅当一次的最短路线.本文将分段反三角函数混沌神经网络应用于TSP问题的求解,并将仿真结果与原始的未分段反三角函数混沌神经网络进行比较分析.所求最短路径并满足TSP问题约束条件的一个能量函数可以有如下公式描述[4].在该公式中,Vxi为神经元输出,代表第x个城市在第i次序上被访问,dxy为城市x、y之间的距离.由于行列式的对称性,系数A=B,一个全局最小的E值代表一条最短的有效路径.本文采用以下经典归一化后的10城市坐标:(0.4,0.443 9);(0.243 9,0.1463);(0.170 7,0.229 3);(0.229 3,0.716);(0.517 1,0.941 4);(0.8732,0.6536);(0.687 8,0.521 9);(0.848 8,0.360 9);(0.668 3,0.253 6);(0.619 5,0.263 4).该10城市最短路径为2.677 6,如图4所示.图4 10城市TSP问题的最优解本文研究在同一β1下,不同的参数β2和ε0的分段指数退火思想对求解10城市TSP的能力.当ε0越接近1时,分段反三角函数混沌神经网络的退火速度越依赖于β2,当ε0=1时,退火速度仅依赖于β2;当ε0越接近0时,分段反三角函数混沌神经网络的退火速度越依赖于β1,当ε0=0时,退火速度仅依赖于β1.本次仿真实验选取A=1,D=1,β1=0.002,z(1)=0.5,k=1,I0=0.5,α=0.3,ε=0.05,c=0.5.研究带有反三角函数的混沌神经网络的模拟退火策略,有必要对函数g(x)=arctan(cx)中的参数c进行分析,所以研究在同一β1下,不同的参数β2和c的分段指数退火思想对求解10城市TSP的能力.本次仿真实验选取A=1,D=1,β1=0.002,z(1)=0.5,k=1,I0=0.5,α=0.3,ε=0.05,c=0.5,ε0=0.4.通过表1、2仿真数据的分析可以得到如下结论.对于同一ε0或c值,当β2取不同值时,求得最优解的数量是不同的.总体上,当β2=0.003时比β2=0.004时最优解的数量要多,这说明不同的参数对分段混沌神经网络求解组合优化问题的能力是有不同的影响的,就本实验所采取的值0.003和0.004来说,当β2=0.003时,能够取得更多的最优解.表1 在不同参数β2和ε0时200次随机分配初始值的仿真试验数据ε0β2合法路径最优路径合法比/%最优比/%0.9 0.003 200 194 100 97.0 0.004 200 176 100 88.0 0.8 0.003 200 191 100 95.5 0.004 200 173 100 86.5 0.7 0.003 200 189 100 94.5 0.004 200 168 100 84.0 0.6 0.003 200 192 100 96.0 0.004 200 171 100 85.5 0.5 0.003 200 194 100 97.0 0.004 200 173 100 86.5 0.4 0.003 200 197 100 98.5 0.004 200 177 100 88.5表2 在不同参数β2和c时200次随机分配初始值的仿真试验数据cβ2合法路径最优路径合法比/%最优比/%0.7 0.003 200 195 100 97.5 0.004 200 177 100 88.5 0.6 0.003 200 197 100 98.5 0.004 200 182 100 91 0.5 0.003 200 197 100 98.5 0.004 200 184 100 92 0.4 0.003 200 197 100 98.5 0.004 200 189 100 94.5 0.3 0.003 200 200 100 100 0.004 200 199 100 99.5 0.2 0.003 200 200 100 100 0.004 200 199 100 99.5 0.1 0.003 200 152 100 76 0.004 200 147 100 73.5由表2可以看出,当c的取值接近于0时,例如c=0.1时,无论β2=0.003或β2=0.004所得的最优路径均有明显的减少,我们可以对函数g(x)=arctan(cx)进行分析,在反正切函数中考虑一种极限情况,当c的值为0时g(x)=0,此时无论x为何值,g(x)的值恒为0,使得自反馈连接项z(t)不起任何作用,这样也就没有足够的混沌搜索空间,致使最优解的数量大大减小,这也是参数c的值一般不选取0的原因.总之,对于分段模拟退火算法来说,一般情况都能够有效地改善网络模型的搜索能力和求解组合优化问题的能力,并且参数的选取也是至关重要的,例如本例中c=0.1时最优路径的数量有明显的变化,当参数选取不同的情况下,最优路径明显下降时c的值也有所不同.4 结语本文将分段指数模拟退火函数的思想引入到带有反三角函数的混沌神经网络,提出了一种有效的分段指数模拟退火反三角函数暂态混沌神经网络模型,并将其应用于解决TSP问题,与原反三角函数混沌神经网络模型相比寻找最优解的能力有了很大改善,网络收敛速度有了较大的提高,并且具有较高的非线性度.仿真结果显示,分段指数退火的反三角函数混沌神经网络能够充分利用混沌动态特性进行搜索,能够跳出局部最优的陷阱,同时能够加快收敛速度,减少收敛时间,对于求解组合优化问题有很好的性能.参考文献:[1]CHEN L,AIHARA K.Chaotic simulated annealing by a neural network model with transient chaos[J].Neural networks,1995,8(6):915-930.[2]徐耀群,秦峰,刘健.白噪声对混沌神经网络的影响研究[C]//2009中国控制与决策会议,桂林.2009,6(2):3229-3234.[3]谢传泉,何晨.混沌神经网络模型中的模拟退火策略[J].上海交通大学学报,2003,37(3):323-326.[4]HOPFIELD J.Neural networks and physical systems with emergent collective computational abilities[J].Proceedings of the National Academyof Sciences,[S.l]:[s.n],1982,79:2554-2558.[5]岳海燕.小波混沌神经网络模拟退火参数研究[D].哈尔滨:哈尔滨工程大学,2007:34-35.[6]徐耀群,杨学岭.一类具有反三角函数自反馈的混沌神经网络及其应用[J].哈尔滨商业大学学报:自然科学版,2010,26(3):324-328.[7]徐耀群,孙明.小波Hopfield神经网络及其在优化的应用[J].计算机工程与应用,2006,42(32):42-43.[8]徐耀群,孙明.Shannon小波混沌神经网络及其TSP(城市旅行商)问题的求解[J].控制理论与应用,2008,25(3):574-577.。
一种径向基混沌神经网络的分段退火策略许楠;刘英楠;汪秀会【摘要】采用Sigmoid与一种径向基函数即逆多二次函数加和形式作为激励函数,分析了该新型混沌神经网络神经元模型的动力学特性,研究了分段线性模拟退火策略,合理改善了模拟退火参数取值不宜过大或过小的问题;利用分段收敛方案改进了该新型径向基混沌神经网络,并将其应用于解决TSP(旅行商最短路径问题),改进后的网络能够保证合法路径比例的同时,可以以较快的速度收敛到最优解,由此说明此方案的可行性及有效性。
%The activation function was composed by Sigmoid function and one radial basis function named Contrary Multiquadric function.The dynamics characters of the neuron model was analyzed and the partitioned simulated annealing strategy was studied to solve the problem about the value of simulated annealing parameter neither too large nor too small.The novel chaotic neural network with radial basis function was improved by the partitioned convergence proposal and was used to solve Traveling Salesman Problem(TSP).The simulation results indicated that it could ensure both the rate of legitimate path and the speed of convergence and prove the feasibility and the effectiveness of this proposal.【期刊名称】《黑龙江八一农垦大学学报》【年(卷),期】2012(024)004【总页数】5页(P80-84)【关键词】混沌神经网络;模拟退火策略;TSP;径向基函数【作者】许楠;刘英楠;汪秀会【作者单位】黑龙江八一农垦大学信息技术学院,大庆163319;黑龙江八一农垦大学信息技术学院,大庆163319;沈阳市辽中县会计核算中心【正文语种】中文【中图分类】TP3911 带有径向基函数的暂态混沌神经元模型以Chen’s混沌神经元为基础模型,将其单调递增的激励函数改为由Sigmoid函数与逆多二次函数加和形式,体现出非单调性以及较好的函数逼近能力,带有径向基函数的暂态混沌单神经元模型表示如下:其中x(t)为神经元在时刻t的输出,该激励函数由S1(u)和S2(u)两部分加和构成;y(t)为神经元在时刻t的内部状态;k为神经隔膜的阻尼因子,0≤k≤1,表示记忆或遗忘内部状态的能力;ε0是Sigmoid函数的陡度参数;z(t)是自反馈连接项;β是模拟退火参数,其值直接影响退火速度;I0为一正参数;δ是径向基函数的扩展常数或称宽度;α为逆多二次函数的参数。
一种径向基混沌神经网络分段退火策略及应用许楠;宁常鑫;徐耀群【摘要】在Chen L等人提出的暂态混沌神经网络模型基础上,采用径向基函数构成的非线性自反馈连接项,分析该网络的动力学特性,模拟退火策略采用分段式结构,合理控制网络的混沌搜索过程及收敛速度.将其应用于组合优化问题中,通过仿真实验,说明若合适调整一级、二级模拟退火参数,则该新型网络能够较好克服陷入局部极小点并较快收敛到最优解,从而验证该方案的有效性.【期刊名称】《计算机应用与软件》【年(卷),期】2014(031)006【总页数】5页(P158-161,194)【关键词】径向基函数;非线性自反馈;组合优化;模拟退火;最优解【作者】许楠;宁常鑫;徐耀群【作者单位】黑龙江八一农垦大学信息技术学院黑龙江大庆163319;黑龙江八一农垦大学信息技术学院黑龙江大庆163319;哈尔滨商业大学系统工程研究所黑龙江哈尔滨150028【正文语种】中文【中图分类】TP3910 引言经过多年研究,Hopfield神经网络可以有效解决组合优化问题已经毋庸置疑,但其采用梯度下降的动力学策略使得它在解决组合优化问题时极易陷入局部极小点[1],从而影响了其求解问题的最优比。
可以通过在Hopfield网络中引入自反馈项而使其表现出暂态的混沌动力学行为,以避免陷入局部极小点(最著名的是Chen等提出的暂态混沌神经网络模型[1]),因此网络的混沌搜索过程敏感的依赖于自反馈连接项,由混沌神经网络的模型结构可知该项依靠模拟退火参数控制,由此可见模拟退火参数对网络的优化性能和收敛速度有很大的影响。
目前已构建的混沌神经网络模型有很多,而采取的模拟退火策略通常是选取单一的模拟退火参数。
分段线性模拟退火策略是指选取两个不同的模拟退火参数,分别控制不同的退火速度,由此调节网络的搜索能力以及进入稳定状态的平衡点。
该方法的研究已有一定的基础,如徐耀群等研究的“白噪声混沌神经网络的模拟退火策略”,以及“反三角函数混沌神经网络的模拟退火策略”等等,有了一定的理论基础。
混沌神经网络模型中的模拟退火策略
谢传泉;何晨
【期刊名称】《上海交通大学学报》
【年(卷),期】2003(37)3
【摘要】混沌模拟退火法 ( CSA)是一种能有效解决局部极值问题的全局最优化算法 ,其神经元的自反馈连接权值 zi 的演变函数称为退火函数 ,它影响暂态混沌神经网络 ( TCNN)优化方法的准确性和计算速度 .文中通过比较单细胞 TCNN模型CSA中两种最常用的退火函数 (线性退火和指数退火函数 ) ,给出了一种新的分段指数退火函数 ,使得算法的收敛速度加快 ,搜索精度增加 .并利用推销员问题 ( TSP)【总页数】4页(P323-326)
【关键词】混沌;神经网络;模拟退火;推销员问题;组合优化
【作者】谢传泉;何晨
【作者单位】上海交通大学电子工程系
【正文语种】中文
【中图分类】TN911.1
【相关文献】
1.基于模拟退火算法的神经网络模型在洪灾易损性分析中的应用 [J], 陈业辉;邢贞相;付强
2.暂态混沌神经网络中的模拟退火策略优化 [J], 李薪宇;吕炳朝
3.傅立叶混沌神经网络模型中的模拟退火策略 [J], 徐耀群;秦峰;辛海涛
4.基于遗传模拟退火算法的神经网络模型在陕西省需水预测中的应用 [J], 巩琳琳
5.基于混沌模拟退火神经网络模型的电力系统经济负荷分配 [J], 毛亚林;张国忠;朱斌;周明
因版权原因,仅展示原文概要,查看原文内容请购买。