自适应差分进化算法及其在参数估计中的应用
- 格式:pdf
- 大小:271.47 KB
- 文档页数:4
差分进化算法简介差分进化算法是一种优化算法,源于遗传算法,通过模拟生物进化的过程来解决优化问题。
它不同于传统的遗传算法,是基于个体间的差异性来实现优化的。
差分进化算法的原理差分进化算法的基本原理是通过在候选解向量上进行简单算术运算来生成新的解向量,并通过比较这些解向量的适应度来更新种群。
差分进化算法包括三个关键步骤:1. 初始化种群: 初始种群是随机生成的一组解向量。
2. 变异操作: 通过选择多个解向量,并对它们进行简单算术运算来产生新的解向量。
3. 交叉和选择: 通过比较原解向量和新解向量的适应度来决定是否更新种群。
差分进化算法的优势1.不需要求导: 差分进化算法不需要求解目标函数的梯度,适用于解决非线性、非光滑和高维优化问题。
2.全局最优: 由于其能够维持种群的多样性,因此差分进化算法往往可以找到全局最优解。
3.较少参数设置: 差分进化算法相对于其他优化算法来说,参数配置相对较少,并且对初始参数不敏感。
差分进化算法的应用差分进化算法被广泛应用于各种领域,包括工程优化、机器学习、信号处理等。
1. 工程优化: 在电力系统、通信网络、管道设计等领域,差分进化算法被用来优化系统设计和参数。
2. 机器学习: 在神经网络训练、特征选择、模型调优等方面,差分进化算法常用于搜索最优解。
3. 信号处理: 在图像处理、语音识别、生物信息学等领域,差分进化算法被应用于信号处理和数据分析。
结论差分进化算法作为一种优化算法,通过模拟生物进化的过程,能够有效地解决各种优化问题。
其独特的优势使其在工程、机器学习、信号处理等领域广泛应用。
未来随着算法的不断改进和扩展,差分进化算法将发挥更大的作用,为解决复杂问题提供新的解决方案。
参考文献1.Storn, R., & Price, K. (1997). Differential evolution—a simple and efficient heuristic for global optimization over continuous spaces. Journal of global optimization, 11(4), 341-359.2.Das, S., & Suganthan, P. N. (2011). Differential evolution: a survey of the state-of-the-art. IEEE Transactions on evolutionary computation, 15(1), 4-31.。
差分进化算法的实际应用差分进化算法(Differential Evolution,DE)是一种用于全局优化问题的优化算法,具有广泛的实际应用。
本文将从理论和实践两个方面介绍差分进化算法的应用。
一、差分进化算法的原理差分进化算法是由R. Storn和K. Price于1997年提出的一种全局优化算法,其基本原理是通过模拟生物进化的过程,寻找问题的最优解。
差分进化算法的核心思想是通过不断迭代的方式,使种群中的个体逐渐趋向最优解。
差分进化算法的具体步骤如下:1. 初始化种群:随机生成一组个体作为初始种群。
2. 变异操作:对种群中的每个个体进行变异操作,生成新的个体。
3. 交叉操作:将变异后的个体与原个体进行交叉操作,生成新的个体。
4. 选择操作:根据适应度函数的值,选择新的个体进入下一代种群。
5. 终止条件判断:根据预设的终止条件,判断是否结束算法。
二、差分进化算法的应用差分进化算法具有很强的全局搜索能力和较强的鲁棒性,因此在很多实际问题中得到了广泛应用。
以下将介绍差分进化算法在几个实际应用领域的具体应用案例。
1. 优化问题差分进化算法在优化问题中具有广泛的应用,如函数优化、参数优化等。
例如,在工业领域中,差分进化算法被用于优化机器学习算法中的超参数,使得模型的性能得到提升。
2. 物流问题差分进化算法在物流问题中的应用也很常见。
例如,在货物配送问题中,需要找到最优的配送路径,以最小化运输成本或最大化配送效率。
差分进化算法可以通过对不同路径的搜索和比较,找到最优的配送方案。
3. 电力系统优化差分进化算法在电力系统优化中也有广泛应用。
比如,在电力系统的潮流计算中,差分进化算法可以用来寻找最优的发电机出力,以使得电力系统的功率损耗最小。
4. 机器学习差分进化算法在机器学习中的应用也非常多。
例如,在特征选择问题中,差分进化算法可以用来选择最优的特征子集,以提高机器学习模型的分类准确率。
5. 金融领域差分进化算法在金融领域中也有一定的应用。
自适应调整差分进化算法在优化问题中的应用肖文显;王俊阁;马孝琴【摘要】差分进化算法在求解优化问题时,进化后期由于种群多样性急剧下降,算法全局搜索能力被削弱,极易陷入局部最优解而“早熟”收敛.针对该问题定义了算法停滞系数和个体相似系数.根据算法停滞系数自适应调整算法的缩放系数.同时,根据个体相似系数判定种群普通个体与最优个体的相似性,并以此为基础对相似个体实施基因重构操作,从而避免种群个体严重趋同造成的种群多样性下降问题.将改进算法应用于标准测试函数和车辆路径问题的优化.模拟计算结果表明:改进算法的优化结果优于标准差分进化算法,改进的差分进化算法具有更强的全局寻优能力,适于求解复杂优化问题.【期刊名称】《哈尔滨理工大学学报》【年(卷),期】2015(020)001【总页数】4页(P71-74)【关键词】优化问题;差分进化;自适应调整;基因重构【作者】肖文显;王俊阁;马孝琴【作者单位】河南科技学院网络信息中心,河南新乡453003;河南科技学院网络信息中心,河南新乡453003;河南科技学院网络信息中心,河南新乡453003【正文语种】中文【中图分类】TP301.6差分进化算法[1](Differential Evolution,DE)是一种基于群体智能的优化方法,算法利用群体中个体之间的差异信息引导算法进行搜索,通过变异、交叉、选择三步操作实现种群的进化和优化搜索.算法具有控制参数少、鲁棒性等特点,应用较为广泛[2-6].但是,差分进化算法在求解优化问题时,进化后期由于种群多样性急剧下降,算法全局搜索能力被削弱,尤其是随着问题复杂程度的上升,算法极易陷入局部最优解而“早熟”收敛.研究表明控制参数的取值影响着DE算法的计算性能,但两者之间并非简单的线性关系,其作用机理仍需进一步探索研究[7-10].本文定义了算法停滞系数和个体相似系数.通过算法停滞系数来自适应调整算法进化过程中缩放系数的变化.同时,为降低线性调整缩放因子带来的不利影响,根据个体相似系数判定种群普通个体与最优个体的相似性,并以此为基础对相似个体实施基因重构操作,更新趋同个体的基因信息,从而避免种群个体严重趋同造成的种群多样性下降问题.差分进化算法是一种基于群体智能的启发式随机搜索算法,算法利用种群中个体的差异性,模拟自然界个体之间的竞争与合作,从而实现对问题解空间的搜索寻优.算法的进化策略有变异、交叉和选择三个.假定待求解问题维数为D,算法种群规模为NP,差分进化算法的基本进化过程如下:首先,种群初始化,即在待求解问题的解空间中随机生成规模为NP的初始种群其中,每个个体代表待求解问题的一种可行解.其次,变异操作.对于第g代群体,个体按照式(1)进行变异操作,得到新的变异个体其中为父代基向量为父代差分向量;F为缩放因子;g为迭代代数.第三,对得到的变异个体按式(2)进行交叉操作,得到待选择个体的第j维分量计算方式如下:其中,CR为交叉概率,取值范围为(0,1);rand()为随机数,取值范围为(0,1);jrand为{1,2,…,D}之间随机选取的随机量.最后,以贪婪选择的策略进行对比优选,对于最小化问题而言,选择适应值较小的个体作为子代个体继续进行进化,即比较待选择个体和原个体按式(3)进行优选:其中f(·)为适应度函数.2.1 参数定义1)算法停滞系数.为衡量算法的进化能力,判定算法是否陷入停滞,定义算法停滞系数ψ为式中,n为种群最优个体的适应值连续不变的代数,即若连续n代最优个体的适应值f1=f2=…=fn,则种群停滞系数就为n.2)个体相似参数.为衡量进化过程中,种群中其他个体与种群最优个体之间基因信息的相似性,定义个体相似参数为式中,Si为个体与种群最优个体之间的相似系数;xbest,k为种群中最优个体的第k 维的基因信息;xi,k为种群中第i个体的第k维基因信息;D为基因链长度,即问题的维度.2.2 缩放因子自适应调整缩放因子F用于调整变异操作中差分向量的权重,控制算法搜索的步长.如果F取值较大,可以扩大算法的搜索空间,提高算法跳出局部最优解的可能性,但是过大的F 会降低算法收敛速度;如果F取值较小,可以加速算法的收敛,但是过小的F会使算法陷入局部收敛[11].本文依据缩放因子的作用机理,通过算法停滞系数ψ对缩放因子进行动态调整.当算法进化能力下降,趋于停滞甚至局部收敛时,ψ随之变大,缩放因子F按式(6)调大.调整后,若算法适应值变优,则ψ归零,F重新恢复至F0;若适应值未变优,则按式(6)继续提高F.式中,F0为初始缩放系数;ω为调整系数.可根据待求解问题的特性在50~200之间取值.由此,算法变异操作修改为2.3 相似个体基因重构差分进化算法陷入局部最优解的主要原因是算法进化过程中种群多样性的下降,种群中出现个别优势个体甚至超级个体并对进化方向起绝对的主导作用,算法丧失了全局搜索能力.为解决该问题,本文在对种群中个体相似性判定的基础上,对趋同个体进行基因重构,从而完成基因信息的更新.该策略的主要思路是:当算法停滞系数ψ超过阈值ψmax后,选出种群中适应值最优的个体,并按式(5)依次计算其余个体与该最优个体之间的相似参数,将与最优个体相似参数最高的m个个体进行基因重构.m根据种群规模预先设定,基因重构为式中,xi,j为第i个个体基因重构后的第j维基因信息;xmin,j、xmax,j分别为待求解问题第j维基因的取值下限和上限;rand()为0~1之间的随机数.2.4 改进差分进化算法的实施步骤改进的差分进化算法的计算流程如图1所示.为验证本文提出的改进算法的有效性,将改进算法应用于标准测试函数的优化问题和车辆路径问题.3.1 标准测试函数1)Sphere函数:2)Rosenbrock函数:3)Rastrigrin函数:4)Griewank函数:5)Ackley函数:分别采用差分进化算法和改进算法对上述5个标准测试函数进行优化计算,算法参数设置如下:种群规模NP取200,初始缩放因子F0取0.70,交叉概率CR取0.60,算法最大迭代次数取为1 000,算法停滞阈值ψmax取为20,基因重构数量m取为10.问题维度分别取10、20、50、100、200等5种情况,采用上述两种算法对5个标准测试函数在每种维度下分别进行50次计算,取其平均结果进行对比.在此仅列出50维度时的计算成果,求解结果如表1所示.对比表1中DE和改进DE算法得到的平均值和最优解可见,改进DE算法优化结果明显优于标准DE算.对比两种算法多次优化结果的标准差可见,改进DE算法的优化结果变化幅度小于DE算法.这说明改进DE算法具有更强的全局优化能力,更能够搜索到优秀的结果.3.2 车辆路径问题车辆路径问题(Vehicle Routing Problem,VRP)是在满足车辆最大负载和客户需求的前提下,优化车辆的行驶路径使得运输成本最低、时间最短等目标得以实现.VRP问题的相关概念和数学模型可见文[12-13],本文在此不再赘述.假定有8个分库和1个总库,总库有2辆车辆用于配送货物,每辆车的最大容量均为8t.要求合理安排车辆的配送路线,使得总的运输距离最短.各分库对总库的货物需求量以及各库之间的距离如表2所示(其中0表示总库).按3.1节相同的参数设置,分别采用DE和改进DE算法对上述车辆路径问题进行20次优化,取各算法优化结果的平均值作对比,优化结果如表3所示.对比两种算法的平均优化结果可见,改进DE算法的优化结果明显优于DE.在最优值方面,改进DE算法也优于DE.这说明,在车辆路径问题的优化方面,改进DE可以更大程度的提高算法的全局搜寻能力,避免算法陷入局部最优.两种算法20次的寻优结果分布如图2所示.由图2可见,改进DE算法多次搜索得到的优化结果普遍优于DE.结合表3中两种算法多次寻优结果的标准差进行分析可知,改进DE算法能够更好的进行全局搜索.本文针对差分进化算法进化后期种群多样性下降导致算法全局搜索能力下降而“早熟收敛”问题,定义了算法停滞系数和个体相似系数.在进化过程中,通过算法停滞系数动态调整缩放因子,并以个体相似系数为判定指标动态更新种群中趋同个体的基因信息,从而改善算法的种群多样性状况.将改进算法应用于标准测试函数和车辆路径问题的优化,模拟计算结果表明:改进算法的优化结果优于标准差分进化算法,并且具有更强的全局寻优能力,适于求解复杂优化问题.【相关文献】[1] RAINER Storn,Kenneth Price. Differential Evolution—A Simple and Efficient Heuristic for Global Optimization over Continuous Spaces[J]. Journal of GlobalOptimization,1997(11):341-359.[2] 方强,陈德钊,俞欢军,等.基于优进策略的差分进化算法及其化工应用[J].化工学报,2004,5(4):598-602.[3] 张吴明,钟约先.基于改进差分进化算法的相机标定研究[J].光学技术,2004,30(6):720-723.[4] 翟捷,王春峰,李光泉.基于差分进化方法的投资组合管理模型[J].天津大学学报,2002,5(3):304-308.[5] 郑慧涛,梅亚东,胡挺,等.双层交互混合差分进化算法在水库群优化调度中的应用[J].水力发电学报,2013,2(1):54-62.[6] 宁桂英,周永权.一种求解二重积分的差分进化算法[J].哈尔滨理工大学学报,2013,8(2):121-125.[7] 谢晓锋,张文俊,张国瑞,等.差异演化的实验研究[J].控制与决策,2004,19(1):49-52.[8] 袁俊刚,孙治国,曲广吉.差异演化算法的数值模拟研究[J].系统仿真学报,2007,19(20):4646-4649.[9] 高岳林,刘军民.差分进化算法的参数研究[J].黑龙江大学自然科学学报,2009,26(1):81-85.[10] 杨振宇,唐珂.差分进化算法参数控制与适应策略综述[J].智能系统学报,2011,6(5):415-423.[11] 蔡之华,龚文引. 差分演化算法及其应用[M]. 武汉:中国地质大学出版社,2010.[12] 吴斌. 物流配送车辆路径问题及其智能优化算法[M]. 北京:经济管理出版社,2013.[13] 范军涛,谢红兵,陈恩鹏. 车辆路径问题的改进遗传算法[J]. 哈尔滨理工大学学报,2004,9(5):118-120.。
基于自适应差分演化模型误差估计摘要本篇文章讨论热方程的源项识别问题, 这是一个标准在偏微分方程反问题. 利用最小二乘法的思想, 我们把这一问题转化为一个偏微分方程约束优化问题. 为了避免在求解优化问题的过程中使用目标泛函的梯度和偏微分方程的伴随方程, 我们利用了一类智能优化算法: 差分演化算法, 这一类算法只需要运行热传导方程的数值求解过程即可实现源项的最优估计. 数值算例的结果显示, 智能优化算法能够给出的源项的估计,但是精度还有待提高.本文重点介绍如何使用智能算法之一JADE来实现源项的估计。
关键词: 模式误差差分演化算法jade引言偏微分方程解的适定性概念是Hadamard于上世纪20年代提出的. 这一概念的提出在偏微分方程中起了巨大的推动作用. 但是, 随着人类活动的不断扩展, 人们从生产实践中发现了越来越多的有着重要应用背景和科学价值的问题. 随着实际问题和理论发展的需要, 这些问题已成为数学及其它学科中的一个重要内容. 在偏微分方程反问题研究中, 源项反演问题是一个重要研究领域. 1968年J.R. Cannon就开始了这方面的工作. 在Cannon模型中, 假定源项)f与空间位置有(x关, 并给出了反问题的唯一性. 随后, 许多数学家对这一问题理论分析和数值求解两方面都做了工作. 近期工作中, 理论分析方面, Fang-Fang Dou在[8]中利用Fourier 正则化方法求解了一个依赖于空间热源, 并某些先验条件下给出了问题最好可能误差界; Gong-Sheng Li 在[7]中对于识别一个依赖于空间变量状态变量热源, 即)()(u g x a , 并在)(x a 已知的情况下得到了一个条件稳定性结果; D.D. Trong 在[6]中讨论了一个识别二维变量分离形式热源, ),()(y x f t ϕ, 其中)(t ϕ已知, 并得到了显式误差估计; Savateev, E. G .在[4]中对于依赖于空间变量的热源给出了该问题唯一可解; M. Yamamoto 在[3]中对于确定),()(y x f t σ形式, )(t σ已知, 给出了条件稳定性结果; Adrian Farcas and Daniel Lesnic 在[10]中利用边界元方法求解了分别依赖于空间变量和时间变量的两类热源问题; 在[14]中Gong-Sheng Li 对于对流-色散方程的热源识别问题给出了一个新算法, 并给出了一个选取最优正则化参数的方法; [29]中,L. Yan 讨论了将无网格方法应用到源项只与空间变量有关的源项识别。
jade算法原理
JADE(自适应差分进化算法)是一种优化算法,用于求解问题的最优解。
它基于差分进化算法(DE)的思想,通过引入自适应机制来提高搜索效率和收敛性。
下面是JADE算法的基本原理:
1. 初始化种群:随机生成初始种群,其中每个个体表示问题的一个可能解。
2. 评估适应度:对于每个个体,计算其适应度值,即衡量个体对问题的解决程度的指标。
3. 变异操作:对种群中的个体进行变异操作,生成新的个体。
变异操作通常使用差分进化算法中的变异策略,例如rand/1或best/1等。
4. 交叉操作:将变异后的个体与原始个体进行交叉操作,生成子代个体。
交叉操作也可以使用不同的策略,如二进制交叉或指数交叉等。
5. 选择操作:根据适应度值选择保留原始个体或子代个体
作为下一代种群。
JADE算法引入了自适应机制,在选择操作时根据个体的适应度值和差异向量的历史信息来调整选择概率,以提高搜索效率和收敛性。
6. 终止条件:重复步骤3到5,直到满足终止条件。
终止条件可以是达到最大迭代次数、找到满意的解或适应度值不再改变等。
JADE算法通过自适应机制和差异向量的历史信息来调整个体和子代的选择概率,从而在搜索过程中动态调整进化策略,提高搜索效率和收敛性。
它在求解复杂优化问题时具有一定的优势,尤其适用于参数空间较大或多峰问题。
1.差分进化算法背景差分进化(Differential Evolution,DE)是启发式优化算法的一种,它是基于群体差异的启发式随机搜索算法,该算法是Raincr Stom和Kenneth Price为求解切比雪夫多项式而提出的。
差分进化算法具有原理简单、受控参数少、鲁棒性强等特点。
近年来,DE在约束优化计算、聚类优化计算、非线性优化控制、神经网络优化、滤波器设计、阵列天线方向图综合及其它方面得到了广泛的应用。
差分算法的研究一直相当活跃,基于优胜劣汰自然选择的思想和简单的差分操作使差分算法在一定程度上具有自组织、自适应、自学习等特征。
它的全局寻优能力和易于实施使其在诸多应用中取得成功。
2.差分进化算法简介差分进化算法采用实数编码方式,其算法原理同遗传算法相似刚,主要包括变异、交叉和选择三个基本进化步骤。
DE算法中的选择策略通常为锦标赛选择,而交叉操作方式与遗传算法也大体相同,但在变异操作方面使用了差分策略,即:利用种群中个体间的差分向量对个体进行扰动,实现个体的变异。
与进化策略(Es)采用Gauss或Cauchy分布作为扰动向量的概率密度函数不同,DE使用的差分策略可根据种群内个体的分布自动调节差分向量(扰动向量)的大小,自适应好;DE 的变异方式,有效地利用了群体分布特性,提高了算法的搜索能力,避免了遗传算法中变异方式的不足。
3.差分进化算法适用情况差分进化算法是一种随机的并行直接搜索算法,最初的设想是用于解决切比雪夫多项式问题,后来发现差分进化算法也是解决复杂优化问题的有效技术。
它可以对非线性不可微连续空间的函数进行最小化。
目前,差分进化算法的应用和研究主要集中于连续、单目标、无约束的确定性优化问题,但是,差分进化算法在多目标、有约束、离散和噪声等复杂环境下的优化也得到了一些进展。
4.基本DE算法差分进化算法把种群中两个成员之间的加权差向量加到第三个成员上以产生新的参数向量,这一操作称为“变异”。
确定各向异性含水层参数的混沌自适应差分进化算法作为地下水资源的重要组成部分,含水层是水文地质研究领域的重要研究对象。
含水层中的各项异性特征及参数对地下水流动、热传递和物质运移等过程具有不可忽略的影响。
因此,确定含水层各向异性参数是地下水资源可持续管理和利用的重要前提,也是水文地质学的核心问题之一。
然而,由于各向异性参数的获取和确定具有较大的难度和复杂性,一直以来都是水文地质学领域的一个热点研究问题。
目前,国内外学者对含水层参数的确定方法进行了大量探讨和研究,其中比较常用的方法包括试井法、地球物理法、水文地质剖面法和计算模拟法等。
这些方法各有优缺点,但在一些具体应用领域中仍存在一定的局限性。
为此,基于混沌优化算法的各向异性含水层参数的确定成为目前研究的热点之一。
混沌优化算法是一种新兴的全局优化算法,它通过实现混沌动态系统中的混沌特性,使得被优化问题得到更优解的搜索。
混沌优化算法具有收敛速度快、全局搜索能力强、适用于高维搜索等优点,被广泛应用于组合优化问题、随机优化问题及动态优化问题等领域。
差分进化算法是一种常用的全局优化算法,它通过模拟生物个体进化的方式来求解被优化问题,具有较好的全局搜索能力和鲁棒性。
差分进化算法已经成功应用于多种优化问题领域并取得了较好的效果。
针对各向异性含水层参数确定问题,将混沌优化算法与差分进化算法相结合,提出了一种混沌自适应差分进化算法。
该算法综合利用混沌优化算法的全局搜索能力和差分进化算法的群体进化和自适应性等特点,有效地处理了各向异性参数较为复杂的实际问题。
算法的具体实现方法分为以下几个步骤:1.初始化种群根据各向异性含水层的实际情况,确定变量的初始搜索范围和搜索精度等参数,利用随机方差初始化种群。
2.交叉和变异算子采用差分进化算法的交叉算子和变异算子,对种群进行进化操作。
3.混沌动态利用混沌优化算法中的混沌动态,对进化种群个体的变异向量进行扰动,增加种群进化的多样性和全局搜索能力。
差分进化算法 de
差分进化算法(Differential Evolution,DE)是一种用于全
局优化的启发式优化算法。
它是基于群体搜索的算法,通常用于解
决连续型优化问题。
DE算法最初由Storn和Price在1997年提出,它模拟了自然界中的进化过程,通过不断迭代寻找最优解。
DE算法的基本原理是通过维护一个种群,利用差分操作来产生
新的个体,然后通过比较新个体和原有个体的适应度来更新种群。
在每次迭代中,DE算法通过交叉和变异操作来生成新的个体,并根
据适应度函数来决定是否接受新个体。
这样不断迭代,直到达到停
止条件为止,从而找到最优解或者近似最优解。
DE算法相对于其他优化算法的优势在于其简单性和高效性。
它
不需要对目标函数进行求导,也不需要事先对问题的特性有深入的
了解,因此适用于各种优化问题。
同时,DE算法具有较好的全局搜
索能力,能够有效避免陷入局部最优解。
然而,DE算法也存在一些缺点,比如对参数的选择比较敏感,
需要进行一定的调参才能达到较好的性能。
此外,对于高维优化问题,DE算法的收敛速度可能会受到影响。
总的来说,差分进化算法作为一种全局优化算法,在实际应用中具有一定的优势和局限性,需要根据具体问题的特点来选择合适的优化算法。
差分进化算法的研究和应用差分进化算法(Differential Evolution,DE)是一种全局优化算法,主要用于求解连续优化问题。
它具有简单、易于实现和高效的特点,在多个领域得到了广泛的应用。
差分进化算法最早由Storn和Price于1995年提出,其基本思想是通过不断的迭代,利用种群中个体之间的差异来搜索最优解。
与传统的进化算法不同,差分进化算法不涉及交叉和变异操作,而是通过差分向量的生成和选择操作来实现搜索。
差分进化算法的基本步骤如下:1. 初始化种群:随机生成一定数量的候选解作为初始种群。
2. 差分向量生成:根据当前种群中的个体,生成一组差分向量,用于产生新的候选解。
3. 新解生成:根据差分向量和当前种群中的个体,生成一组新的候选解。
4. 选择操作:根据一定的选择策略,从新生成的候选解和当前种群中选择出下一代种群。
5. 终止条件判断:根据预设的终止条件,判断是否满足停止迭代的条件,如果满足则终止算法,否则返回步骤2。
差分进化算法的研究主要围绕以下几个方面展开:1. 算法改进:研究者通过改进差分向量生成策略、选择操作策略、参数设置等方面,提出了多种改进的差分进化算法,以提高算法的收敛性和搜索能力。
2. 算法分析:研究者通过理论分析和实验验证,对差分进化算法的收敛性、全局收敛性和收敛速度等进行了深入研究,为算法的应用提供了理论依据。
3. 多目标优化:差分进化算法不仅可以用于单目标优化问题,还可以通过引入多目标优化的技术,应用于多目标优化问题,如多目标函数优化、多目标约束优化等。
4. 算法应用:差分进化算法在多个领域得到了广泛的应用,如工程设计优化、模式识别、机器学习、神经网络训练等。
差分进化算法的应用案例包括:1. 工程设计优化:差分进化算法可以应用于工程设计中的参数优化问题,如机械结构优化、电路设计优化等,以提高设计方案的性能。
2. 模式识别:差分进化算法可以用于模式识别中的特征选择、模型参数优化等问题,以提高模式识别的准确性和效率。
第38卷 、,0l_38 第5期 No.5 计算机工程
Computer Engineering 2012年3月
March 2012
・人工智能及识别技术・ 文章编号:1000 ̄3428(2012)05---0202---03 文献标识码:A 中圈分类号:TP301.6 自适应差分进化算法及其在参数估计中的应用 王海伦 ,余世明 ,郑秀莲 (1.衢州学院电气与信息工程学院,浙江衢州324000;2.浙江工业大学智能信息系统研究所,杭州310014) 摘要:为解决动力学参数估计的问题,提出一种控制参数自适应和策略自适应的差分进化算法(DE—CPASA)。在该算法中,采用差分进 化对优化问题进行寻优,控制参数以正态分布的方式实现自适应,通过对适应度函数值的评价,实现变异策略的自适应。测试仿真结果表 明,DE—CPASA算法具有较高的求解精度和较快的收敛速度。将DE—CPASA算法应用于Hg氧化动力学参数估计,可得到较好的优化结果。 关健词:差分进化算法;自适应;参数估计;水银氧化;策略自适应;变异因子
Adaptive Differential Evolution Algorithm and Its Application in Parameter Estimation
WANG Hai・lun ,YU Shi-ming ,ZHENG Xiu-lian (1.College of Electrical and Information Engineering,Quzhou University,Quzhou 324000,China; 2.Intelligence Information Systems Research Institute,Zhejiang University ofTechnology,Hanzhou 310014,China)
[Abstract]In order to solve problem of parameter estimation,an Differential Evolution algorithm with Control Parameter Adaptation and Strategy Adaptation(DE—CPASA)is introduced.In DE—CPASA,diferential evolution operator is used tO search the optimization results of problems,and Gaussian distribution is employed tO implement the adaptive control parameters The strategy adaptation is achieved by evaluation of value of fitness function.Simulation test results show that DE—CPASA can obtain a higher precision solution and has fast convergence.DE—CPASA is employed to estimate the kinetic parameters of Hg oxidation,and a good optimization result is obtained. [Key words!diferential evolution algorithm;adaptive;parameter estimation;Hg oxidation;strategy adaptation;mutation factor D0I:10.39690.issn.1000—3428.2012.05.062
1概述 自从差分进化算法…提出后,相比于其他智能优化算法 来讲,由于其具有更加良好的寻优性能和较快的收敛速度, 因此,迅速得到了众多学者的关注和研究 】,并且对该算法 的控制参数(变异因子F和交叉概率CR)、策略等方面进行了 大量的研究工作,将其应用于各种实际的复杂优化问题,取 得了令人满意的优化效果。 虽然差分进化算法有着令人满意的优化效果,但是面对 越来越复杂的优化问题,其固定的控制参数设定和变异策略 都难以适应算法进化的需要,因此,其存在的算法缺陷不可 忽视。为此,本文提出一种控制参数自适应和策略自适应的 差分进化算法(Diferential Evolution Algorithm with Control Parameter Adaptation and Strategy Adaptation,DE—CPASA)。 2控制参数自适应和策略自适应的差分进化算法 对于优化问题: minf(x1,X2,・・, D) ∈( ?, )J=1,2,・一,D (1)
其中,_厂( )为优化的目标函数;X为D维优化矢量, 和 分别为第 个变量xj的下限和上限。 在DE—CPASA算法中,个体的构造和策略的使用如图1 所示。对于个体的构造,采用的是控制参数和个体一起编码 的方式,即每个个体都有一个与其对应的控制参数,从而能 够实现算法在种群进化的同时,控制参数在个体水平上实现 动态的变化,改变了传统DE算法中控制参数固定的方式; 对于策略的使用,算法在初始阶段时,使,vc 。 =0,即在算 法迭代开始时,把种群分为2个个体数量为NP/2的子种群,
然后利用DE/rand/1、DE/rand—to—best/1和DE/rand/2等变异 策略对个体进行变异操作,并对它们进行评价。最后利用 Ⅳc 。的变化实现策略的自适应,从而提高算法整体的优化 性能。
Sj S2‘ 变异策略
lG ( 、CR1。)
2G (F2 .CR2。) DE/rand/l
,2+ ( _l、 ) ,2+ l ( 、CROpm +1) DE/rand—to—best/l、 DE/rand/2
(磁、CROp) 图l原始种群S- 、控剖参数种群S 和变异策略 基金项目:2010年度科技部国家重点新产品计划基金资助项目(201 0GRC201 13);衢州学院中青年骨干教师基金资助项目 作者倚介:王海伦(1979--),女,讲师、硕士,主研方向:智能优化, 无线传感器网络;余世明,教授、博士;郑秀莲,副教授、硕士 收稿It期:2011-08—25 E-mail:xiaohong1920@126.com 第38卷第5期 王海伦,余世明,郑秀莲:自适应差分进化算法及其在参数估计中的应用 203 DE—CPASA算法步骤如下: (1)初始化 在各自的可行域内,生成原始种群s 与控制参数种群
,设置最大的迭代次数G 和种群的规模NP,同时,使 Nch0ice=0,Fs”ldt gy1=0,Fstrat。gy2=0。 (2)原始种群 1的进化 每一个原始个体 。采用各自(Fi。、CRiG)作为控制参
数,实现差分进化操作,生成新个体 --G”,i=1,2…,^ 。 选择NPI2+Nchnic。个个体进行式(2)的个体变异操作: 量 = + ,( :一 :) ( )
其中,/。strategyI=1,2,…,NPI2+Nch0ice。 选择剩下的NP/2一 h。i 。个个体按照rand>O.4的原则分 别进行式(3)和式(4)的个体变异操作。如果是,则利用式(3) 进行变异操作;如果否,则利用式(4)进行变异操作。 = G+ ( :一 :)+ ’( :一 :) (3)
= + ’( £ 。一 )+ ’( 一 ) (4) 其中, /‘strategy2=NP/2+Nch0ice+1,NP/2+Nch。i 。+1,…,ⅣP, 且 strategy1+ strategy2:ⅣP。 个体的边界处理: 若 或筹 > ,那么 “从可行域内随机选取。
个体交叉操作:
- Gij :
P> (5)
^ 一1筹 otherwise
其中, 是新个体 的第 个基因。 策略的自适应的操作: 求得_厂( .)的平均值,同时使 嗍.=Mean(、f( ̄一TM
.));
求得,( )的平均值,同时使 …gy2=Mean(_厂(i ))。 如果 刚≤ v2,那么Nc 。=N 。, +1,否则 Nc 。 。=Nc 。一1。同时,对 。 的边界进行处理,如果 ^ t >NP/2,男B么Nch0, =NP/2-1;如果 h0.。 <-NP/2, 那么Ⅳchoi =一NP/2+I。 个体的选择:
叠 G+I= ㈣ (3)控制参数种群s 的进化: =N(0.5, ) (7) ( =N(0.9, ) (8) 其中, =1.2一G/Gm。 控制参数边界的设定: 如果 >l或F6+’<0,那么 ’=1或 =0。 如果CR?“>1或c “<0,那么c =1或CR7 :0。 (4)重复步骤(2)、步骤(3),直到进化代数超过最大进化代 数G 。
3仿真测试 为了说明DE—CPASA算法性能的优劣,通过对13个 100维的标准测试函数的测试验证算法的性能,并且将其优 化的结果跟知名算法JADE¨ 及一种传统差分进化算法 DE/rand/1进行比较。 为了能够体现比较的公平性,DE—CPASA算法采用了与 文献[7】相同的种群大小,即NP=400,但是在最大迭代代数 的设置上,DE—CPASA算法采取了不同的参数设置,如表1 所示。其中,传统差分进化算法的控制参数设置采用文献[8】 推荐的参数:F=0.5和CR=0.9。对于每个100维的标准测 试函数,DE—CPASA算法、JADE算法和传统差分进化算法 都分别独立运行50次,然后分别求得每个测试函数的平均值 和标准方差。 表1标准 试函数及参|l【设定 从表2可以看出,对于Penalizedl和Penalized2这2个 测试,DE—CPASA的优化效果要比JADE的优化结果差点, 尤其是Penalized2这个测试函数,跟JADE算法存在着一点 差距,但是要好于传统差分进化算法的优化结果;而对于 Rosenbrock这个测试函数,可以发现,当迭代代数为6 000 时,DE—CPASA的优化结果并没有JADE好,而当代数达到 20 000代时,优化的结果远远超过了JADE的优化结果,并 且从JADE优化的结果来看,算法都出现了过早的收敛,而 DE—CPASA算法并没有出现这种情况。同时,DE—CPASA的 优化结果都要好于传统差分进化算法;再比较Step这个函 数,DE—CPASA的优化结果要好于JADE和传统差分进化算 法,除了JADE with archive在代数为1 500的时候,但是差 距并不是很大;对于其他剩余的测试函数来讲,DE—CPASA 算法的优化结果不仅要好于文献报道的优化结果,而且最大 的迭代代数明显要比文献小得多。由此可以看出,对于高维 测试函数来讲,DE—CPASA的搜优性能在总体上都超过了 JADE和传统的差分进化算法,显示了DE—CPASA在高维复 杂的测试函数中的优秀表现。