?
进化算法 EA(evolutionary algorithms) 进化算法包括遗传算法、进化程序设计、进化规划和进化策略等等，进化算法的基本框 架还是简单遗传算法所描述的框架，但在进化的方式上有较大的差异，选择、交叉、变异、 种群控制等有很多变化，进化算法的大致框图可描述如右图所示： 同遗传算法一样，进化算法的收敛性也有一些结果，在文献[9]中证明了在保存最优个 体时通用的进化计算是收敛的。但进化算法的很多结果是从遗传算法推过去的。 遗传算法对交叉操作要看重一些， 认为变异操作是算法的辅助操作； 而进化规划和进化 策略认为在一般意义上说交叉并不优于变异，甚至可以不要交叉操作。
08-11-23 | 添加评论
?
0
小树快快长
算法（Algorithm）是一系列解决问题的清晰指令，也就是说，能够对一定规范的输入， 在有限时间内获得所要求的输出。如果一个算法有缺陷，或不适合于某个问题，执行这个算 法将不会解决这个问题。不同的算法可能用不同的时间、空间或效率来完成同样的任务。一 个算法的优劣可以用空间复杂度与时间复杂度来衡量。 算法可以理解为有基本运算及规定的运算顺序所构成的完整的解题步骤。 或者看成按照 要求设计好的有限的确切的计算序列，并且这样的步骤和序列可以解决一类问题。 一个算法应该具有以下五个重要的特征： 1、有穷性： 一个算法必须保证执行有限步之后结束； 2、确切性： 算法的每一步骤必须有确切的定义； 3、输入：一个算法有 0 个或多个输入，以刻画运算对象的初始情况，所谓 0 个输入是 指算法本身定除了初始条件； 4、输出：一个算法有一个或多个输出，以反映对输入数据加工后的结果。没有输出的 算法是毫无意义的； 5、 可行性： 算法原则上能够精确地运行， 而且人们用笔和纸做有限次运算后即可完成。 计算机科学家尼克劳斯-沃思曾著过一本著名的书《数据结构十算法= 程序》，可见算 法在计算机科学界与计算机应用界的地位。 [编辑本段] 算法的复杂度 同一问题可用不同算法解决， 而一个算法的质量优劣将影响到算法乃至程序的效率。 算 法分析的目的在于选择合适算法和改进算法。 一个算法的评价主要从时间复杂度和空间复杂 度来考虑。 时间复杂度 算法的时间复杂度是指算法需要消耗的时间资源。一般来说，计算机算法是问题规模 n 的函数 f(n)，算法的时间复杂度也因此记做 T(n)=Ο (f(n))
因此，问题的规模 n 越大，算法执行的时间的增长率与 f(n) 的增长率正相关，称作渐 进时间复杂度（Asymptotic Time Complexity）。 空间复杂度 算法的空间复杂度是指算法需要消耗的空间资源。其计算和表示方法与时间复杂度类 似，一般都用复杂度的渐近性来表示。同时间复杂度相比，空间复杂度的分析要简单得多。 详见百度百科词条"算法复杂度" [编辑本段] 算法设计与分析的基本方法 1.递推法 递推法是利用问题本身所具有的一种递推关系求问题解的一种方法。 它把问题分成若干 步，找出相邻几步的关系，从而达到目的，此方法称为递推法。 2.递归 递归指的是一个过程：函数不断引用自身，直到引用的对象已知 3.穷举搜索法 穷举搜索法是对可能是解的众多候选解按某种顺序进行逐一枚举和检验， 并从众找出那 些符合要求的候选解作为问题的解。 4.贪婪法 贪婪法是一种不追求最优解， 只希望得到较为满意解的方法。 贪婪法一般可以快速得到 满意的解， 因为它省去了为找最优解要穷尽所有可能而必须耗费的大量时间。 贪婪法常以当 前情况为基础作最优选择，而不考虑各种可能的整体情况，所以贪婪法不要回溯。 5.分治法 把一个复杂的问题分成两个或更多的相同或相似的子问题， 再把子问题分成更小的子问 题??直到最后子问题可以简单的直接求解，原问题的解即子问题的解的合并。 6.动态规划法 动态规划是一种在数学和计算机科学中使用的， 用于求解包含重叠子问题的最优化问题 的方法。其基本思想是，将原问题分解为相似的子问题，在求解的过程中通过子问题的解求 出原问题的解。动态规划的思想是多种算法的基础，被广泛应用于计算机科学和工程领域。 7.迭代法 迭代是数值分析中通过从一个初始估计出发寻找一系列近似解来解决问题 （一般是解方 程或者方程组）的过程，为实现这一过程所使用的方法统称为迭代法。 [编辑本段] 算法分类 算法可大致分为基本算法、数据结构的算法、数论与代数算法、计算几何的算法、图论 的算法、动态规划以及数值分析、加密算法、排序算法、检索算法、随机化算法、并行算法。 算法可以宏泛的分为三类： 有限的，确定性算法 这类算法在有限的一段时间内终止。他们可能要花很长时间来执 行指定的任务，但仍将在一定的时间内终止。这类算法得出的结果常取决于输入值。 有限的，非确定算法 这类算法在有限的时间内终止。然而，对于一个（或一些）给定
的数值，算法的结果并不是唯一的或确定的。 无限的算法 是那些由于没有定义终止定义条件，或定义的条件无法由输入的数据满足 而不终止运行的算法。通常，无限算法的产生是由于未能确定的定义终止条件。 [编辑本段] 举例 经典的算法有很多，如："欧几里德算法，割圆术，秦九韶算法"。 [编辑本段] 算法经典专著 目前市面上有许多论述算法的书籍，其中最著名的便是《计算机程序设计艺术》 （The Art Of Computer Programming) 以及《算法导论》（Introduction To Algorithms）。 [编辑本段] 算法的历史 “算法”即演算法的大陆中文名称出自《周髀算经》；而英文名称 Algorithm 来自于 9 世纪波斯数学家 al-Khwarizmi， 因为 al-Khwarizmi 在数学上提出了算法这个概念。 “算法” 原为"algorism"，意思是阿拉伯数字的运算法则，在 18 世纪演变为"algorithm"。欧几里得 算法被人们认为是史上第一个算法。 第一次编写程序是 Ada Byron 于 1842 年为巴贝奇分析 机编写求解解伯努利方程的程序，因此 Ada Byron 被大多数人认为是世界上第一位程序员。 因为查尔斯·巴贝奇(Charles Babbage)未能完成他的巴贝奇分析机，这个算法未能在巴贝 奇分析机上执行。 因为"well-defined procedure"缺少数学上精确的定义，19 世纪和 20 世纪早期的数学家、逻辑学家在定义算法上出现了困难。20 世纪的英国数学家图灵提出了 著名的图灵论题，并提出一种假想的计算机的抽象模型，这个模型被称为图灵机。图灵机的 出现解决了算法定义的难题，图灵的思想对算法的发展起到了重要作用的。
湖南大学 硕士学位论文 差分进化算法及应用研究 姓名：吴亮红 申请学位级别：硕士 专业：控制理论与控制工程指导教师：王耀南 20070310
硕士学位论文 摘要 论文首先介绍了智能优化算法的产生对现代优化技术的重要影响，阐述了智能优化算法的研究和发展对现代优化技术和工程实践应用的必要性，归纳总结了智能优化算法的主要特点，简要介绍了智能优化算法的主要研究内容及应用领域。 对差分进化算法的原理进行了详细的介绍，给出了差分进化算法的伪代码。针对混合整数非线性规划问题的特点，在差分进化算法的变异操作中加入取整运算，提出了一种适合于求解各种混合整数非线性规划问题的改进差分进化算法。同时，采用时变交叉概率因子的方法以提高算法的全局搜索能力和收敛速率。用四个典型测试函数进行了实验研究，实验结果表明，改进的差分进化算法用于求解混合整数非线性规划问题时收敛速度快，精度高，鲁棒性强。 采用非固定多段映射罚函数法处理问题的约束条件，提出了一种用改进差分进化算法求解非线性约束优化问题的新方法。结合差分进化算法两种不同变异方式的特点，引入模拟退火策略，使算法在搜索的初始阶段有较强的全局搜索能力，而在后阶段有较强的局部搜索能力，以提高算法的全局收敛性和收敛速率。用几个典型Benchmarks函数进行了测试，实验结果表明，该方法全局搜索能力强，鲁棒性好，精度高，收敛速度快，是一种求解非线性约束优化问题的有效方法。 为保持所求得的多目标优化问题Pareto最优解的多样性，提出了一种精英保留和根据目标函数值进行排序的多目标优化差分进化算法。对排序策略中目标函数的选择方式进行了分析和比较，并提出了一种确定进化过程中求得的精英解是否进入Pareto最优解集的阈值确定方法。用多个经典测试函数进行了实验分析，并与NSGA-Ⅱ算法进行了比较。实验结果表明，本文方法收敛到问题的Pareto前沿效果良好，获得解的散布范围广，能有效保持所求得的Pareto最优解的多样性。 提出了一种新的基于群体适应度方差自适应二次变异的差分进化算法。该算法在运行过程中根据群体适应度方差的大小，增加一种新的变异算子对最优个体和部分其它个体同时进行变异操作，以提高种群多样性，增强差分进化算法跳出局部最优解的能力。对几种典型Benchmarks函数进行了测试，实验结果表明，该方法能有效避免早熟收敛，显著提高算法的全局搜索能力。提出了将该改进算法用来整定不完全微分PID控制器最优或近似最优参数的新方法。为克服频域中常用的积分性能指标如IAE，ISE和ITSE的不足，提出了一种新的时域性能指标对控制器性能进行测试和评价。用三个典型的控制系统对提出的ASMDE-PID控制器进行了测试。实验结果表明，该方法实现容易，收敛性能稳定，计算效率高。与ZN，GA和ASA方法相比，DE在提高系统单位阶跃响应性能方面效率更高，鲁棒性更强。 为了提高差分进化算法的全局搜索能力和收敛速率，提出了一种双群体伪并行差分
MOGA i x 是第t 代种群中个体，其rank 值定义为： () (,)1t i i rank x t p =+ ()t i p 为第t 代种群中所有支配i x 的个体数目 适应值（fitness value ）分配算法： 1、 将所有个体依照rank 值大小排序分类； 2、 利用插值函数给所有个体分配适应值（从rank1到 rank * n N ≤），一般采用线性函数 3、 适应值共享：rank 值相同的个体拥有相同的适应值， 保证后期选择时同一rank 值的个体概率相同 最后采用共享适应值随机选取的方法选择个体进入下一代 一种改进的排序机制（ranking scheme ）： 向量,1,(,,)a a a q y y y =???和,1,(,,)b b b q y y y =???比较 goal vector ：() 1,,q g g g =??? 分为以下三种情况： 1、 ()() ,,1,,1; 1,,; 1,,; a i i a j j k q i k j k q y g y g ?=???-?=????=+???>∧≤ 2、() ,1,,; a i i i q y g ?=???>
当a y 支配b y 时，选择a y 3、() ,1,,; a j j j q y g ?=???≤ 当b y 支配a y 时，选择b y 优点：算法思想容易，效率优良 缺点：算法容易受到小生境的大小影响 理论上给出了参数share σ的计算方法
NPGA 基本思想： 1、初始化种群Pop 2、锦标赛选择机制：随机选取两个个体1x 和2x 和一个Pop 的 子集CS(Comparison Set)做参照系。若1x 被CS 中不少于一 个个体支配，而2x 没有被CS 中任一个体支配，则选择2x 。 3、其他情况一律称为死结（Tie ），采用适应度共享机制选择。 个体适应度：i f 小生境计数（Niche Count ）：(),i j Pop m Sh d i j ∈= ????∑ 共享函数：1-,()0,share share share d d Sh d d σσσ? ≤?=??>? 共享适应度（the shared fitness ）： i i f m 选择共享适应度较大的个体进入下一代 优点：能够快速找到一些好的非支配最优解域 能够维持一个较长的种群更新期 缺点：需要设置共享参数
基本差分进化算法 基本模拟退火算法概述 DE 算法是一种基于群体进化的算法，其本质是一种基于实数编码的具有保优思想的贪婪遗传算法。由于DE 算法操作简单，寻优能力强，自提出以来引起了国内外学者的高度关注，目前已在电力系统优化调度、配网重构等领域得到了应用。 1、算法原理 DE 算法首先在N 维可行解空间随机生成初始种群P 0001[,,]N =X x x L ，其中000T 1[,,]i i iN x x =x L ，p N 为DE 种群规模。DE 算法的核心思想在于采取变异和交叉操 作生成试验种群，然后对试验种群进行适应度评估，再通过贪婪思想的选择机制，将原种群和试验种群进行一对一比较，择优进入下一代。 基本DE 算法主要包括变异、交叉和选择三个操作。首先，在种群中随机选取三个个体，进行变异操作： 1123()t t t t i r r r F +=+-v x x x 其中1t i +v 表示变异后得到的种群，t 表示种群代数，F 为缩放因子，一般取(0,2]，它的大小可以决定种群分布情况，使种群在全局范围内进行搜索；1t r x 、2t r x 、3t r x 为从种群中随机抽取的三个不同的个体。 然后，将变异种群和原种群进行交叉操作： 1,R 1 ,,R () or () () and ()t i j t i j t i j v rand j C j randn i u x rand j C j randn i ++?≤=?=?>≠?? 其中t 1,i j u +表示交叉后得到的种群，()rand j 为[0,1]之间的随机数，j 表示个体的第j 个分量，R C 为交叉概率，()randn i 为[1,,]N L 之间的随机量，用于保证新个体至少有一维分量由变异个体贡献。 最后，DE 算法通过贪婪选择模式，从原种群和试验种群中选择适应度更高的个体进入下一代： 11t 11 ()() ()()t t t i i i i t t t i i i f f f f ++++?<=?≥?u u x x x u x 1()t i f +u 、()t i f x 分别为1t i +u 和t i x 的适应度。当试验个体1t i +u 的适应度优于t i x 时，
MOGA i x 是第t 代种群中个体，其rank 值定义为： () (,)1t i i rank x t p =+ ()t i p 为第t 代种群中所有支配i x 的个体数目 适应值（fitness value ）分配算法： 1、 将所有个体依照rank 值大小排序分类； 2、 利用插值函数给所有个体分配适应值（从rank1到 rank * n N ≤），一般采用线性函数 3、 适应值共享：rank 值相同的个体拥有相同的适应值， 保证后期选择时同一rank 值的个体概率相同 最后采用共享适应值随机选取的方法选择个体进入下一代 一种改进的排序机制（ranking scheme ）： 向量,1,(,,)a a a q y y y =???和,1,(,,)b b b q y y y =???比较 goal vector ：() 1,,q g g g =??? 分为以下三种情况：
1、 ()() ,,1,,1; 1,,; 1,,; a i i a j j k q i k j k q y g y g ?=???-?=????=+???>∧≤ 2、() ,1,,; a i i i q y g ?=???> 当a y 支配b y 时，选择a y 3、() ,1,,; a j j j q y g ?=???≤ 当b y 支配a y 时，选择b y 优点：算法思想容易，效率优良 缺点：算法容易受到小生境的大小影响 理论上给出了参数share σ的计算方法
NPGA 基本思想： 1、初始化种群Pop 2、锦标赛选择机制：随机选取两个个体1x 和2x 和一个Pop 的 子集CS(Comparison Set)做参照系。若1x 被CS 中不少于一 个个体支配，而2x 没有被CS 中任一个体支配，则选择2x 。 3、其他情况一律称为死结（Tie ），采用适应度共享机制选择。 个体适应度：i f 小生境计数（Niche Count ）：(),i j Pop m Sh d i j ∈= ????∑ 共享函数：1-,()0,share share share d d Sh d d σσσ? ≤?=??>? 共享适应度（the shared fitness ）： i i f m 选择共享适应度较大的个体进入下一代 优点：能够快速找到一些好的非支配最优解域 能够维持一个较长的种群更新期 缺点：需要设置共享参数
基于博弈论的协同进化算法：一种新的计算方法 摘要：博弈论是数学分析的方法，用于开发研究决策过程的。1928年，冯·诺依曼在数学上证明，每两个人，在zero sum那个游戏里，许多每个玩家纯的有限的策略是确定性。在50年代早期，纳什提出了另一个概念，作为推广冯·诺依曼理论的基础。博弈论另外一个主要成就就是引入演化博弈论，即媒介可以在缺乏合理性的情况下，采用最优战略。根据达尔文选择过程，媒介的人口数可以进化到由梅纳德·史密斯在1982年提出的进化稳定策略。为了跟上游戏理论研究的步伐，希利斯试用了第一台计算机的模拟进化。此外，考夫曼提出了NK模型，分析不同物种之间的协同进化动力学。他展示了协同进化的现象如何达到静止状态，这些状态是在博弈论中不是纳什的论均衡亦是ESS。 由于涉及共同进化现象的研究已发起，因此，已经很有很多其他研究人员在进行协同进化算法的研究。在这篇文章中，我们提出了一个新的协同进化算法，它是基于协同进化算法（GCEA）的，那就是博弈论。我们认为，通过搜索EES, 这种算法可以解决进化问题。我们解决了几个测试多目标优化问题（MOPS）用以评估此新的方法。从这些评估的结果，我们可以证实，进化博弈可由共同进化算法来实施。而且，通过比较我们的算法与其他进化算法的性能，分析出我们的性能较优化。 第一部分简介 博弈论被分成两大类，合作与不合作。非合作博弈论的目的，是充分说明合作以及不合作。因此在本文中，我们将非合作博弈理论作为关注的焦点，在1928年，冯·诺依曼已经奠定了非合作博弈论。同时，在1951年，纳什提出了另一个概念，作为概括冯·诺依曼理论的基础。在他的文章中，双人游戏的解决方案对于战略的最低要求就是候选人，作为一个对战略的最低要求是对两个人的游戏解决方案的候选人，他建议每个策略都要给对方最好的答复。这样一对策略，这是纳什均衡，成为现代化的基础非合作博弈论。 由于纳什均衡提出的非合作博弈的解决方案，因此寻求博弈均衡的研究已经开始了。在这些研究中，演化博弈论被看作是当特殊表型取决于人口频率变化是，研究表型水平变化的一种方式。列万廷第一次明确地应用博弈论在进化生物学。他的做法是寻求尽量减少物种灭绝可能性的策略，但是，是一个图片物种游戏，违反了自然规律。Slobodkin和拉波波特也进行了类似的研究。同时，汉密尔顿寻求一个无与伦比的战略，这个战略与梅纳德·史密斯和普赖斯定义的进化稳定策略（ESS）基本相同。 紧跟这些研究中，我们将协同进化算法试用于研究不同物种之间的进化。希尔利斯演示了如何将模拟进化应用于实际优化问题中，而且特别是寄生虫进化如何能提高协同进化的过程。模拟进化是对生物系统某些方面的理想化。还有，汉密尔顿同时使用计算机模拟和数学论证提出怎么进化能够产生遗传多样性。这改善了进化过程增加在优化效率。 几个研究共同进化的研究人员研究了演化博弈论这种现象。考夫曼基于NK类统计模型介绍了协同进化。他表示，协同进化的生态系统如何实现纳什均衡，以及如何稳定扰动这种均衡。在他的论文中，他描述了一种新型的调查协同进化问题的模型。这个模型与梅纳德·史密斯和普赖斯提出的ESS息息相关。与此同时，罗辛和贝尔柳提出，进化是假设通过博弈理论模型的基础上的，例如梅纳德·史密斯的ESS和囚徒困境逻辑。他们声称，它也出现在的人工智能游戏战略的演变上，其中潜在对手的范围使得难以建立一个单一，固定的，外源的适应度函数为通常用在遗传算法。 第二部分
基本差分进化算法 1基本差分进化算法的基本思想 DE 算法是一种基于实数编码的用于优化函数最小值的进化算法，是在求解有关切比雪夫多项式的问题时提出来的，是基于群体差异的进化计算方法。它的整体结构类似于遗传算法，一样都存在变异、交叉和选择操作，但是它又不同于遗传算法。与基本遗传算法的主要区别在于变异操作上，如： 1、传统的遗传算法采用二进制编码，而差分进化算法采用实数编码。 2、在遗传算法过两个父代个体的交叉产生两个子个体，而在差分进化算法过第两个或几个个体的差分矢量做扰动来产生新个体。 3、在传统的遗传算法中，子代个体以一定概率取代其父代个体，而在差分进化中新产生的个体只有当它比种群中的个体优良时才替换种群中的个体。 变异是DE 算法的主要操作，它是基于群体的差异向量来修正各个体的值，其基本原理是通过把种群中两个个体的向量差加权后，按一定的规划与第三个个体求和来产生新个体，然后将新个体与当代种群中某个预先决定的个体相比较，如果新个体的目标值优于与之相比较的个体的目标值，则在下一代中就用新个体取代，否则，旧个体仍保存下来。 差分进化算法其基本思想是：首先由父代个体间的变异操作构成变异个体；接着按一定的概率，父代个体与变异个体之间进行交叉操作，生成一试验个体；然后在父代个体与试验个体之间根据适应度的大小进行贪婪选择操作，保留较优者，实现种群的进化。 2 差分进化算法的基本操作 设当前进化代数为t ，群体规模为NP ，空间维数为D ，当前种群为 {}12(),, ,t t t NP X t x x x =，()12,, ,T t t t t i i i iD x x x x =为种群中的第i 个个体。在进化过程 中，对于每个个体t i x 依次进行下面三种操作。 2.1 变异操作 对于每个个体t i x 按下式产生变异个体12(,, ,)t t t t T i i i iD v v v v =，则 123() 1,2, ,D t t t t ij r j r j r j v x F x x j =+-= (1) 其中111112(,,,)t t t t T r r r r D x x x x =，222212(,,,)t t t t T r r r r D x x x x =和333312(,, ,)t t t t T r r r r D x x x x =是群 体中随机选择的三个个体，并且123r r r i ≠≠≠；1t r j x ，2t r j x 和3t r j x 分别为个体1r ，2r 和3r 的第j 维分量；F 为变异因子，一般取值于[0,2]。这样就得到了变异个体t i v 。
1．差分进化算法背景 差分进化(Differential Evolution，DE)是启发式优化算法的一种，它是基于群体差异的启发式随机搜索算法，该算法是Raincr Stom和Kenneth Price为求解切比雪夫多项式而提出的。差分进化算法具有原理简单、受控参数少、鲁棒性强等特点。近年来，DE在约束优化计算、聚类优化计算、非线性优化控制、神经网络优化、滤波器设计、阵列天线方向图综合及其它方面得到了广泛的应用。 差分算法的研究一直相当活跃，基于优胜劣汰自然选择的思想和简单的差分操作使差分算法在一定程度上具有自组织、自适应、自学习等特征。它的全局寻优能力和易于实施使其在诸多应用中取得成功。 2.差分进化算法简介 差分进化算法采用实数编码方式，其算法原理同遗传算法相似刚，主要包括变异、交叉和选择三个基本进化步骤。DE算法中的选择策略通常为锦标赛选择，而交叉操作方式与遗传算法也大体相同，但在变异操作方面使用了差分策略，即：利用种群中个体间的差分向量对个体进行扰动，实现个体的变异。与进化策略(Es)采用Gauss或Cauchy分布作为扰动向量的概率密度函数不同，DE使用的差分策略可根据种群内个体的分布自动调节差分向量(扰动向量)的大小，自适应好；DE 的变异方式，有效地利用了群体分布特性，提高了算法的搜索能力，避免了遗传算法中变异方式的不足。 3.差分进化算法适用情况 差分进化算法是一种随机的并行直接搜索算法，最初的设想是用于解决切比雪夫多项式问题，后来发现差分进化算法也是解决复杂优化问题的有效技术。它可以对非线性不可微连续空间的函数进行最小化。目前，差分进化算法的应用和研究主要集中于连续、单目标、无约束的确定性优化问题，但是，差分进化算法在多目标、有约束、离散和噪声等复杂环境下的优化也得到了一些进展。 4.基本DE算法 差分进化算法把种群中两个成员之间的加权差向量加到第三个成员上以产生新的参数向量，这一操作称为“变异”。然后，变异向量的参数与另外事先确
差分进化算法-入门
基本差分进化算法 1基本差分进化算法的基本思想 DE 算法是一种基于实数编码的用于优化函数最小值的进化算法，是在求解有关切比雪夫多项式的问题时提出来的，是基于群体差异的进化计算方法。它的整体结构类似于遗传算法，一样都存在变异、交叉和选择操作，但是它又不同于遗传算法。与基本遗传算法的主要区别在于变异操作上，如： 1、传统的遗传算法采用二进制编码，而差分进化算法采用实数编码。 2、在遗传算法中通过两个父代个体的交叉产生两个子个体，而在差分进化算法中通过第两个或几个个体的差分矢量做扰动来产生新个体。 3、在传统的遗传算法中，子代个体以一定概率取代其父代个体，而在差分进化中新产生的个体只有当它比种群中的个体优良时才替换种群中的个体。 变异是DE 算法的主要操作，它是基于群体的差异向量来修正各个体的值，其基本原理是通过把种群中两个个体的向量差加权后，按一定的规划与第三个个体求和来产生新个体，然后将新个体与当代种群中某个预先决定的个体相比较，如果新个体的目标值优于与之相比较的个体的目标值，则在下一代中就用新个体取代，否则，旧个体仍保存下来。 差分进化算法其基本思想是：首先由父代个体间的变异操作构成变异个体；接着按一定的概率，父代个体与变异个体之间进行交叉操作，生成一试验个体；然后在父代个体与试验个体之间根据适应度的大小进行贪婪选择操作，保留较优者，实现种群的进化。 2 差分进化算法的基本操作 设当前进化代数为t ，群体规模为NP ，空间维数为D ，当前种群为 {}1 2 (),,,t t t NP X t x x x =L ，() 1 2 ,,,T t t t t i i i iD x x x x =L 为种群中的第i 个个体。在进化过程 中，对于每个个体t i x 依次进行下面三种操作。 2.1 变异操作 对于每个个体t i x 按下式产生变异个体12(,,,)t t t t T i i i iD v v v v =L ，则 123() 1,2,,D t t t t ij r j r j r j v x F x x j =+-=L (1) 其中111112(,,,)t t t t T r r r r D x x x x =L ，222212(,,,)t t t t T r r r r D x x x x =L 和333312(,,,)t t t t T r r r r D x x x x =L 是群体中随机选择的三个个体，并且123r r r i ≠≠≠；1t r j x ，2t r j x 和3t r j x 分别为个体1r ，2r 和3r 的第j 维分量；F 为变异因子，一般取值于[0,2]。这样就得到了变异个体t i v 。
高维多目标进化算法 二、文献选读内容分析及思考 （一）Borg算法 Borg算法是基于ε-MOEA算法（Deb，2003）的一种全新改进算法[32]，下面将从创新点、原理、算法流程和启发思考四方面进行阐述。 1.创新点 1）在ε支配关系的基础上提出ε盒支配的概念，具有能同时保证算法收敛性与多样性的特点。 2）提出了ε归档进程，能提高算法计算效率和防止早熟。 3）种群大小的自适应调整。 4）交叉算子的自适应选择。由于处理实际问题时，是不知道目标函数具有什么特性，前沿面如何，在具有多个交叉算子的池子里，根据进程反馈，选择不同的交叉算子，使产生的后代具有更好的特性针对要研究的问题。 2. Borg算法原理 1）ε盒支配：通过对目标空间向量的每一维除以一个较小的ε，然后取整后进行pareto支配比较。这样的支配关系达到的效果是把目标空间划分成以ε为边长的网格（2目标时），当点处于不同的网格时，按pareto支配关系比较；当处于同一网格时，比较哪个点距离中心点（网格最左下角）最近。这样一来，网格内都只有一个点。 2）ε归档进程 如图1所示，黑点表示已经归档的，想要添加到档案集的新解用×表示，阴影表示归档解支配的区域。当新解的性能提升量超过阈值ε才属于ε归档进程。比如解1、解2加入归档集属于ε归档进程，解3加入归档集就不属于ε归档进程。 图1 ε支配网格 在这个过程中设置了一个参数c，表示每一代中加入归档集解得个数，每隔一定迭代次数检测c有没有增加，如果没有增加表明算法停滞，重启机制启动。 3）重启 自适应种群大小：重启后的种群大小是根据归档集的大小设置。γ表示种群大小与归档集大小的比值，这个值也用于第二步中，如果γ值没超过1.25，重启机制也启动。启动后，γ人为设定为固定值，种群被清空，填充归档集的所有个体，不足的个体是随机选取归档集中个体变异所得。与之相匹配的锦标赛比较集大小是归档集大小乘以固定比值τ。 4）交叉算子的自适应选择 摒弃以往采用单一的交叉算子，采用包含各类交叉算子的池子，比如有K
差分进化算法（DE）[1]是Storn 和Price 在1995 年提出的一种基于种群差异的进化算法，DE是一种随机的并行搜索算法。差分进化计算和其他进化计算算法一样，都是基于群体智能理论的优化算法，利用群体内个体之间的合作与竞争产生的群体智能模式来指导优化搜索的进行。与其他进化计算不同的是，差分进化计算保留了基于种群的全局搜索策略，采用实数编码、基于差分的简单变异操作和一对一的竞争生存策略，降低了进化操作的复杂性。差分进化计算特有的进化操作使得其具有较强的全局收敛能力和鲁棒性，非常适合求解一些复杂环境中的优化问题。 最初试图使用向量差进行向量种群的混洗，以此来解决切比雪夫多项式适应性问题。DE 通过种群内个体间的合作与竞争来实现对优化问题的求解，其本质上是一种基于实数编码的具有保优思想的进化算法。该算法实现技术简单，在对各种测试问题的实验中表现优异，已经成为近年来进化算法研究中的热点之一。 差分进化算法基本原理 基本的差分进化算法是基于候选方案种群的算法，在整个搜索空间内进行方案的搜索，通过使用简单的数学公式对种群中的现有方案进行组合实现的。如果新的方案有所改进，则被接受，否则被丢弃，重复这一过程直到找到满意的方案。 设 f 是最小化适应度函数，适应度函数以实数向量的形式取一个候选方案作为参数，给出一个实数数值作为候选方案的输出适应值。其目的是在搜索空间的所有方案p 中找到m 使得f(m) ≤f(p)。最大化是找到一个m 使得f(m) ≥f(p)。 设X=(x1, x2,…, xn)∈?n是种群中一个个体，基本的差分进化算法如下所述： ?在搜索空间中随机地初始化所有的个体。 ?重复如下操作直到满足终止条件（最大迭代数或者找到满足适应值的个体） o 对于种群中的每个个体： ●随机地从种群中选择三个彼此不同的个体a，b 和c。 ●选择一个随机索引R ∈{1, ..., n}，n 是被优化问题的维数。 ●通过对每个i ∈{1, ..., n}进行如下的迭代计算可能的新个体Y = [y1, ..., yn] 生成一 个随机数ri~U(0,1)； ●如果(i=R)或者(ri
x 是第 t 代种群中个体，其 rank 值定义为： rank (x ,t ) =1+p (t ) p (t )为第t 代种群中所有支配x 的个体数目 适应值 (fitness value )分配算法： 1、 将所有个体依照 rank 值大小排序分类； 2、 利用插值函数给所有个体分配适应值(从 rank1 到 rank n * N )，一般采用线性函数 3、 适应值共享：rank 值相同的个体拥有相同的适应值， 保证后期选择时同一 rank 值的个体概率相同 最后采用共享适应值随机选取的方法选择个体进入下一代 一种改进的排序机制(ranking scheme )： 向量y a =(y a ,1,,y a ,q )和y b =(y b ,1,,y b ,q )比较 分为以下三种情况： k =1,,q -1; i =1,,k ; j =k +1,,q ; (y a ,i g i )(y a ,j g j ) i =1, ,q ; (y a ,i g i ) 当 y a 支配 y b 时，选择 y a 3、j =1, ,q ; (y a ,j g j ) 当 y b 支配 y a 时，选择 y b 优点：算法思想容易，效率优良 缺点：算法容易受到小生境的 大小影响 理论上给出了参数share 的计算方法 goal vector ： g = (g 1, ,g q ) 1、 2、
基本思想： 1、初始化种群 Pop 2、锦标赛选择机制：随机选取两个个体 x 和 x 和一个 Pop 的 子集 CS(Comparison Set)做参照系。若 x 被 CS 中不少于一 个个体支配，而 x 没有被 CS 中任一个体支配，则选择 x 。 3、其他情况一律称为死结(Tie )，采用适应度共享机制选择。 个体适应度： f i 小生境计数(Niche Count )： m =j Pop Sh d (i , j ) 共享适应度(the shared fitness )： 选择共享适应度较大的个体进入下一代 优点：能够快速找到一 些好的非支配最优解域 能够维持一个较长的种群更新期 缺 点：需要设置共享参数 需要选择一个适当的锦标赛机制 限制 了该算法的实际应用效果 1- 共享函数： Sh (d ) = d share 0, d share d share
龙源期刊网 https://www.doczj.com/doc/5b13329458.html, 基于TSP的改进差分进化算法 作者：朱宇航伏楠 来源：《硅谷》2012年第17期 摘要: 针对TSP问题,提出一种改进的差分进化算法:利用贪心算法产生初始种群,定义特有的编码匹配函数进行变异操作,排序法修复变异个体,并采用顺序交叉,在变异操作之后,加入新的选择机制,防止交叉操作破坏变异出的优良个体,实验结果表明改进后的差分进化算法能够高效地解决TSP问题,体现良好的优化性能。 关键词: 差分进化算法;TSP;进化算法 0 引言 差分进化算法(DE:Differential Evolution)是一种模拟自然进化法则的仿生智能计算方法,在解决复杂的全局优化问题方面,DE的性能更加优秀,过程也更为简单,受控参数少[1],但由于DE 特有的差分操作的限制,DE被成功应用的领域多集中在连续优化领域,在离散优化领域的应用还相对较少[2]。 TSP(旅行商问题)作为典型的离散优化问题,是解决很多实际问题的最终转化形式,同时也是著名的NP难题,在短时间内求出其最优解非常困难,现有解法[3-4]在求解中都各有缺点.因此,研究将DE经过必要的改进后应用于TSP的求解具有重要意义。 1 改进DE算法 1.1 编码及匹配函数 适应度定义为:负的路径长度,使得路径长度越短,适应度值越大。 1.2 贪婪初始化 为提高初始种群的质量,采用贪婪的初始化方法.对于初始种群的每个个体,产生方法如下: step1:初始化待走城市列表List为包含所有城市的列表; step2:随机选择一个城市A作为起点,并将此点作为当前城市T,从List中移除; step3:从List中选择距离城市T最近的城市作为新的当前城市T,并将T从List中移除; step4:判断List是否为空,若是,则结束;若否,则转step3。
Ｖｏｌ．３２Ｎｏ．９ Ｓｅｐ．２０１６ 赤峰学院学报（自然科学版）ＪｏｕｒｎａｌｏｆＣｈｉｆｅｎｇＵｎｉｖｅｒｓｉｔｙ（ＮａｔｕｒａｌＳｃｉｅｎｃｅＥｄｉｔｉｏｎ）第３２卷第９期（上） ２０１６年９月协同进化数值优化算法及其应用分析 梁树杰 （广东石油化工学院高州师范学院，广东 高州525200） 摘 要：探讨协同进化数值优化算法在无约束优化、约束优化、多目标优化问题及其在不同领域的应用情况，旨在充分发 挥协同进化数值优化算法的作用，进而为各领域的发展奠定基础. 关键词：协同进化算法；数值优化；应用中图分类号：Ｏ２２４；ＴＰ２７３．１ 文献标识码：Ａ 文章编号：１６７３－２６０Ｘ（２０１６）０９－０００６－０２ 协同进化作为一种自然现象，具有普遍性，超过两个种群间经相互影响，便会出现此现象，可用于解释种群间的适应性，将其用于生物学研究，促进了生物进化．在进化计算研究方面，协同进化算法作为一种快速发展的最优化算法，他是传统进化算法的一种扩展．这种算法的模型包含了两个和多个种群．不同的种群在生态系统中协同进化，并且相互作用，最终使得生态系统不断进化［１］．协同进化算法在许多领域得到了广泛的应用［２］．在许多非常困难的问题上，协同进化算法都证明了其作为优化算法的有效性．文章综述了国内外学者的研究内容，介绍了进化算法、协同进化算法等，重点阐述了其在各类问题中的应用，旨在为协同进化数值优化算法的推广提供可靠的理论保障．1协同进化数值优化算法的概况１．１进化算法 在人类生存与发展过程中涉及众多的优化问题，与分析问题相比，优化问题属于逆问题，在求解方面具有较大的难度，造成此情况的原因主要为优化问题的可行解为无穷多个，但要在可行解集合中获取最优化解，通常情况下，利用数学规划法可实现对相关问题的处理，但实际计算过于繁琐，进而难以保证计算的准确性与有效性．为了满足实际需求，进化算法随之出现，它作为算法工具具有创新性与高效性，适应了数值优化问题的求解奠定了坚实的基础． 进化计算技术属于人工智能技术，它主要是通过对自然界生物进化过程及机制的模拟，以此实现了对相关问题的求解，其具有自组织、自适应与自学习的特点．进化算法是由生物学知识逐渐发展而来的，即：生物种群的优胜劣汰、遗传变异等，在此过程中生命个体对环境的适应力不断在 增强．通过国内外学者的不断探索与研究，进化算法及其相关的计算智能方法日渐丰富，其中进化数值优化算法吸引了众多学者的目光［３］． 与传统优化算法相比， 进化算法具有一定的特殊性，其优势显著，主要表现在以下几方面：处理对象为编码，通过编码操作，使参数集成为个体，进而利于实现对结构对象的直接操作；便于获得全局最优解，借助进化算法，可对群体中的多个个体进行同时处理，从而提高了计算准确性，降低了计算风险性；不需要连续可微要求，同时可利用随机操作与启发式搜索，从而保证了搜索的明确性与高效性，在此基础上，它在各个领域的应用均取得了显著的成效，如：函数优化、自动控制、图像处理等．但进化算法也存在不足，主要表现为其选择机制仍为人工选择，在实际问题处理过程中，难以发挥指导作用；同时，局部搜索能力相对较差，难以保证解的质量［４］． 为了弥补进化算法的不足，相关学者通过研究提出了新型计算智能方法，具体包括免疫进化算法，它主要是利用自然免疫系统功能获得的，此方法在数据处理、故障诊断等方面均扮演着重要的角色；Ｍｅｍｅｔｉｃ算法属于混合启发式搜索算法，其利用了不同的搜索策略，从而保证了其应用效果；群智能算法主要分为两种，一种为蚁群算法，另一种为粒子群算法，前者可用于多离散优化问题方面；后者主要利用迭代从而获取了最优解，由于其具有简便性与实用性，因此其应用较为广泛；协同进化算法作为新型进化算法，其分析了种群与环境二者间的关系，并对二者进化过程中的协调给予了高度关注［５］．１．２协同进化算法 收稿日期：2016-05-23 基金项目：广东省教育研究院课题项目（GDJY-2015_F-b057）；茂名市青年名师培养项目成果 传统优化算法 协同进化算法 简化问题无法简化复杂的问题.简化问题，利用分解分解问题等方式，对复杂问题的简化，从而实现求解.兼容性相对简单，算法相对独立.兼具了不同优点，发挥了不同搜索算法的作用，保证了种群间的有效协同进化. 应用领域 应用领域相对独立. 适应了各领域的需求，在各个领域均涉及协同思想. 表一 协同进化算法与传统优化算法的对比 在数值优化领域中应用协同进化算法，相关的研究成果主要体现在无约束优化、约束优化与多目标优化等方面． 在第一类问题方面．对于进化算法而言，其经典的应用领域 便是无约束数值优化，经过不断实际，此技术的应用日渐成 ６－－ DOI:10.13398/https://www.doczj.com/doc/5b13329458.html,ki.issn1673-260x.2016.17.003
遗传算法( GA , Genetic Algorithm ) ，也称进化算法。遗传算法是受达尔文的进化论的启发，借鉴生物进化过程而提出的一种启发式搜索算法。因此在介绍遗传算法前有必要简单的介绍生物进化知识。 一.进化论知识 作为遗传算法生物背景的介绍，下面内容了解即可： 种群(Population)：生物的进化以群体的形式进行，这样的一个群体称为种群。 个体：组成种群的单个生物。 基因 ( Gene ) ：一个遗传因子。 染色体 ( Chromosome )：包含一组的基因。 生存竞争，适者生存：对环境适应度高的、牛B的个体参与繁殖的机会比较多，后代就会越来越多。适应度低的个体参与繁殖的机会比较少，后代就会越来越少。 遗传与变异：新个体会遗传父母双方各一部分的基因，同时有一定的概率发生基因变异。 简单说来就是：繁殖过程，会发生基因交叉( Crossover ) ，基因突变( Mutation ) ，适应度( Fitness )低的个体会被逐步淘汰，而适应度高的个体会越来越多。那么经过N代的自然选择后，保存下来的个体都是适应度很高的，其中很可能包含史上产生的适应度最高的那个个体。 二.遗传算法思想 借鉴生物进化论，遗传算法将要解决的问题模拟成一个生物进化的过程，通过复制、交叉、突变等操作产生下一代的解，并逐步淘汰掉适应度函数值低的解，增加适应度函数值高的解。这样进化N代后就很有可能会进化出适应度函数值很高的个体。 举个例子，使用遗传算法解决“0-1背包问题”的思路：0-1背包的解可以编码为一串0-1字符串（0：不取，1：取）；首先，随机产生M个0-1字符串，然后评价这些0-1字符串作为0-1背包问题的解的优劣；然后，随机选择一些字符串通过交叉、突变等操作产生下一代的M个字符串，而且较优的解被选中
摘要：在传统的多目标优化问题上常常使用分解策略。但是，这项策略还没有被广泛的应用到多目标进化优化中。本文提出了一种基于分解的多目标进化算法。该算法将一个多目标优化问题分解为一组单目标优化问题并对它们同时优化。通过利用与每一个子问题相邻的子问题的优化信息来优化它本身，这是的该算法比MOGLS和非支配排序遗传算法NSGA-Ⅱ相比有更低的计算复杂度。实验结果证明：在0-1背包问题和连续的多目标优化问题上，利用一些简单的分解方法本算法就可以比MOGLS和NSGA-Ⅱ表现的更加出色或者表现相近。实验也表明目标正态化的MOEA/D算法可以解决规模范围相异的多目标问题，同时使用一个先进分解方法的MOEA/D可以产生一组分别非常均匀的解对于有3个目标问题的测试样例。最后，MOEA/D在较小种群数量是的性能，还有可扩展性和敏感性都在本篇论文中通过实验经行了相应的研究。 I.介绍 多目标优化问题可以用下面式子表示： Maximize F(x)=((f1(f)…...f f(f))f subject to x∈Ω 其中Ω是决策空间，F：Ω→f f，包含了m个实值目标方法，f f被称为目标区间。对于 可以得到的目标集合成为{F(x)|x∈Ω}。 如果x∈R m，并且所有的目标函数都是连续的，那么Ω则可以用 Ω={x∈f f|h f(x)≤0,j=1……m} 其中hj是连续的函数，我们可以称(1)为一个连续的多目标优化问题。 如果目标函数互斥，那么同时对所有目标函数求最优解往往是无意义的。有意义的是获得一个能维持他们之间平衡的解。这些在目标之间获得最佳平衡的以租借被定义Pareto最优。 令u, v∈Rm，如果f f≥f f对于任意的i，并且至少存在一个f f≥f f(i,j∈{1…..m})，那么u支配v。如果在决策空间中，没有一个点F(y)能够支配F(x)点，那么x就是Pareto最优，F(x)则被称为Pareto最优向量。换句话说，对于Pareto最优点在某一个目标函数上的提高，都会造成至少一个其余目标函数的退化。所有Pareto最优解的集合称为Pareto集合，所有最优向量的集合被称为Pareto前沿。 在许多多目标优化的实际应用中，通过选择器选择一个接近Pareto最优前沿的解作为最后的解。大多数多目标优化问题都有许多甚至是无穷个Pareto最优向量，如果想要获得一个完整的最优前沿，将是一件非常耗时的事情。另一方面，选择器可能不会专注于获得一个过于庞大的最优解向量集合来解决问题，因为信息的溢出。因此，许多多目标优化算法往往是获得一个均匀分布在Pareto最优前沿周围的最优解向量，这样就具有更好的代表性。许多研究人员也致力于使用数学模型来获得一个近似的最优前沿。 一般来说，在温和控制下多目标优化问题的Pareto最优解，可以看做是一个标量优化问题的最优解(其中目标函数是fi的集合)。因此，Pareto最优前沿的近似求解可以被分解为一组标量目标优化子问题。这个想法是建立在许多传统的对最优前沿求近似解的数学编程方法上的。现在有许多的聚合方法，最流行的是切比雪夫法和加权法。最近，边界交叉方法也引起了许多的关注。 如今多目标进化算法并没有将分解这一概念引入当前的主要发展领域。这些算法将多目标优化问题看成一个整体。他们并没有通过任何特别的标量优化将每一个解相互联系在一起。在一个标量目标优化问题中，所有的解都可以通过他们的目标函数值进行对比，而挑战
基于改进差分进化算法的烧结矿配料优化 李凯斌, 卢建刚, 吴燕玲, 孙优贤 浙江大学工业控制技术国家重点实验室，杭州(310027） E-mail ：kbli@https://www.doczj.com/doc/5b13329458.html, 摘 要：本文针对差分进化算法(differential evolution algorithm)存在的早熟问题和停滞现象作了改进并把改进的算法应用于烧结矿配料优化，用matlab 编程，仿真结果表明符合实际生产工艺要求，证明了改进的差分进化算法对烧结矿配料优化的有效性，从而指出了改进的差分进化算法在配料优化中的应用价值。 关键词：差分进化，停滞，烧结矿，配料优化 中图分类号：TF541 1．前言 钢铁企业中炼铁系统能耗占整个钢铁生产能耗的60% ～70% ，生产成本也占54% ～58%，所占比重都较大[1]。而烧结又是生产高炉炼铁精料的关键工序，烧结生产中，可以将不同原料，熔剂进行精确配料，以调整烧结矿化学成分，满足高炉对炉料成分的要求。烧结矿的优化配料是一项极其重要的工作，配料的目的在于：根据不同种类的铁矿石的化学成分，将原料矿进行合理的搭配，使混匀矿的化学成分符合烧结生产的要求。烧结矿配料优化从上个世纪80年代就开始研究，最初运用的是线性规划方法，优化对象也仅限于烧结矿的化学成分[2]。近几十年来，进化算法发展十分迅速，其应用也越来越广泛。其中由Rainer Storn 和Kenneth Price 提出的差分进化算法[3] (differential evolution ，简称DE)作为一种较新的全局优化算法，以其收敛性好，模型简单，容易实现，控制参数比较少得到广泛应用。在日本召开的第一届国际禁化优化计算竞赛(ICEO)中[6]，DE 表现突出，已经成为进化算法(EA)的一个重要分支。近几年来，DE 在约束优化计算，模糊控制器优化设计，神经网络优化，滤波器设计等方面得到了广泛应用。本文运用改进的差分进化算法对烧结矿配料进行优化。 2．差分进化算法 DE 作为一种较新的全局搜索算法与遗传算法，进化规划，进化策略不同，它是由父代个体差分矢量构成变异算子，然后按一定交叉概率，父代个体与变异个体进行交叉，生成试验体，最后在父代与试验体之间根据适应度选择个体。 2.1 差分进化原理 (1)选定种群规模N ，加权因子F ∈[0，2]最大进化代数MAX G ，杂交率CR ∈[0，1] (2)生成初始种群0W ：{w 0 i (i=1,2,…N)}，令进化代数G=0 (3)对G i w 执行(4)~(6)步，生成G+1代 (4)变异：1G i w +?=G i w +F(G j w -G k w )其中1≤j ，k ≤N ，且i ，j ，k 互异 (5)杂交：1G ij w +=1()() G ij G ij w random CR w random CR +?>??≤??? 其中G ij w 为第G 代第i 个个体的第j 个基因，CR 为 杂交率，random ∈[0，1] (6)选择：