粒子群算法（PSO）和遗传算法(GA)都是优化算法，都力图在自然特性的基础上模拟个体种群的适应性，它们都采用一定的变换规则通过搜索空间求解。PSO和GA的相同点： (1)都属于仿生算法。PSO主要模拟鸟类觅食、人类认知等社会行为而提出；GA主要借用生物进化中“适者生存”的规律。 (2)都属于全局优化方法。两种算法都是在解空间随机产生初始种群，因而算法在全局的解空间进行搜索，且将搜索重点集中在性能高的部分。 (3)都属于随机搜索算法。都是通过随机优化方法更新种群和搜索最优点。PSO 中认知项和社会项前都加有随机数；而GA的遗传操作均属随机操作。 (4)都隐含并行性。搜索过程是从问题解的一个集合开始的，而不是从单个个体开始，具有隐含并行搜索特性，从而减小了陷入局部极小的可能性。并且由于这种并行性，易在并行计算机上实现，以提高算法性能和效率。 (5)根据个体的适配信息进行搜索，因此不受函数约束条件的限制，如连续性、可导性等。 (6)对高维复杂问题，往往会遇到早熟收敛和收敛性能差的缺点，都无法保证收敛到最优点。 PSO和GA不同点 (1)PSO有记忆，好的解的知识所有粒子都保存，而GA没有记忆，以前的知识随着种群的改变被破坏。 (2)在GA算法中，染色体之间相互共享信息，所以整个种群的移动是比较均匀地向最优区域移动。PSO中的粒子仅仅通过当前搜索到最优点进行共享信息，所以很大程度上这是一种单项信息共享机制，整个搜索更新过程是跟随当前最优解的过程。在大多数情况下，所有粒子可能比遗传算法中的进化个体以更快速度收敛于最优解。 (3)GA的编码技术和遗传操作比较简单，而PSO相对于GA，不需要编码，没有交叉和变异操作，粒子只是通过内部速度进行更新，因此原理更简单、参数更少、实现更容易。 (4)在收敛性方面，GA己经有了较成熟的收敛性分析方法，并且可对收敛速度进行估计；而PSO这方面的研究还比较薄弱。尽管已经有简化确定性版本的收敛性分析，但将确定性向随机性的转化尚需进一步研究。 (5)在应用方面，PSO算法主要应用于连续问题，包括神经网络训练和函数优化等，而GA除了连续问题之外，还可应用于离散问题，比如TSP问题、货郎担问题、工作车间调度等。
多目标优化算法 ——11级计算一班 20113745 陆慧玲 近年来,多目标优化问题求解已成为演化计算的一个重要研究方向,而基于Pareto 最优概念的多目标演化算法则是当前演化计算的研究热点。多目标演化算法的研究目标是使算法种群快速收敛并均匀分布于问题的非劣最优域。 最优化问题是工程实践和科学研究中主要的问题形式之一，其中，仅有一个目标函数的最优化问题称为单目标优化问题，目标函数超过一个并且需要同时处理的最优化问题称为多目标优化问题(multiobjectiveoptimizationprob- lems，简称MOPs)。对于多目标优化问题，一个解对于某个目标来说可能是较好的，而对于其他目标来讲可能是较差的，因此，存在一个折衷解的集合，称为Pareto 最优解集(Pareto optimal set)或非支配解集(nondominated set)。起初，多目标优化问题往往通过加权等方式转化为单目标问题，然后用数学规划的方法来求解，每次只能得到一种权值情况下的最优解。同时，由于多目标优化问题的目标函数和约束函数可能是非线性、不可微或不连续的，传统的数学规划方法往往效率较低，且它们对于权重值或目标给定的次序较敏感。进化算法通过在代与代之间维持由潜在解组成的种群来实现全局搜索，这种从种群到种群的方法对于搜索多目标优化问题的Pareto 最优解集是很有用的。 第一代进化多目标优化算法以Goldberg 的建议为萌芽。1989 年，Goldberg 建议用非支配排序和小生境技术来解决多目标优化问题。非支配排序的过程为：对当前种群中的非支配个体分配等级1，并将其从竞争中移去；然后从当前种群中选出非支配个体，并对其分配等级2，该过程持续到种群中所有个体都分配到次序后结束。小生境技术用来保持种群多样性，防止早熟。Goldberg 虽然没有把他的思想具体实施到进化多目标优化中，但是其思想对以后的学者来说，具有启发意义。随后，一些学者基于这种思想提出了MOGA，NSGA 和NPGA。 从20 世纪末期开始，进化多目标优化领域的研究趋势发生了巨大的变化，l999 年，Zitzler 等人提出了SPEA。该方法使精英保留机制在进化多目标优化领域流行起来。第二代进化多目标优化算法的诞生就是以精英保留策略的引入为标志。在进化多目标优化领域，精英保留策略指的是采用一个外部种群(相对于原来个体种群而言)来保留非支配个体。(1)SPEA 和SPEA2 SPEA 是Zitzler 和Thiele 在1999 年提出来的算法。在该算法中，个体的适应度又称为Pareto 强度，非支配集中个体的适应度定义为其所支配的个体总数在群体中所占的比
群体协同智能优化算法改进及其应用研究优化问题广泛地存在于实际工程问题和科学研究中。优化问题具有解空间规模大、维数高的特点,一些传统优化算法在求解大规模优化问题时,存在计算复杂度高、时间长等问题。群体智能算法因其参数少、模型简单、易于实现等优点,已成为求解优化问题新的研究方向。随着人工智能的高速发展,电子商务、移动互联网金融无时无刻不断产生数据。 数据挖掘技术越来越受到众多领域的广泛关注。聚类技术是数据挖掘领域的一个重要分支,在无监督条件下,用于挖掘数据潜在结构,已成为人工智能领域研究热点。密度峰值快速搜索聚类算法是聚类算法中极具竞争力的一种新型聚类算法,已得到各领域广泛认可,但其仍存在手动设置参数的缺陷。本文将布谷鸟搜索算法作为主要研究对象,对其进行研究与改进,并对密度峰值快速搜索聚类算法存在缺陷进行改进。 本文主要内容和创新点如下:(1)针对布谷鸟搜索算法在处理复杂函数时,算法收敛速度慢;在处理多维数据时,算法寻优精度低,算法稳定性较差的问题,提出动态自适应步长的双重策略的布谷鸟搜索算法。算法引入动态自适应步长机制和双重评价策略,动态步长中学习因子加速算法在解空间中搜索速度,在算法迭代前期,双重评价策略中的逐列排序策略在全局搜索中快速定位,并引入动态发现概率增加全局搜索能力。(2)针对密度峰值快速搜索聚类算法存在手动设置截断距离d_c,欧式距离无法准确反映数据间的相似性等缺陷,提出布谷鸟优化的密度峰值快速搜索聚类算法。算法通过布谷鸟搜索算法优化截断距离,并引入余弦相似度,将方向与实际距离相结合,更好区分两类中间区域数据点的归属度。 仿真实验结果表明,改进密度峰值快速搜索聚类算法具有较好聚类性能。(3)基于布谷鸟优化的密度峰值快速搜索聚类算法,对银行个人信贷数据进行聚类。仿真实验结果表明,本文提出的方法能够较为有效地分析和预测银行个人信贷违约情况,帮助银行信贷部门合理地做出决策。
基于优化问题的多目标布谷鸟搜索算法
基于优化问题的多目标布谷鸟搜索算法 关键字：布谷鸟搜索、元启发式算法、多目标、最优化 摘要：在工程设计方面，很多问题都是典型的多目标问题，而且，都是复杂的非线性问题。现在我们研究的优化算法就是为了解决多目标化的问题，使得与单一目标问题的解决有明显的区别，计算结果和函数值有可能会增加多目标问题的特性。此时，元启发式算法开始显示出自己在解决多目标优化问题中的优越性。在本篇文章中，我们构造了一个新的用于解决多目标优化问题的算法——布谷鸟搜索算法。我们通过一系列的多目标检验函数对其的有效性已经做出来检验，发现它可以应用于解决结构设计等问题中去，例如：光路设计、制动器设计等。另外，我么还对该算法的主要特性和应用做了相关的分析。 1.简介 在设计问题中经常会考虑到很多多重的复杂问题，而且这些问题往往都具有很高的非线性性。在实际中，不同的目标之间往往会有分歧和冲突，有时候，实际的最优化解决方案往往不存在，而一些折中的和近似的方案往往也可以使用。除了这些挑战性和复杂性以外，设计问题还会受到不同设计目标的约束，而且还会被设计代码、设计标准、材料适应性、和可用资源的选择，以及
设计花费等所限制，甚至是关于单一目标的全局最优问题也是如此，如果设计函数有着高度的非线性性，那么全局最优解是很难达到的，而且，很多现实世界中的问题经常是NP-hard的，这就意味着没有一个行之有效的算法可以解决我们提出的问题，因此，对于一个已经提出的问题，启发式算法和科学技术与具体的学科交叉知识经常被用于其中，用来作为解决问题的向导。 另一方面，元启发算法在解决此类优化问题方面是非常有效的，而且已经在很多刊物和书籍中得以运用，与单一目标的优化问题相反的是，多目标优化问题具有典型的复杂性和困难性，在单一目标的优化问题中我们必须去找出一个最优化的解决方法，此方法在问题的解决中存在着一个单一的点，并且在此问题中不包括那些多重的、平均优化的点，对于一个多目标的优化问题，存在着名为Pareto-front的多重的复杂的优化问题，为了了解我们所不熟悉的Pareto-front问题，我们需要收集并整理很多不同的方法，从而，此计算结果将会随着近似解的变化、问题的复杂度和解决方法的多样性而有所变化甚至增加。在理论上，此类解决方法应包括问题并且应相对的有一致无分歧的分布情况，然而，还没有科学的方法可以证明这种解决方法可以在实际中得以应用。 从问题的出发点我们可以得知，算法可以在单一目标优化问题中运行的很好，但是却不能在多目标的优化问题中直接的运用，除非是在特殊的环境与条件下才可以应用。例如，使用一些
浅析多目标优化问题 【摘要】本文介绍了多目标优化问题的问题定义。通过对多目标优化算法、评估方法和测试用例的研究，分析了多目标优化问题所面临的挑战和困难。 【关键词】多目标优化问题；多目标优化算法；评估方法；测试用例 多目标优化问题MOPs （Multiobjective Optimization Problems）是工程实践和科学研究中的主要问题形式之一，广泛存在于优化控制、机械设计、数据挖掘、移动网络规划和逻辑电路设计等问题中。MOPs有多个目标，且各目标相互冲突。对于MOPs，通常存在一个折衷的解集（即Pareto最优解集），解集中的各个解在多目标之间进行权衡。获取具有良好收敛性及分布性的解集是求解MOPs的关键。 1 问题定义 最小化MOPs的一般描述如下： 2 多目标优化算法 目前，大量算法用于求解MOPs。通常，可以将求解MOPs的算法分为两类。 第一类算法，将MOPs转化为单目标优化问题。算法为每个目标设置权值，通过加权的方式将多目标转化为单目标。经过改变权值大小，多次求解MOPs 可以得到多个最优解，构成非支配解集[1]。 第二类算法，直接求解MOPs。这类算法主要依靠进化算法。进化算法这种面向种群的全局搜索法，对于直接得到非支配解集是非常有效的。基于进化算法的多目标优化算法被称为多目标进化算法。根据其特性，多目标进化算法可以划分为两代[2]。 （1）第一代算法：以适应度共享机制为分布性策略，并利用Pareto支配关系设计适应度函数。代表算法如下。VEGA将种群划分为若干子种群，每个子种群相对于一个目标进行优化，最终将子种群合并。MOGA根据解的支配关系，为每个解分配等级，算法按照等级为解设置适应度函数。NSGA采用非支配排序的思想为每个解分配虚拟适应度值，在进化过程中，算法根据虚拟适应度值采用比例选择法选择下一代。NPGA根据支配关系采用锦标赛选择法，当解的支配关系相同时，算法使用小生境技术选择最优的解进入下一代。 （2）第二代算法：以精英解保留机制为特征，并提出了多种较好的分布性策略。代表算法如下。NSGA-II降低了非支配排序的复杂度，并提出了基于拥挤距离的分布性策略。SPEA2提出了新的适应度分配策略和基于环境选择的分布性策略。PESA-II根据网络超格选择个体并使用了基于拥挤系数的分布性策略。
模拟退火算法与遗传算法性能比较 摘要：模拟退火算法与遗传算法是两种非常重要的多目标优化算法。其原理简单，对优化目标函数解析性没有要求，因此在工程问题中被广泛应用。本文介绍了这两种优化算法的原理，并分析了两种算法的性能并讨论了应用过程中的关键问题，对两种算法的合理选取及改进具有参考价值。 关键字：模拟退火，遗传算法，优化 1.前言 对于多目标优化问题，传统的做法是全局搜索，即“穷举法”。这种通过搜索整个解空间的方法虽然能获得全局最优解，但运算量非常大，当优化空间的维度非常高时，该方法在计算上不可行。通过利用目标函数的解析性质以及借助实际问题的约束条件能部分降低搜索空间，但任不能解决高维问题优化。面对复杂问题，求得最优解是很困难的，在有限时间内求得满意解是可能的。获取高维优化问题满意解的常用方法是迭代运算，但通常迭代运算容易陷入局部最优陷阱，造成“死循环”。模拟退火算法及遗传算法是两种原理简单的启发式智能搜索算法，均具有逃离局部陷阱的能力，是工程应用中快速获取满意解的常用算法，对其性能比较对于正确使用这两种智能优化算法具有重要意义。 2.算法介绍 2.1.模拟退火算法 模拟退火算法是一种随机搜索算法，Kirkpatrick[1]于1983年首次将该算法应用于多目标优化。该算法模拟冶金上的退火过程而得名，其基本思想是：对当前合理解增加扰动产生新解，评价新解对目标函数的改进情况，若小于零，则接受新解为新的当前解，否则以概率接受新解为新的当前解。新的当前解将将继续优化，直到没有显著改进为止。 模拟退火算法使用过程中以下细节影响其全局搜索性能。初始温度T选择越高，则搜索到全局最优解的可能性也越大，但计算复杂度也显著增大。反之，能节省时间，但易于陷入局部最优。依据解的质量变化概率选择温度下降策略能增强算法性能。每次温度降低迭代次数及算法的终止可由给定迭代次数内获得更优解的概率而确定。 2.1.遗传算法 遗传算法最早由Holland等[2]提出，该算法模拟遗传变异与自然选择机制，是一种通过交换机制，重组基因串的概率搜索算法，其基本思想是：分析解空间大小及精度要求，确定合理解唯一编码形式。合理解转化成的编码即为染色体，随机选取的多个初始染色体构成初始种群。会依据评价函数计算种群中每个个体
基于分解的多目标进化算法
摘要：在传统的多目标优化问题上常常使用分解策略。但是，这项策略还没有被广泛的 应用到多目标进化优化中。本文提出了一种基于分解的多目标进化算法。该算法将一个多目 标优化问题分解为一组？？？单目标优化问题并对它们同时优化。通过利用与每一个子问题 相邻的子问题的优化信息来优化它本身，这是的该算法比 MOGLS 和非支配排序遗传算法 NSGA-Ⅱ相比有更低的计算复杂度。实验结果证明：在 0-1 背包问题和连续的多目标优化问 题上，利用一些简单的分解方法本算法就可以比 MOGLS 和 NSGA-Ⅱ表现的更加出色或者 表现相近。实验也表明目标正态化的 MOEA/D 算法可以解决规模围相异的多目标问题，同 时使用一个先进分解方法的 MOEA/D 可以产生一组分别非常均匀的解对于有 3 个目标问题 的测试样例。最后，MOEA/D 在较小种群数量是的性能，还有可扩展性和敏感性都在本篇 论文过实验经行了相应的研究。
I. 介绍
多目标优化问题可以用下面式子表示：
其中 Ω 是决策空间， 以得到的目标集合成为
，包含了 m 个实值目标方法， 被称为目标区间。对于可 。
如果
，并且所有的目标函数都是连续的，那么 Ω 则可以用
其中 hj 是连续的函数，我们可以称(1)为一个连续的多目标优化问题。 如果目标函数互斥，那么同时对所有目标函数求最优解往往是无意义的。有意义的是获
得一个能维持他们之间平衡的解。这些在目标之间获得最佳平衡的以租借被定义 Pareto 最 优。
令 u, v∈Rm，如果
对于任意的 i，并且至少存在一个
，那
么 u 支配 v。如果在决策空间中，没有一个点 F(y)能够支配 F(x)点，那么 x 就是 Pareto 最优， F(x)则被称为 Pareto 最优向量。换句话说，对于 Pareto 最优点在某一个目标函数上的提高， 都会造成至少一个其余目标函数的退化。所有 Pareto 最优解的集合称为 Pareto 集合，所有 最优向量的集合被称为 Pareto 前沿。
在许多多目标优化的实际应用中，通过选择器选择一个接近 Pareto 最优前沿的解作为 最后的解。大多数多目标优化问题都有许多甚至是无穷个 Pareto 最优向量，如果想要获得 一个完整的最优前沿，将是一件非常耗时的事情。另一方面，选择器可能不会专注于获得一 个过于庞大的最优解向量集合来解决问题，因为信息的溢出。因此，许多多目标优化算法往 往是获得一个均匀分布在 Pareto 最优前沿周围的最优解向量，这样就具有更好的代表性。 许多研究人员也致力于使用数学模型来获得一个近似的最优前沿。
一般来说，在温和控制下多目标优化问题的 Pareto 最优解，可以看做是一个标量优化 问题的最优解(其中目标函数是 fi 的集合)。因此，Pareto 最优前沿的近似求解可以被分解为
NSGA-II 算法实例 目前的多目标优化算法有很多, Kalyanmoy Deb 的带精英策略的快速非支配排序遗传算法(NSGA-II) 无疑是其中应用最为广泛也是最为成功的一种。本文用的算法是MATLAB 自带的函数gamultiobj ，该函数是基于NSGA-II 改进的一种多目标优化算法。 一、 数值例子 多目标优化问题 424221********* 4224212212112 12min (,)10min (,)55..55 f x x x x x x x x x f x x x x x x x x x s t x =-++-=-++-≤≤??-≤≤? 二、 Matlab 文件 1． 适应值函数m 文件： function y=f(x) y(1)=x(1)^4-10*x(1)^2+x(1)*x(2)+x(2)^4-x(1)^2*x(2)^2; y(2)=x(2)^4-x(1)^2*x(2)^2+x(1)^4+x(1)*x(2); 2． 调用gamultiobj 函数，及参数设置： clear clc fitnessfcn=@f; %适应度函数句柄 nvars=2; %变量个数 lb=[-5,-5]; %下限 ub=[5,5]; %上限 A=[];b=[]; %线性不等式约束 Aeq=[];beq=[]; %线性等式约束 options=gaoptimset('paretoFraction',0.3,'populationsize',100,'generations', 200,'stallGenLimit',200,'TolFun',1e-100,'PlotFcns',@gaplotpareto); % 最优个体系数paretoFraction 为0.3；种群大小populationsize 为100，最大进化代数generations 为200， % 停止代数stallGenLimit 为200， 适应度函数偏差TolFun 设为1e-100，函数gaplotpareto ：绘制Pareto 前端 [x,fval]=gamultiobj(fitnessfcn,nvars,A,b,Aeq,beq,lb,ub,options)
第31卷 第5期系统工程与电子技术 Vol.31 No.52009年5月 Systems Engineering and Electronics May 2009 文章编号:1001-506X(2009)05-1108-05 收稿日期:2008-03-11;修回日期:2008-07-22。 基金项目:国家重点基础研究发展计划 973 项目(61382);装备预先研究项目(513190201-1)资助课题作者简介:郭健彬(1979-),男,博士,讲师,主要研究方向为多学科设计优化。E -mail:fr acas@https://www.doczj.com/doc/7616448551.html, 自适应协同优化方法研究 郭健彬,曾声奎 (北京航空航天大学工程系统工程系,北京100191) 摘 要:针对一致性约束条件造成协同优化方法计算困难的问题,研究提出了一种自适应协同优化方法。首先将设计变量空间划分为三类区域,分析了每个区域内一致性约束松弛量与系统可行域和学科一致性的关系,并在此基础上提出了三种一致性约束松弛量的确定方法。然后基于上述方法,给出了自适应协同优化的算法流程,对比分析了相对于标准协同优化算法流程的改进之处。最后采用自适应协同优化方法对两个典型MDO 算例进行优化,证明了该方法具有较好的鲁棒性和收敛速度。 关键词:协同优化;多学科设计优化;自适应设计中图分类号:O 224 文献标志码:A Research on adaptive collaborative optimization method GU O Jian -bin,ZENG Sheng -kui (Dept.of System Engineering of Engineering Technology ,B eij ing Univ.of A eronautics and A stronautics,Beij ing 100191,China) Abstract:Aim ing at the computational difficult ies of collaborat ive opt im ization caused by consistenc y con - st raints,an adapt ive collaborative optim izat ion meth od is presented.Firstly,design variables space is split into t hree kinds of regions,then the relat ions among th e relaxed tolerances of consistency const raints,syst em feas-i bility and subsystem consistency are analyzed w ith in each region.Based on t hat analys is,three m ethods of relaxed t olerances to calculate are given.Secondly,th e algorithm flow of the adapt ive collaborat ive optim izat ion m ethod is proposed,and the improvem ent is analyzed comparing w ith the st andard collaborative optim izat ion m ethod.Finally,tw o classic M DO t est suit es are opt imized by the proposed adaptive collaborative optim izat ion m ethod,and the result show s it s advant age on robustness and convergence rat e. Keywords:collaborative opt imization;multidisciplinary design optim ization;adaptive design 0 引 言 协同优化(collaborat ive opt imizat ion,CO)方法是针对复杂工程系统设计中的一种分级、分布式并行的多学科设计优化(multidisciplinary design optimization,MDO)方法,通过系统级一致性约束保证各学科优化变量的一致性,使学科级优化具有很好的独立性[1],但是一致性约束特殊的表达形式使系统级优化变得困难,鲁棒性很差,而且收敛速度慢[2]。本文提出了一种自适应协同优化方法(adapt ive collaborat ive optimizat ion,ACO),在优化过程中,根据当前优化点的位置动态的调整一致性约束,提高了其鲁棒性和收敛速度。 1 协同优化方法的算法流程及其不足 协同优化方法分为一个系统级优化和多个学科级优化,其算法流程如图1所示,包括以下几步: (1)在第k 次迭代中,系统级分配设计向量的期望值Z k (称为目标点)给各学科; (2)各学科并行独立优化,学科的目标函数采用平方和最小的形式,使优化后的设计向量X k i (称为改进点)尽量与系统级分配下来的目标点相近,并满足自身的约束条件; (3)系统级根据各学科反馈的改进点,构造一致性等式约束J i ,并通过优化生成新的目标点Z k +1,使原问题的目标函数最小; (4)判断收敛条件,满足收敛条件则终止优化,否则返
组合最优化问题最基本的特点就是变量是离散的, 由此导致其数学模型中的目标函数和约束函数在其可行域内是也是离散的。在现实世界中，许多的实际问题本质上是离散事件的而不是连续事件，都可归结为组合最优化问题。这类问题在理论上多数都属于NP难问题，NP类问题仍属于可计算问题，即存在算法来求解。求解这类组合最优化问题方法分为精确算法和近似算法两类。 常用的精确算法有动态规划、分支定界和枚举等。精确算法只能解决一些小规模问题，当求解小规模组合优化问题时可以用这类精确算法在较短的时间内得到最优解。当求解大规模组合优化问题时，理论上可以得到问题的最优解，但由于计算量太大，所以使用精确算法并不可行。利用精确算法求解NP-hard组合优化问题时，即使能得到最优解，但所需要的计算时间过长，在实际问题中难以直接应用。 近似算法是指在合理的计算时间内找到一个近似的最优解。近似算法虽然求解速度较快，但并不能保证得到问题的全局最优解。近似算法分为基于数学规划（最优化）的近似算法、启发式算法和基于智能优化的近似算法。 1) 基于数学规划（最优化）的近似算法是根据对问题建立的数学规划模型，运用如拉格朗日松弛、列生成等算法以获得问题的近似解，是以数学模型为基础，采用列生成、拉格朗日松弛和状态空间松弛等求解问题。 拉格朗日松弛（LR）算法求解问题的主要思想是分解和协调。首先对于NP难的优化问题，其数学模型须具有可分离性。通过使用拉格朗日乘子向量将模型中复杂的耦合约束引入目标函数，使耦合约束解除，形成松弛问题，从而分解为一些相互独立的易于求解的子问题，设计有效的算法求得所有子问题的最优解。利用乘子的迭代更新来实现子问题解的协调。列生成(Column generation, CG)算法是一种已经被认可的成功用于求解大规模线性规划、整数规划及混合整数规划问题的算法。 与智能优化算法相比，基于数学规划的近似算法的优点是通过建立问题的数学模型，松弛模型中难解的耦合约束或整数约束，得到的松弛问题的最优解可以为原问题提供一个下界。同时基于数学规划的近似算法还具有很好的自我评价功能，通过算法运行给出的问题的近优解(或最优解)为原问题提供一个上界，上界与下界进行比较，可以衡量算法的性能。 2) 启发式算法根据求解问题的特点，按照人们经验或某种规则设计的。这是一种构造式算法，比较直观、快速，利用问题的知识设计求解的方法步骤，相对比较简单，这种方法的求解速度较快，但所得解的质量不一定好。 3) 基于智能优化的近似算法是基于一定的优化搜索机制，并具有全局优化性能的一类算法。这类智能优化算法常见的有：模拟退火(SA)、遗传算法(GA)、蚁群算法(ACO)、路径重连算法(PR)、迭代局部搜索算法(ILS)、禁忌搜索算法(TS)、分散搜索算法(SS)、粒子群算法(PSO)等，这些算法也称超启发式算法(Meta-heuristic)。 智能优化算法是一种通用的算法框架，只要根据具体问题特点对这种算法框架结构进行局部修改，就可以直接应用它去解决不同的问题。这类算法本身不局限于某个框架，具有实践的通用性，适应于求解工业实际问题，能较快地处理大规模数据的同时得到令人满意的解。基于智能优化的近似算法，采用不同的搜索策略和优化搜索机制，寻找问题的近似最优解，具有很好的求解优势。虽然基于智能优化的近似算法不能保证求得全局最优解，但因其高效的优化性能、无需问题特殊信息、易于实现且速度较快等优点, 受到诸多领域广泛的关注和应用。基于智能优化的近似算法(超启发式算法)成为求解复杂组合最优化问题主要的有效方法。
多目标优化算法与求解策略 2多目标优化综述 2.1多目标优化的基本概念 多目标优化问题(Multi-objective Optimization Problem，MOP)起源于许多实际复杂系统的设计、建模和规划问题，这些系统所在的领域包括工业制造、城市运输、资本预算、森林管理、水库管理、新城市的布局和美化、能量分配等等。几乎每个重要的现实生活中的决策问题都要在考虑不同的约束的同时处理若干相互冲突的目标，这些问题都涉及多个目标的优化，这些目标并不是独立存在的，它们往往是祸合在一起的互相竞争的目标，每个目标具有不同的物理意义和量纲。它们的竞争性和复杂性使得对其优化变得困难。 多目标最优化是近20多年来迅速发展起来的应用数学的一门新兴学科。它研究向量目标函数满足一定约束条件时在某种意义下的最优化问题。由于现实世界的大量问题，都可归结为含有多个目标的最优化问题，自70年代以来，对于多目标最优化的研究，在国内和国际上都引起了人们极大的关注和重视。特别是近10多年来，理论探索不断深入，应用范围日益广泛，研究队伍迅速壮大，显示出勃勃生机。同时，随着对社会经济和工程设计中大型复杂系统研究的深入，多目标最优化的理论和方法也不断地受到严峻挑战并得到快速发展。近几年来，将遗传算法(Genetic Algorithm，GA)应用于多目标优化问题成为研究热点，这种算法通常称作多目标优化进化算法或多目标优化遗传算法。由于遗传算法的基本特点是多方向和全局搜索，这使得带有潜在解的种群能够一代一代地维持下来。从种群到种群的方法对于搜索Pareto解来说是十分有益的。 一般说来，科学研究与工程实践中许多优化问题大都是多目标优化问题。多目标优化问题中各目标之间通过决策变量相互制约，对其中一个目标优化必须以其它目标作为代价，而且各目标的单位又往往不一致，因此很难客观地评价多目标问题解的优劣性。与单目标优化问题的本质区别在于，多目标优化问题的解不是唯一的，而是存在一个最优解集合，集合中
龙源期刊网 https://www.doczj.com/doc/7616448551.html, 多目标优化进化算法比较综述 作者：刘玲源 来源：《决策与信息·下旬刊》2013年第07期 摘要多目标优化是最优化领域的一个重要研究方向，本文简要介绍了多目标优化的模型和几种多目标优化的进化算法，并对算法进行了简要比较。 关键词多目标优化粒子群遗传算法蚁群算法人工免疫系统 中图分类号：TP391 文献标识码：A 一、背景 多目标优化（Multiobjective OptimizaTionProblem，MOP）是最优化的一个重要分支，多目标问题中的各目标往往是有着冲突性的，其解不唯一，如何获得最优解成为多目标优化的一个难点，目前还没有绝对成熟与实用性好的理论。近年来，粒子群算法、遗传算法、蚁群算法、人工免疫系统、等现代技术也被应用到多目标优化中，使多目标优化方法取得很大进步。本文将其中四种多目标优化的进化算法进行一个简单的介绍和比较。 二、不同算法介绍 （一）多目标遗传算法。 假定各目标的期望目标值与优先顺序已给定，从优先级最高的子目标向量开始比较两目标向量的优劣性，从目标未满足的子目标元素部分开始每一级子目标向量的优劣性比较，最后一级子目标向量中的各目标分量要全部参与比较。给定一个不可实现的期望目标向量时，向量比较退化至原始的Pareto排序，所有目标元素都必须参与比较。算法运行过程中，适应值图景可由不断改变的期望目标值改变，种群可由此被引导并集中至某一特定折中区域。当前种群中（基于Pareto最优概念）优于该解的其他解的个数决定种群中每一个向量解的排序。 （二）人工免疫系统。 人工免疫算法是自然免疫系统在进化计算中的一个应用，将抗体定义为解，抗原定义为优化问题，抗原个数即为优化子目标的个数。免疫算法具有保持个体多样性、搜索效率高、群体优化、避免过早收敛等优点。其通用的框架是：将优化问题的可行解对应抗体，优化问题的目标函数对应抗原，Pareto最优解被保存在记忆细胞集中，并采取某种机制对记忆集进行不断更新，进而获得分布均匀的Pareto最优解。 （三）多目标PSO约束算法。
Ｖｏｌ．３２Ｎｏ．９ Ｓｅｐ．２０１６ 赤峰学院学报（自然科学版）ＪｏｕｒｎａｌｏｆＣｈｉｆｅｎｇＵｎｉｖｅｒｓｉｔｙ（ＮａｔｕｒａｌＳｃｉｅｎｃｅＥｄｉｔｉｏｎ）第３２卷第９期（上） ２０１６年９月协同进化数值优化算法及其应用分析 梁树杰 （广东石油化工学院高州师范学院，广东 高州525200） 摘 要：探讨协同进化数值优化算法在无约束优化、约束优化、多目标优化问题及其在不同领域的应用情况，旨在充分发 挥协同进化数值优化算法的作用，进而为各领域的发展奠定基础. 关键词：协同进化算法；数值优化；应用中图分类号：Ｏ２２４；ＴＰ２７３．１ 文献标识码：Ａ 文章编号：１６７３－２６０Ｘ（２０１６）０９－０００６－０２ 协同进化作为一种自然现象，具有普遍性，超过两个种群间经相互影响，便会出现此现象，可用于解释种群间的适应性，将其用于生物学研究，促进了生物进化．在进化计算研究方面，协同进化算法作为一种快速发展的最优化算法，他是传统进化算法的一种扩展．这种算法的模型包含了两个和多个种群．不同的种群在生态系统中协同进化，并且相互作用，最终使得生态系统不断进化［１］．协同进化算法在许多领域得到了广泛的应用［２］．在许多非常困难的问题上，协同进化算法都证明了其作为优化算法的有效性．文章综述了国内外学者的研究内容，介绍了进化算法、协同进化算法等，重点阐述了其在各类问题中的应用，旨在为协同进化数值优化算法的推广提供可靠的理论保障．1协同进化数值优化算法的概况１．１进化算法 在人类生存与发展过程中涉及众多的优化问题，与分析问题相比，优化问题属于逆问题，在求解方面具有较大的难度，造成此情况的原因主要为优化问题的可行解为无穷多个，但要在可行解集合中获取最优化解，通常情况下，利用数学规划法可实现对相关问题的处理，但实际计算过于繁琐，进而难以保证计算的准确性与有效性．为了满足实际需求，进化算法随之出现，它作为算法工具具有创新性与高效性，适应了数值优化问题的求解奠定了坚实的基础． 进化计算技术属于人工智能技术，它主要是通过对自然界生物进化过程及机制的模拟，以此实现了对相关问题的求解，其具有自组织、自适应与自学习的特点．进化算法是由生物学知识逐渐发展而来的，即：生物种群的优胜劣汰、遗传变异等，在此过程中生命个体对环境的适应力不断在 增强．通过国内外学者的不断探索与研究，进化算法及其相关的计算智能方法日渐丰富，其中进化数值优化算法吸引了众多学者的目光［３］． 与传统优化算法相比， 进化算法具有一定的特殊性，其优势显著，主要表现在以下几方面：处理对象为编码，通过编码操作，使参数集成为个体，进而利于实现对结构对象的直接操作；便于获得全局最优解，借助进化算法，可对群体中的多个个体进行同时处理，从而提高了计算准确性，降低了计算风险性；不需要连续可微要求，同时可利用随机操作与启发式搜索，从而保证了搜索的明确性与高效性，在此基础上，它在各个领域的应用均取得了显著的成效，如：函数优化、自动控制、图像处理等．但进化算法也存在不足，主要表现为其选择机制仍为人工选择，在实际问题处理过程中，难以发挥指导作用；同时，局部搜索能力相对较差，难以保证解的质量［４］． 为了弥补进化算法的不足，相关学者通过研究提出了新型计算智能方法，具体包括免疫进化算法，它主要是利用自然免疫系统功能获得的，此方法在数据处理、故障诊断等方面均扮演着重要的角色；Ｍｅｍｅｔｉｃ算法属于混合启发式搜索算法，其利用了不同的搜索策略，从而保证了其应用效果；群智能算法主要分为两种，一种为蚁群算法，另一种为粒子群算法，前者可用于多离散优化问题方面；后者主要利用迭代从而获取了最优解，由于其具有简便性与实用性，因此其应用较为广泛；协同进化算法作为新型进化算法，其分析了种群与环境二者间的关系，并对二者进化过程中的协调给予了高度关注［５］．１．２协同进化算法 收稿日期：2016-05-23 基金项目：广东省教育研究院课题项目（GDJY-2015_F-b057）；茂名市青年名师培养项目成果 传统优化算法 协同进化算法 简化问题无法简化复杂的问题.简化问题，利用分解分解问题等方式，对复杂问题的简化，从而实现求解.兼容性相对简单，算法相对独立.兼具了不同优点，发挥了不同搜索算法的作用，保证了种群间的有效协同进化. 应用领域 应用领域相对独立. 适应了各领域的需求，在各个领域均涉及协同思想. 表一 协同进化算法与传统优化算法的对比 在数值优化领域中应用协同进化算法，相关的研究成果主要体现在无约束优化、约束优化与多目标优化等方面． 在第一类问题方面．对于进化算法而言，其经典的应用领域 便是无约束数值优化，经过不断实际，此技术的应用日渐成 ６－－ DOI:10.13398/https://www.doczj.com/doc/7616448551.html,ki.issn1673-260x.2016.17.003
i x 是第t 代种群中个体，其rank 值定义为： ()(,)1t i i rank x t p =+ ()t i p 为第t 代种群中所有支配i x 的个体数目 适应值（fitness value ）分配算法： 1、 将所有个体依照rank 值大小排序分类； 2、 利用插值函数给所有个体分配适应值（从rank1到 rank * n N ≤），一般采用线性函数 3、 适应值共享：rank 值相同的个体拥有相同的适应值， 保证后期选择时同一rank 值的个体概率相同 最后采用共享适应值随机选取的方法选择个体进入下一代 一种改进的排序机制（ranking scheme ）： 向量,1,(,,)a a a q y y y =???和,1,(,,)b b b q y y y =???比较 goal vector ：() 1,,q g g g =??? 分为以下三种情况： 1、 ()() ,,1,,1; 1,,; 1,,; a i i a j j k q i k j k q y g y g ?=???-?=????=+???>∧≤ 2、() ,1,,; a i i i q y g ?=???> 当a y 支配b y 时，选择a y 3、() ,1,,; a j j j q y g ?=???≤ 当b y 支配a y 时，选择b y 优点：算法思想容易，效率优良 缺点：算法容易受到小生境的大小影响 理论上给出了参数share σ的计算方法
基本思想： 1、初始化种群Pop 2、锦标赛选择机制：随机选取两个个体1x 和2x 和一个Pop 的 子集CS(Comparison Set)做参照系。若1x 被CS 中不少于一 个个体支配，而2x 没有被CS 中任一个体支配，则选择2x 。 3、其他情况一律称为死结（Tie ），采用适应度共享机制选择。 个体适应度：i f 小生境计数（Niche Count ）：(),i j P o p m S h dij ∈ = ??? ?∑ 共享函数：1-,()0,share share share d d Sh d d σσσ? ≤?=??>? 共享适应度（the shared fitness ）： i i f m 选择共享适应度较大的个体进入下一代 优点：能够快速找到一些好的非支配最优解域 能够维持一个较长的种群更新期 缺点：需要设臵共享参数 需要选择一个适当的锦标赛机制 限制了该算法的实际应用效果
机械优化设计理论方法 摘要：机械优化设计是一种非常重要的现代设计方法，能从众多的设计方案中找出最佳方案，从而大大提高设计的效率和质量。现代工程装备的复杂性使得机械优化设计变得越来越困难，利用新的科学理论探索新的优化设计方法是该研究领域的一个重要方面。在综合大量文献的基础上，阐述机械优化设计的含义、目的及必要性，总结机械优化设计的特点，从优化设计数学模型建立和求解算法两方面探讨现代机械优化设计的理论方法和研究现状，并指出该领域中应当进一步研究的问题和发展方向。关键词：机械；优化设计；数学模型；优化方法；智能优化优化设计是20世纪60年代随计算机技术发展起来的一门新学科，是构成和推进现代设计方法产生与发展的重要内容。机械优化设计是综合性和实用性都很强的理论和技术，为机械设计提供了一种可靠、高效的科学设计方法，使设计者由被动地分析、校核进入主动设计，能节约原材料，降低成本，缩短设计周期，提高设计效率和水平，提升企业竞争力、经济效益与社会效益。国内外相关学者和科研人员对优化设计理论方法及其应用研究十分重视，并开展了大量工作，其基本理论和求解手段已逐渐成熟。国内优化设计起步较晚，但在众多学者和科研人员的不懈努力下，机械优化设计发展迅猛，在理论上和工程应用中都取得了很大进步和丰硕成果，但与国外先进优化技术相比还存在一定差距，在实际工程中发挥效益的优化设计方案或设计结果所占比例不大。计算机等辅助设备性能的提高、科技与市场的双重驱动，使得优化技术在机械设计和制造中的应用得到了长足发展，遗传算法、神经网络、粒子群法等智能优化方法也在优化设计中得到了成功应用。 1 机械优化设计研究内容机械优化设计是一种现代、科学的设计方法，集思考、绘图、计算、实验于一体，其结果不仅“可行”，而且“最优”。该“最优”是相对的，随着科技的发展以及设计条件的改变，最优标准也将发生变化"。。优化设计反映了人们对客观世界认识的深化，要求人们根据事物的客观规律，在一定的物质基础和技术条件下充分发挥人的主观能动性，得出最优的设计方案。 2 传统优化设计理论方法传统优化设计方法种类很多，按求解方法特点可分为准则优化法、线性规划法和非线性规划法。作者仅从工程应用角度对之进行归纳和整理，具体算法可参考其他资料。 2．1 准则优化法准则优化法不应用数学极值原理，而根据力学、物理或其他原则构造评优准则，然后依据此准则进行寻优。优点是概念直观、计算简单，少约束时优化效率较高，特别适合工程应用；缺点是只能考虑一个或很少方面，多约束时优化效率大大降低，甚至不收敛。。如满应力准则法直接从结构力学的原理出发，实质是在结构几何形状固定和构件材料确定的情况下选择截面，使结构中每一构件至少在一种工况下达到满应力，从而使杆件材料得以充分利用。迭代法是满应力设计最简单的方法。 2．2 线性规划法线性规划法是根据数学极值原理求解目标函数和约束条件同为设计变量的线性优化问题，是机械优化设计的重要方法之一。主要方法有单纯形法和序列线性规划法。 2．3 非线性规划法实际工程的机械优化设计大都属于非线性规划，且非线性程度越来越高，完全简化成线性问题是不妥当的。非线性规划从数学极值原理出发求解优化问题，可分为无约束直接法、无约束间接法、有约束直接法和有约束间接法。现代优化设计理论方法优化准则法对于不同类型的约束、变量、目标函数等需导出不同的优化准则，通用性较差，且多为近似最优解；规划法需多次迭代、重复分析，代价昂贵，效率较低，往往还要求目标函