协同优化算法理解

２８　２０１０．４６（２６）　ＣｏｍｐｕｔｅｒＥｎｇｉｎｅｅｒｉｎｇａｎｄＡｐｐｌｉｃａｔｉｏｎｓ］，ｔ算机工程与应用　＠研究、探讨＠　改进分布估计算法的协同优化研究　吴红，王维平，王　磊，杨　峰　ＷＵ　Ｈｏｎｇ，ＷＡＮＧ　Ｗｅｉ—ｐｉｎｇ，ＷＡＮＧ　Ｌｅｉ，ＹＡＮＧ　Ｆｅｎｇ　国防科学技术大学信息系统与管理学院，长沙４１００７３　Ｓｃｈｏｏｌ　ｏｆ　Ｉｎｆｏｒｍａｔｉｏｎ　Ｓｙｓｔｅｍ　ａｎｄ　Ｍａｎａｇｅｍｅｎｔ，Ｎｍｉｏｎａｌ　Ｕｎｉｖｅｒｓｉｔｙ　ｏｆ　Ｄｅｆｅｎｓｅ　Ｔｅｃｈｎｏｌｏｇｙ，Ｃｈａｎｇｓｈａ　４１００７３，Ｃｈｉｎａ　Ｅ—ｍａｉｌ：ｗｕｈｏｎｇｈｅｎｒｙ＠ｓｉｎａ．ｃｎ　ＷＵ　Ｈｏｎｇ，ＷＡＮＧ　Ｗｅｉ－ｐｉｎｇ，ＷＡＮＧ　Ｌｅｉ，ｅｔ　ａ１．Ｒｅｓｅａｒｃｈ　ｏｎ　ｃｏｏｐｅｒａｔｉｖｅ　ｏｐｔｉｍｉｚａｔｉｏｎ　ｏｆ　ｉｍｐｒｏｖｅｄ　ｅｓｔｉｍａｔｉｏｎ　ｏｆ　ｄｉｓｔｒｉｂｕ－　ｔｉｏｎ　ａｌｇｏｒｉｔｈｍ．Ｃｏｍｐｕｔｅｒ　Ｅｎｇｉｎｅｅｒｉｎｇ　ａｎｄ　Ａｐｐｌｉｃａｔｉｏｎｓ，２０１０，４６（２６）：２８—３０．　Ａｂｓｔｒａｃｔ：Ｆｏｒ　ｔｈａｔ　ＥＤＡ　ｉｓ　ｅａｓｙ　ｔｏ　ｆａｌｌ　ｉｎ　ｌｏｃａｌ　ｏｐｔｉｍｕｍ　ｉｎ　ｔｈｅ　ｐｒｏｃｅｓｓ　ｏｆ　ｐｒｏｂｌｅｍ　ｓｏｌｖｉｎｇ，ｔｈｅ　ｐｈｙｓｉｃａｌ　ａｎｎｅａｌｉｎｇ　ｉｓ　ｉｎｔｒｏｄｕｃｅｄ　ｉｎｔｏ　ｔｈｉｓ　ａｌｇｏｒｉｔｈｍ　ａｎｄ　ｔｈｅ　Ｓｉｍｕｌａｔｅｄ　Ａｎｎｅａｌｉｎｇ　Ｅｓｔｉｍａｔｉｏｎ　ｏｆ　Ｄｉｓｔｒｉｂｕｔｉｏｎ　ａｌｇｏｒｉｔｈｍ（ＳＡＥＤＡ）ｉｓ　ｐｕｔ　ｆｏｒｗａｒｄ，ａｎｎｅａｌｉｎｇ　ｔｅｍ—　ｐｅｒａｔｕｒｅ　ｄｅｎｏｔｅｄ　ｂｙ　ｉｎｆｏｒｍａｔｉｏｎ　ｅｎｔｒｏｐｙ．Ａｆｔｅｒｗａｒｄ，ｂａｓｅｄ　ｏｎ　ｔｈｉｓ，ｆｏｒ　ｐａｒａｌｌｅｌ　ｃｏｍｐｕｔｅ　ａｂｉｌｉｔｙ　ｐｒｏｖｅｄ　ｂｙ　ｍｕｌｔｉ—ｃｏｒｅ　ｐｒｏｃｅｓｓｏｒ，　ａ　ｑｕａｎｔｕｍ—ｂｅｈａｖｅ　ｅｓｔｉｍａｔｉｏｎ　ｏｆ　ｄｉｓｔｒｉｂｕｔｉｏｎｓ　ｃｏｏｐｅｒａｔｉｖｅ　ｏｐｔｉｍｉｚａｔｉｏｎ　ａｌｇｏｒｉｔｈｍ　ｉｓ　ｐｕｔ　ｆｏｒｗａｒｄ．Ｔｈｅ　ｓｉｍｕｌａｔｉｏｎ　ｅｘｐｅｒｉｍｅｎｔ　ｒｅ—　ｓｕｉｔ　ｓｈｏｗｓ　ｔｈａｔ　ｔｈｅ　ａｌｇｏｒｉｔｈｍ　ｃａｎ　ｓｈｏｒｔｅｎ　ｏｐｔｉｍｉｚｅ　ｔｉｍｅ　ａｎｄ　ｉｍｐｒｏｖｅ　ｏｐｔｉｍｉｚｅ　ｒｅｓｕｌｔ．　Ｋｅｙ　ｗｏｒｄｓ：ｅｓｔｉｍａｔｉｏｎ　ｏｆ　ｄｉｓｔｒｉｂｕｔｉｏｎ　ａｌｇｏｒｉｔｈｍ；ｐｈｙｓｉｃａｌ　ａｎｎｅａｌｉｎｇ；ｉｎｆｏｒｍａｔｉｏｎ　ｅｎｔｒｏｐｙ；ｃｏｏｐｅｒａｔｉｖｅ　ｏｐｔｉｍｉｚａｔｉｏｎ　摘要：针对分布估计算法在问题求解过程中容易陷入局部最优的缺点，引入物理退火的思想，提出模拟退火的分布估计算法，　其中退火温度以信息熵表示。然后以此为基础，面向多核处理器提供的并行计算能力，提出多量子分布估计的协同优化算法。　仿真实验表明，该算法缩短了优化时间，提高了优化结果。　关键词：分布估计算法；物理退火；信息熵；协同优化　ＤＯＩ：１０．３７７８￣．ｉｓｓｎ．１００２—８３３１．２０１０．２６．００９　文章编号：１００２—８３３１（２０１０）２６．００２８．０３　文献标识码：Ａ　巾图分类号：ＴＰ１８　分布估计算法的概念在１９９６年被提出，现已成为进化计　算领域前沿的研究内容。与经典的进化算法ＧＡ相比，ＥＤＡ提　出了一种全新的进化模式。在ＧＡ中，用种群表示优化问题的　一组候选解，种群中的每个个体都有相应的适应值，然后进行　选择、交叉和变异等模拟自然进化的操作，反复进行，对问题　进行求解。而在ＥＤＡ中，没有传统的交叉、变异等遗传操作，　取而代之的是概率模型的学习和采样。ＥＤＡ通过一个概率模　型描述候选解在空间的分布，采用统计学习手段从群体宏观　的角度建立一个描述解分布的概率模型，然后对概率模型随　机采样产生新的种群，如此反复进行，实现种群的进化，直到　终止条件　。ＥＤＡ在解决工程和科学中的复杂优化问题方面　具有很大的潜力，已经在众多领域得到了初步应用一　。　与其他的随机优化算法一样，分布估计算法在问题求解　过程中同样容易陷入局部最优。为了改进此类问题，可采用　增大种群规模的方法，但这必然造成优化时间的激增。基于　此，将物理退火的思想引入到算法中，提出模拟退火的分布估　计算法，其中退火温度以信息熵表示。当前，计算机处理器的　发展已经正式进入多核时代。在过去３Ｏ余年时间里，处理器　的时钟频率一直按摩尔定律持续地增长。由于散热和能耗等　工艺限制，进一步提高处理器的时钟频率越来越困难。主要　芯片制造厂商不约而同地将目光转向多核架构，即在单块芯　片上集成多个执行核。２００５年，Ｉｎｔｅｌ和ＡＭＤ先后推出了双核　处理器，此后两家公司又陆续推出了四核处理器和八核处理　器。按照Ｉｎｔｅｌ的计划，２０１０年将生产出１６核的芯片，２０１１年　将推出３２核的芯片。基于此，以多核处理器提供的并行计算　能力为依托，提出多量子分布估计的协同优化算法。仿真实　验表明，采用本文提出的算法进行问题求解，可以有效地缩短　优化时间，提高优化结果。　１分布估计算法的求解形式　１．１　问题的形式化　采用分布估计算法对问题进行求解，首先需要对问题进　行形式化，以路径规划表述所要求解的问题，其中节点表述变　量取值，节点之间的关系表述变量取值之间的关系。现实世　界中，优化问题多种多样，难以一一列出，在此，仅以二类典型　的问题一排列问题和组合问题一为例进行形式化：　（１）排列问题　排列问题是指每个变量只有一个取值，问题求解过程是　作者简介：吴红（１９８１．），男，博士研究生，研究方向为系统论证与仿真评估；王维平（１９６２一），男，博士，教授，研究方向为体系工程；王磊（１９８２．）　男，博士研究生，研究方向为系统论证与仿真评估；杨峰（１９７５一），男，博士，副教授，研究方向为系统论证与仿真评估。　收稿日期：２００９．０７—２０修回日期：２００９．１２—０１

多智能体系统中的协同控制算法优化分析

摘要：

随着多智能体系统的广泛应用，协同控制算法在该领域的重要性日益突出。本文从协同控制算法的优化角度出发，探讨了在多智能体系统中应用的几种常见优化方法，并分析了它们的优劣势。通过对离散控制算法、分布式控制算法以及强化学习算法的比较，我们理解了各种算法优化的特点和适用场景，为未来多智能体系统中的协同控制提供了有益的参考。

1. 引言

多智能体系统是由多个智能体组成的系统，智能体之间相互协作以完成特定任务。协同控制算法作为多智能体系统中的核心，起着决定系统整体性能的关键作用。我们所关注的焦点就是如何优化多智能体系统中的协同控制算法，以提高系统的效率和鲁棒性。

2. 离散控制算法的优化

离散控制算法是最基础也是最常见的协同控制算法之一。它通过离散化智能体的决策空间，将问题转化为在离散空间中的优化问题。在离散控制算法中，常用的优化方法有遗传算法、粒子群优化算法以及模拟退火算法。

2.1 遗传算法

遗传算法是一种通过模拟生物进化过程来寻找最优解的优化方法。它通过随机生成初始种群，利用选择、交叉和变异等操作来不断迭代，直到达到最优解或者满足停止准则。遗传算法在多智能体系统中的优点在于能够在搜索过程中考虑到全局信息，从而更好地找到全局最优解。然而，由于遗传算法需要对大量个体进行计算，其计算复杂度较高，不适用于实时性要求较高的多智能体控制系统。

2.2 粒子群优化算法

粒子群优化算法是基于种群智能的优化算法，通过模拟鸟群的觅食行为来搜索最优解。在粒子群优化算法中，每个个体（粒子）通过与邻近个体进行信息交流来调整其搜索方向和速度。粒子群优化算法具有计算速度快、易于实现的特点，适用于实时性要求较高的多智能体控制场景。然而，粒子群优化算法容易陷入局部最优解，对全局最优解的搜索能力较弱。

2.3 模拟退火算法 模拟退火算法是一种基于模拟金属退火过程的全局优化算法。它通过接受较差解的概率来避免陷入局部极值，从而提高搜索的全局能力。模拟退火算法相比于遗传算法和粒子群优化算法，具有更好的全局搜索能力，但计算复杂度较高。

第１４卷第３期　２００２年６月　电力系统及其自动化学报　Ｐｒｏｃｅｅｄｉｎｇｓ　ｏｆ　ｔｈｅ　ＥＰＳＡ　Ｖｏ１．１４　Ｎｏ．３　Ｊｕｎ．　２００２　

机组优化组合的协同变异遗传算法①　

李茂军　

（长沙电力学院电力工程系　长沙４１００７７）　

Ａ　ＣＯＯＰＥＲＡＴＩＶＥ　ＭＵＴＡＴＩＯＮ　ＧＥＮＥＴＩＣ　ＡＬＧＯＲＩＴＨＭ　ＦＯＲ　ＵＮＩＴ　ＣＯＭＭＩＴＭＥＮＴ　

Ｌ１　Ｍａｏｊｕｎ　

（Ｃｈａｎｇｓｈａ　Ｕｎｉｖｅｒｓｉｔｙ　ｏｆ　Ｅｌｅｃｔｒｉｃａｌ　Ｐｏｗｅｒ，Ｃｈａｎｇｓｈａ，４１００７７）　

ＡＢＳＴＲＡＣＴ　Ｔｈｉｓ　ｐａｐｅｒ　ｐｒｅｓｅｎｔｓ　ａ　Ｃｏｏｐｅｒａｔｉｖｅ　Ｍｕｔａｔｉｏｎ　Ｇｅｎｅｔｉｃ　Ａｌｇｏｒｉｔｈｍ（ＣＥＧＡ）ｓｏｌｕｔｉｏｎ　ｔＯ　ｔｈｅ　Ｕｎｉｔ　Ｃｏｍｍｉｔ—　ｍｅｎｔ　ｐｒｏｂｌｅｍ（ＵＣＰ）．ＣＥＧＡ　ｆｏｌｌｏｗｓ　ｔｈｅ　ｂａｓｉｃ　ｐｒｉｎｃｉｐｌｅ　Ｏｆ　ｇｅｎｅｔｉｃ　ａｌｇｏｒｉｔｈｍ，ｂｕｔ　ｉｍｐｌｅｍｅｎｔｓ　ｃｏｏｐｅｒａｔｉｖｅ　ｍｕｔａｔｉｏｎ　ｏｆ　ｇｅｎｅｓ　ｄｕｒｉｎｇ　ｇｅｎｅｔｉｃ　ｏｐｅｒａｔｉｏｎ　ｔＯ　ｒａｉｓｅ　ｅｆｆｉｃｉｅｎｃｙ　ｏｆ　ｇｅｎｅｔｉｃ　ｏｐｅｒａｔｏｒｓ．Ｓｉｍｕｌａｔｉｏｎ　ｒｅｓｕｌｔｓ　ｓｈｏｗ　ｔｈａｔ　ＣＥＧＡ　ｉＳ　ａ　ｖｅｒｙ　ｅｆｆｉ—　ｃｉｅｎｔ　ａｌｇｏｒｉｔｈｍ　ｆｏｒ　ｓｏｌｕｔｉｏｎ　ｔＯ　ＵＣＰ．　

Ｋｅｙ　Ｗｏｒｄｓ　ｕｎｉｔ　ｃｏｍｍｉｔｍｅｎｔ，ｇｅｎｅｔｉｃ　ａｌｇｏｒｉｔｈｍ，ｃｏｏｐｅｒａ—　ｔｉｖｅ　ｍｕｔａｔｉｏｎ　

摘要本文提出了一种解决电力系统机组优化组合问题的　协同变异遗传算法。这种算法沿用了遗传算法的基本思　想，但在遗传操作过程中实现基因的协同变异，以提高遗传　算子的搜索效率。仿真实验表明这种算法具有很高的搜索　效率和很好的适应性。　

关键词机组优化组合　遗传算法协同变异　

第３６卷　

Ｖｏ１．３６　第６期　

Ｎｏ．６　计算机工程　

Ｃｏｍｐｕｔｅｒ　Ｅｎｇｉｎｅｅｒｉｎｇ　２０１０年３月　

Ｍａｒｃｈ　２０１０　

・软件技术与数据库・　文章编号：１ｏ０　．３４２８（２ｏ１ｏ）０　＿＿０ｏ５２—＿ｏ３　文献标识码：Ａ　中圈分类号ｔ　ＴＰ３９１　

协同过滤算法中的相似度优化方法　

徐翔，王煦法　

（中国科学技术大学计算机科学与技术系，合肥２３００２７）　

擅要：在协同过滤推荐系统中，通过对稀疏评分矩阵进行填充，可以提高对用户相似度的度量效果和系统的推荐精度。不同填充方法对　

相似度计算结果的影响存在较大差异。为解决该问题，针对３类填充方法构建的评分数据集，以最近邻算法进行推荐，分析传统相似度和　

基于云模型的相似度经２种方法优化后的度量效果，分别为各填充方法选取最有效的相似度优化方案。　关健词：协同过滤；最近邻；相似度；云模型　

Ｏｐｔｉｍｉｚａｔｉｏｎ　Ｍｅｔｈｏｄ　０ｆ　Ｓｉｍｉｌａｒｉｔｙ　Ｄｅｇｒｅｅ　

ｉｎ　Ｃｏｌｌａｂｏｒａｔｉｖｅ　Ｆｉｌｔｅｒ　Ａｌｇｏｒｉｔｈｍ　

ＸＵＸｉａｎｇ．ＷＡＮＧＸｕ－ｆａ　

（Ｄｅｐａｒｔｍｅｎｔ　ｏｆ　Ｃｏｍｐｕｔｅｒ　Ｓｃｉｅｎｃｅ　ａｎｄ　Ｔｅｃｈｎｏｌｏｇｙ，Ｕｎｉｖｅｒｓｉｔｙ　ｏｆ　Ｓｃｉｅｎｃｅ　ａｎｄ　Ｔｅｃｈｎｏｌｏｇｙ　ｏｆ　Ｃｈｉｎａ，Ｈｅｆｅｉ　２３００２７）　

［Ａｂｓｔｒａｃｔ］Ｉｎ　ｃｏｌｌａｂｏｒａｔｉｖｅ　ｆｉｌｔｅｒ　ｒｅｃｏｍｍｅｎｄａｔｉｏｎ　ｓｙｓｔｅｍｓ，ｔｈｅ　ｐｅｒｆｏｒｍａｎｃｅ　ｏｆ　ｕｓｅｒ　ｓｉｍｉｌａｒｉｔｙ　ｍｅａｓｕｒｉｎｇ　ｃａｎ　ｂｅ　ｉｍｐｒｏｖｅｄ　ｂｙ　ｆｉｌｌｉｎｇ　ｔｈｅ　ｓｐａｒｓｅ　ｍａｒｋｉｎｇ　ｍａｒｘ．Ｄｉｆｅｒｅｎｔ　ｆｉｌｌｉｎｇ　ｍｅｔｈｏｄ　ｈａｓ　ｄｉｆｆｅｒｅｎｔ　ｅｆｆｅｃｔ　ｏｎ　ｓｉｍｉｌａｒｉｔｙ　ｃａｌｃｕｌａｔｉｏｎ　ｒｅｓｕｌｔ．Ｔｏ　ｒｅｓｏｌｖｅ　ｔｈｉｓ　ｐｒｏｂｌｅｍ，ｔｈｉｓ　ｐａｐｅｒ　ｍａｋｅｓ