模拟退火算法应用及相关程序
- 格式:doc
- 大小:37.00 KB
- 文档页数:4
模拟退火算法解决优化问题模拟退火算法(Simulated Annealing,SA)是一种基于模拟固体退火过程的全局优化算法,被广泛应用于解决各种优化问题。
它的基本思想源于固体退火过程中的原子热运动,通过模拟原子在退火过程中的状态变化,寻找全局最优解。
本文将介绍模拟退火算法的基本原理、算法流程以及在解决优化问题中的应用。
一、模拟退火算法的基本原理模拟退火算法的基本原理来自于固体物理学中的固体退火过程。
在固体退火过程中,固体在高温下加热后逐渐冷却,原子会随着温度的降低而逐渐趋于稳定状态。
类比到优化问题中,算法在搜索过程中允许一定概率接受比当前解更差的解,以避免陷入局部最优解,最终达到全局最优解。
二、模拟退火算法的基本步骤1. 初始化:随机生成初始解,并设定初始温度和终止条件。
2. 选择邻域解:根据当前解生成邻域解。
3. 接受准则:根据一定概率接受邻域解,更新当前解。
4. 降温策略:根据降温策略逐渐降低温度。
5. 终止条件:达到终止条件时停止搜索,输出最优解。
三、模拟退火算法的应用模拟退火算法在解决各种优化问题中都有广泛的应用,包括组合优化、函数优化、图像处理等领域。
下面以组合优化问题为例,介绍模拟退火算法的具体应用。
1. 旅行商问题(TSP):旅行商问题是一个经典的组合优化问题,目标是找到一条最短路径经过所有城市并回到起点。
模拟退火算法可以通过不断调整路径来寻找最优解。
2. 排课问题:在学校排课过程中,需要合理安排老师和班级的上课时间,避免冲突和空闲时间过长。
模拟退火算法可以优化排课方案,使得课程安排更加合理。
3. 装箱问题:在物流领域中,需要将不同大小的物品合理装箱,使得装箱空间利用率最大化。
模拟退火算法可以帮助优化装箱方案,减少空间浪费。
四、总结模拟退火算法作为一种全局优化算法,具有较好的全局搜索能力和收敛性。
通过模拟退火算法,可以有效解决各种优化问题,得到较优的解决方案。
在实际应用中,可以根据具体问题的特点调整算法参数和策略,进一步提高算法的效率和准确性。
模拟退火算法应用实例一、什么是模拟退火算法模拟退火算法是一种优化算法,用于在搜索空间中寻找全局最优解。
它的基本思想是通过随机游走的方式,从一个初始解开始,在搜索过程中逐渐降低温度,使得概率性的接受更优解的能力逐渐减弱,最终达到全局最优解。
二、应用实例1. 旅行商问题旅行商问题是指给定一组城市和每对城市之间的距离,求解访问每个城市恰好一次并回到起始城市的最短路径。
这个问题是NP-hard问题,因此需要使用启发式算法来求解。
模拟退火算法可以用来求解旅行商问题。
首先随机生成一个初始路径,然后不断地进行交换两个节点位置,并计算新路径长度。
如果新路径比原路径短,则接受新路径;否则以一定概率接受新路径。
随着时间推移,温度逐渐降低,接受新路径的概率也逐渐降低。
最终得到全局最优解。
2. 图像处理模拟退火算法可以用于图像处理中的图像分割和图像匹配等问题。
例如,在图像分割中,我们可以将图像分成多个区域,使得同一区域内的像素具有相似的特征,不同区域之间的像素特征差异较大。
首先随机生成一个初始分割方案,然后不断地进行移动像素点到其他区域,并计算新分割方案的代价函数。
如果新方案比原方案更优,则接受新方案;否则以一定概率接受新方案。
随着时间推移,温度逐渐降低,接受新方案的概率也逐渐降低。
最终得到全局最优解。
3. 机器学习模拟退火算法可以用于机器学习中的参数优化问题。
例如,在神经网络中,我们需要找到最优的权重和偏置值来最小化损失函数。
首先随机生成一个初始权重和偏置值,然后不断地进行微小调整,并计算新损失函数值。
如果新损失函数比原损失函数更小,则接受新权重和偏置值;否则以一定概率接受新权重和偏置值。
随着时间推移,温度逐渐降低,接受新权重和偏置值的概率也逐渐降低。
最终得到全局最优解。
三、模拟退火算法的优点和缺点1. 优点(1)全局最优解:模拟退火算法可以找到全局最优解,而不是局部最优解。
(2)适用性广:模拟退火算法可以应用于各种问题,并且具有较好的鲁棒性。
一、概论1.1 问题概述在自然科学以及大多数科学当中和社会生活里经常出现最大或最小的问题,我们从小学开始学习大小比较,一直到高中大学时的最优解问题,都是一种名为最优化问题.最优化问题在大多是领域中都有重要的地位,例如管理科学、计算机科学、图像处理等等需要大量数据的学科中都存在着需要解决的组合优化问题。
用我们比较容易理解的说法就是已知一组固定的函数,令这组函数所对应的函数到达最大或最小值.而我们所想到的最简单的方法便是穷举法,然而这种方式存在这大量的数据计算穷举的缺点。
优化组合问题中的NP问题是一个很麻烦的问题,它解得规模会随着问题的规模增大而增大,求解所需的时间也会随问题的规模增大而成指数级增长,而当规模过大时就会因为时间的限制而失去了可行性。
旅行商问题(TSP)是优化组合问题中最为著名的一个问题,它的特点是容易描述却难于求解.这是一个经典的图论问题,假设有n个城市,用表示.城市之间距离为,i,j=1,2,3,···,n,假设所有城市之间两两连通,要求从一个城市出发,把所有城市都走一遍,而TSP问题就是恰好所有城市都走一遍,而所走路径形成回路且路径最短.将这个问题对应在一个n个顶点的完全图上,假设图为对称图,则要从个可能的解当中找到最小的解,需要的对比则要进行次,当的数值增大时,那么需要的次数也会随之以几何数倍增长,例如每秒运算一亿次的计算机,当需要的时间也只是0.0018秒,当需要的时间却是17年,可当时所需的时间却猛增到年,这个结果是我们所不想看到的。
优化组合问题的目标函数是从组合优化问题的可行解集当中求出最优解。
组合优化问题有三个基本要素:变量,约束和目标函数,在求解过程中选定的基本参数成为标量,对于变量的取值的所有限制称之为约束,表示可行的方案的标准的函数称之为目标函数。
随着问题种类的不同以及问题规模的扩大,要找到一种能够已有限代价来求解最优化问题的通用方法一直都是一个难题,建立用最大的可能性求解全局解一直是一个重要问题。
模拟退⽕算法及其应⽤摘要⽣活中存在许多需要使⽤优化的情况,⽽为了解决这种情况便出现了很多的优化算法.模拟退⽕算法就是多种优化组合算法中的⼀种,它⼀直以来都是⼀个优化领域的热点,收到⼴⼤研究者的关注.作为优化组合算法中的佼佼者,它拥有相较于早期其他优化算法更便于计算,使⽤灵活适⽤于并⾏运算的优点,解决了部分传统算法⽆法规避⼤规模问题的不可⾏因素.模拟退⽕算法来源于模拟退⽕的过程,在1953年被Metropofis提出这种先进的思想,⽽后被Kirkpatrick等⼈于1983年引⼊到优化组合领域中,从此模拟退⽕算法就成为了许多优化算法中的⼀种.当然对于这种优越的算法并不仅仅是⽤于简单的优化问题中,它可⽤于的领域包括着⼯程科学在内的多种领域中.(删掉,摘要⾥不需要写这些)模拟退⽕算法虽然在各个领域中有着⼗分的成就,但它在组合优化上还是占有着⾮常重要的地位.本⽂中将会对于模拟退⽕算法的背景做出简述,并对模拟退⽕算法的原理内容做出介绍.为了更加清楚的了解模拟退⽕算法的性能,本⽂中对其举出例⼦来演⽰其在优化问题中的表现.在组合优化领域中NP(NP-Hard)问题⼀直都是⼀个⿇烦的问题,尤其其中著名的旅⾏商问题有着简单、⿇烦的特点.简单是指它的问题描述最为简化时,就是在⼏个点中找出最为短的路径;⿇烦却是当⼏个点增长到⼀定程度是就很难得出⼀个准确的解.⽽模拟退⽕算法却在这种难题中有着不俗的表现.关键词:模拟退⽕算法;组合优化问题;TSP问题AbstractMany require the use of optimization condition exists in life, and in order to resolve this situation occurs many optimization algorithm. Simulation is a combination of several optimization algorithm of simulated annealing algorithm, it is always a hot one optimization field, received the majority of researchers. As a leader in combination optimization algorithm, it has compared to other early optimization algorithm more easy to calculate, the use of flexible advantages of parallel computing, solve the infeasible factor part of traditional algorithm cannot avoid large-scale problems. Simulated annealing algorithm derived from the simulated annealing process, in 1953 Metropofis proposed the advanced ideas, and then by Kirkpatrick et al in 1983 into the optimization in the field, then the simulated annealing algorithm is one of many in the optimization algorithm. Of course, this algorithm is not only superior to simple optimization problems in various fields, which can be used in fields including engineering science in. Simulated annealing algorithm is very success in every field, but it is in the combinatorial optimization and occupies a very important position. This paper will make a brief for the simulated annealing algorithm to make the background, principle and content of the simulated annealing algorithm. In order to more clearly understand the performance of simulated annealing, to demonstrate the optimization problem in the performance for the examples in this article.In the field of combinatorial optimization problem in NP is always a difficult problem, especially the well-known traveling salesman problem which has the characteristics of simple, trouble. Simple refers to the description of the problem is the most simple, is at several points out the most short path; the trouble is when several points up to a certain extent is hardly an accurate solution. The simulated annealing algorithm has a good performance in this problem.Key words: the simulated annealing algorithm; combinatorial optimization;TSP⽬录第1章引⾔ ........................................... 错误!未定义书签。
五大常用算法模拟退火算法
模拟退火算法是一种常用的求解优化问题的算法,它可以用于解决各种实际问题。
本文将介绍模拟退火算法及其应用,同时还会介绍其他四种常用的算法。
一、模拟退火算法
模拟退火算法是一种启发式算法,适用于求解复杂的优化问题。
它源于固体物理学中的退火过程,通过模拟退火过程来寻求最优解。
模拟退火算法通过随机跳出局部最优解的过程,寻找全局最优解。
二、其他四种常用算法
1.遗传算法
遗传算法是一种模拟自然进化过程的优化方法。
它通过对可行解进行适应度评价、选择、交叉和变异等操作,将优秀的个体遗传给下一代,从而不断优化解的质量。
2.蚁群算法
蚁群算法是一种模拟蚂蚁寻找食物的行为而发展出来的算法。
它通过模拟蚂蚁在搜索过程中的信息素沉积和信息素挥发,不断优化搜索路径,从而找到最优解。
3.粒子群算法
粒子群算法是一种模拟粒子在空间中移动的算法。
它通过模拟粒子在搜索空间中的移动和互相协作,不断优化搜索路径,从而找到最优解。
4.人工神经网络
人工神经网络是一种模拟人脑神经元工作原理的算法。
它通过构建神经元之间的连接和权重来实现对输入信息的处理和输出结果的预测,可以用于分类、回归等问题的求解。
三、总结
以上介绍了五种常用的算法,它们都可以用于解决不同类型的优化问题。
在实际应用中,需要根据具体问题的特点选择合适的算法。
模拟退火算法是其中一种常用算法,具有较为广泛的应用。
模拟退火算法及其应用场景分析在计算机科学领域中,模拟退火算法是一种常见的优化算法。
该算法的设计灵感来自于物理学中的退火过程,即将固体从高温状态逐渐冷却至室温状态的过程。
与物理学中的退火过程类似,模拟退火算法也是通过逐渐减小系统“温度”的方式,从而找到系统能量最小的状态。
本文将对模拟退火算法的基本原理和应用场景进行分析。
一、模拟退火算法的基本原理模拟退火算法和其他优化算法的不同之处在于,它可以跳过局部最优解而找到更好的解。
在优化问题中,我们需要找到一组参数使得某个目标函数的值最小或者最大。
例如,在机器学习中,我们需要找到一组参数使得结果最符合实际预期。
通常情况下,优化问题是非常复杂的,并且不存在可行的解析解。
此时,我们需要使用一些优化算法来找到近似解。
模拟退火算法的核心思想是通过一定的概率转移来跳过局部最优解。
它的求解步骤如下:1.初始化:随机生成一个初始解,设为当前解;2.选择邻域:随机生成当前解的一个邻域(即经过小规模改变后得到的新解);3.计算能量差:计算当前解和邻域解的能量差;4.判断是否接受邻域解:根据一定的概率转移规则,决定是否接受邻域解。
如果接受邻域解,将邻域解设为当前解;否则保留当前解;5.降低温度:重复以上步骤若干次后,降低算法的温度,并回到第二步,直到满足停止条件。
模拟退火算法中,温度是一个关键的参数。
随着算法的进行,温度逐渐下降,模拟了物理学中的退火过程,可以帮助跳过局部最优解。
同时,退火过程也与概率有关,因此模拟退火算法中需要使用一些概率转移规则来判断是否接受邻域解。
通常情况下,这些概率转移规则与温度和能量差有关。
二、模拟退火算法的应用场景模拟退火算法在实际应用中非常广泛,下面我们将对其常见的应用场景进行分析。
1.组合优化问题组合优化问题是指选择一组元素,从而使得某个目标函数最小或最大。
例如,在旅行商问题中,我们需要选择一条经过所有城市的路径,并使得路径长度最小。
在这种问题中,模拟退火算法可以通过随机选择相邻路径来优化路径的长度,并在搜索空间中跳过局部最优解。
旅⾏商问题——模拟退⽕算法实现1.问题描述旅⾏商问题(Travelling Salesman Problem, 简记TSP,亦称货郎担问题):设有n个城市和距离矩阵D=[d ij],其中d ij表⽰城市i到城市j的距离(i,j=1,2 … n),则问题是要找出遍访每个城市恰好⼀次的⼀条回路并使其路径长度为最短。
2.算法设计对原问题进⾏分析,TSP的⼀个解可表述为⼀个循环排列:Π= (Π1,Π2,Π3… Πn),即Π1→Π2→ … →Πn→Π1有(n-1)!/2 种不同⽅案,若使⽤穷举法,当n很⼤时计算量是不可接受的。
旅⾏商问题综合了⼀⼤类组合优化问题的典型特征,属于NP 难题,不能在多项式时间内进⾏检验。
若使⽤动态规划的⽅法时间复杂性和空间复杂性都保持为n的指数函数。
本次实验利⽤模拟退⽕算法(Simulated Annealing)求解TSP问题。
模拟退⽕算法最早由N.Metropolis等⼈于1953年提出,基于物理中固体物质的退⽕过程与⼀般组合优化问题之间的相似性。
该算法从某⼀较⾼初温出发,伴随温度参数的不断下降,结合概率突跳特性在解空间随机寻找全局最优解。
退⽕是将固体加热到⾜够⾼的温度,使分⼦呈随机排列态,然后逐步降温冷却,最后分⼦以低能状态排列,得到稳定状态的固体。
退⽕的过程有:(1)加温过程:增强粒⼦运动,消除系统原本可能存在的⾮均匀态;(2)等温过程:对于与环境换热⽽温度不变的封闭系统,系统状态的⾃发变化总是朝向⾃由能减少的⽅向进⾏,当⾃由能达到最⼩时,系统平衡;(3)冷却过程:使粒⼦热运动减弱并逐渐趋于有序,系统能量逐渐下降,从⽽得到低能的晶体结构。
其中,固体在恒温下达到热平衡的过程采⽤Metropolis⽅法进⾏模拟:温度恒定为T时,当前状态i转为新状态j,如果j状态的能量⼩于i,则接受状态j为当前状态;否则,如果概率p=exp{-(E j-E i)/(k*T)}⼤于[0,1)区间的随机数,则仍接受状态j为当前状态;若不成⽴则保留状态i为当前状态。
模拟退火算法原理及应用模拟退火算法(Simulated Annealing,SA)是一种启发式搜索算法,用于在求解优化问题中寻找全局最优解。
它的名字源自金相学中的“退火”过程,可以将物质加热至高温状态,再逐渐冷却,使其达到稳定的低能量状态。
模拟退火算法以类似的方式,通过模拟物质退火过程来搜索最优解。
模拟退火算法的基本原理是在优化过程中,允许接受较劣的解,以避免陷入局部最优解而无法跳出。
在搜索的过程中,模拟退火算法会随机选择当前解的一个邻居,计算出其解的差异,并以一定的概率接受更劣的解。
这种“接受概率”是根据一定的函数关系与当前温度进行计算,随着搜索的进行,温度会逐渐降低,接受更劣的解的概率也会逐渐降低。
最终,搜索会在温度趋近于极低值时停止。
相比于其他优化算法,模拟退火算法具有以下几个优点:第一,模拟退火算法能够克服局部最优解的问题,并寻找全局最优解。
在搜索过程的一开始,算法会接受很劣的解,以免陷入局部最优解,使得搜索方向可以不断地进行调整,从而有望跨越不同的局部最优解,发现全局最优解。
第二,模拟退火算法比其他优化算法更加灵活。
在算法的初始阶段,允许以较高概率接受劣质解,便于快速地确定搜索方向。
而在搜索过程接近尾声时,模拟退火算法会逐渐降低接受劣质解的概率,以固定最优解。
第三,在实际应用上,模拟退火算法还具有较好的可扩展性和容错性。
由于算法在全局搜索中跳过局部最优解,因此可以应对优化问题的复杂度和参数数量的增加。
模拟退火算法应用广泛,以下是几个应用场景:第一,模拟退火算法可以应用在旅行商问题(TSP)中。
旅行商问题是一种经典的组合优化问题,旨在找到一条路径,使得旅行商必须访问每个城市,且在访问完所有城市后返回原点,且路径总长度最短。
模拟退火算法可以通过随机交换路径中的城市位置,以及接受劣质的解来最终找到该问题的全局最优解。
第二,模拟退火算法还可以应用在物理学中。
例如著名的Ising 模型,它对二维晶格中带有自旋的相互作用的电子系统进行建模,是研究磁性、相变等基本物理问题的一个重要手段。
模拟退火算法及其在最优化中的应用随着计算机科学的不断发展,求解模型的最优解已成为一项重要课题。
而对于许多实际问题来说,求解最优解是一个 NP 难问题。
因此,人们常常使用各种算法来解决这些问题。
模拟退火算法作为一种求解 NP 难问题的启发式算法,越来越受到学术界和工业界的关注。
一、模拟退火算法的原理模拟退火算法源于统计物理学中的模拟物理过程。
它的核心思想是以一定的概率接受比当前状态差的解,为了避免陷入局部最优解,随着时间的推移逐渐减小概率。
在求解问题时,模拟退火算法首先会随机选择一个初始解,然后根据一定的规则来生成邻域解。
接下来,算法会计算这个邻域解与当前最优解之间的差距,如果邻域解更优,那么它就成为新的最优解;否则,按照一定的概率接受它,以避免陷入局部最优解。
这个概率与当前的温度有关。
在初始阶段,温度非常高,此时概率极大,那么算法就更有可能接受一个比最优解差的解。
但随着时间的推移,温度越来越低,概率就越来越小,这时算法的行为就趋向于贪心算法,只会接受更优的解。
二、模拟退火在最优化中的应用模拟退火算法广泛应用于组合优化问题,如图形着色、旅行商问题、背包问题等。
它也可以用于解决连续优化问题,如函数最大值或最小值的求解。
在实践过程中,模拟退火算法已经被证明是一种有效、高效的求解方法。
下面我们以图形着色问题为例来说明模拟退火算法的应用。
给定一个图 $G=(V,E)$,要求每个顶点 $v_i \in V$ 都染上一种颜色,使得相邻的两个点不会被染上相同的颜色。
这就是图形着色问题,也是一个 NP 难问题。
对于这个问题,我们可以用模拟退火算法来求解。
首先我们随机给每个顶点染上一种颜色,然后计算与当前方案不同的解,每次取这些解中最优的一个。
如果这个解比当前最优的解更优,那么它成为新的最优解。
否则,以一定的概率接受新的解,以避免陷入局部最优解。
在实际应用中,我们通常将温度初始值设为一个稍大于 1 的常数,然后进行一定的迭代次数,直到温度降到一个极小值。
模拟退火算法程序全文共四篇示例,供读者参考第一篇示例:模拟退火算法(Simulated Annealing)是一种基于蒙特卡洛方法的优化算法,常用来解决组合优化问题。
它通过模拟固体退火的过程,在搜索空间中寻找全局最优解。
模拟退火算法的思想来源于固体退火的过程,即通过在高温下加热固体,然后慢慢冷却直至达到平衡状态,从而达到最低能量状态。
在这个过程中,固体的分子不断变化,最终找到最稳定的状态。
模拟退火算法可以看作是启发式的局部搜索算法,能够避免陷入局部最优解。
它以一定的概率接受劣解,从而跳出局部最优解,继续搜索全局最优解。
模拟退火算法的核心思想是通过接受受限制的劣解来避免搜索陷入局部最优解,以较小的概率接受较大的能量差,随着搜索的进行逐渐降低概率。
在搜索空间内随机选择一个新解,并计算它与当前解之间的差异,如果新解的目标函数值更优,则接受该解作为当前解;否则以一定的概率接受该解。
模拟退火算法的基本步骤如下:1. 初始化温度T、初始解X、目标函数值f(X);2. 在当前温度下,生成一个候选解Y;3. 计算候选解Y的目标函数值f(Y)与当前解X的目标函数值f(X)之间的差异ΔE;4. 如果ΔE < 0,则接受候选解Y作为当前解X;5. 如果ΔE > 0,则以一定的概率接受候选解Y:- 如果概率P > 随机数r,则接受候选解Y;- 如果概率P ≤ 随机数r,则拒绝候选解Y,保持当前解X不变;6. 降低温度T,重复步骤2~5直至达到停止条件。
在实际应用中,模拟退火算法常常用于解决组合优化问题,如旅行商问题(TSP)、车间调度问题、布尔函数优化等。
通过适当的参数设置和调整,模拟退火算法可以在较短的时间内找到较优解,从而提高问题求解的效率和精度。
下面我们通过一个简单的例子来演示模拟退火算法的实现过程。
假设我们有一个一维数组,要求找到使得数组元素之和最接近给定目标值的一组解。
我们可以用模拟退火算法来解决这个问题。
一. 爬山算法( Hill Climbing )
介绍模拟退火前,先介绍爬山算法。
爬山算法是一种简单的贪心搜索算法,该算法每次从当前解的临近解空间中选择一个最优解作为当前解,直到达到一个局部最优解。
爬山算法实现很简单,其主要缺点是会陷入局部最优解,而不一定能搜索到全局最优解。
如图1所示:假设C点为当前解,爬山算法搜索到A点这个局部最优解就会停止搜索,因为在A点无论向那个方向小幅度移动都不能得到更优的解。
图1
二. 模拟退火(SA,Simulated Annealing)思想
爬山法是完完全全的贪心法,每次都鼠目寸光的选择一个当前最优解,因此只能搜索到局部的最优值。
模拟退火其实也是一种贪心算法,但是它的搜索过程引入了随机因素。
模拟退火算法以一定的概率来接受一个比当前解要差的解,因此有可能会跳出这个局部的最优解,达到全局的最优解。
以图1为例,模拟退火算法在搜索到局部最优解A后,会以一定的概率接受到E的移动。
也
许经过几次这样的不是局部最优的移动后会到达D点,于是就跳出了局部最大值A。
模拟退火算法描述:
若J( Y(i+1) )>= J( Y(i) ) (即移动后得到更优解),则总是接受该移动
若J( Y(i+1) )< J( Y(i) ) (即移动后的解比当前解要差),则以一定的概率接受移动,而且这个概率随着时间推移逐渐降低(逐渐降低才能趋向稳定)这里的“一定的概率”的计算参考了金属冶炼的退火过程,这也是模拟退火算法名称的由来。
根据热力学的原理,在温度为T时,出现能量差为dE的降温的概率为
P(dE),表示为:
P(dE) = exp( dE/(kT) )
其中k是一个常数,exp表示自然指数,且dE<0。
这条公式说白了就是:温度越高,出现一次能量差为dE的降温的概率就越大;温度越低,则出现降温的概率就越小。
又由于dE总是小于0(否则就不叫退火了),因此dE/kT < 0 ,所以P(dE)的函数取值范围是(0,1) 。
dE/(kT)的取值范围是(-∞,0),故P(dE)取值为(0,1)。
这个公式很好的描述了退火的物理过程,也正好满足了我们程序中一方面需要它跳出局部最优,一方面又要它逐渐收敛于某最优点的要求。
随着温度T的降低,P(dE)会逐渐降低。
(温度越低,能量继续往下降低的概率也会变小)
我们将一次向较差解的移动看做一次温度跳变过程,我们以概率P(dE)来接受这样的移动。
关于爬山算法与模拟退火,有一个有趣的比喻:
爬山算法:兔子朝着比现在高的地方跳去。
它找到了不远处的最高山峰。
但是这座山不一定是珠穆朗玛峰。
这就是爬山算法,它不能保证局部最优值就是全局最优值。
模拟退火:兔子喝醉了。
它随机地跳了很长时间。
这期间,它可能走向高处,也可能踏入平地。
但是,它渐渐清醒了并朝最高方向跳去。
这就是模拟退火。
下面给出模拟退火的伪代码表示。
三. 模拟退火算法伪代码
[java]view plaincopy
1.代码
2.
3./*
4. * J(y):在状态y时的评价函数值
5. * Y(i):表示当前状态
6. * Y(i+1):表示新的状态
7. * r:用于控制降温的快慢
8. * T:系统的温度,系统初始应该要处于一个高温的状态
9. * T_min :温度的下限,若温度T达到T_min,则停止搜索
10.*/
11.while( T > T_min )
12.{
13.dE = J( Y(i+1) ) - J( Y(i) ) ;
14.
15.if ( dE >= 0 ) //表达移动后得到更优解,则总是接受移动
16. Y(i+1) = Y(i) ; //接受从Y(i)到Y(i+1)的移动
17.else
18.{
19.// 函数exp( dE/T )的取值范围是(0,1) ,dE/T越大,则exp( dE/T )也
20.if ( exp( dE/T ) > random( 0 , 1 ) )
21. Y(i+1) = Y(i) ; //接受从Y(i)到Y(i+1)的移动
22.}
23.T = r * T ; //降温退火,0<r<1 。
r越大,降温越慢;r越小,降温越快
24./*
25.* 若r过大,则搜索到全局最优解的可能会较高,但搜索的过程也就较长。
若r过小,则搜
索的过程会很快,但最终可能会达到一个局部最优值
26.*/
27.i ++ ;
28.}
四. 使用模拟退火算法解决旅行商问题
旅行商问题( TSP , Traveling Salesman Problem ) :有N个城市,要求从其中某个问题出发,唯一遍历所有城市,再回到出发的城市,求最短的路线。
旅行商问题属于所谓的NP完全问题,精确的解决TSP只能通过穷举所有的路径组合,其时间复杂度是O(N!) 。
使用模拟退火算法可以比较快的求出TSP的一条近似最优路径。
(使用遗传算法也是可以的,我将在下一篇文章中介绍)模拟退火解决TSP的思路:
1. 产生一条新的遍历路径P(i+1),计算路径P(i+1)的长度L( P(i+1) )
2. 若L(P(i+1)) < L(P(i)),则接受P(i+1)为新的路径,否则以模拟退火的那个概率接受P(i+1) ,然后降温
3. 重复步骤1,2直到满足退出条件
产生新的遍历路径的方法有很多,下面列举其中3种:
1. 随机选择2个节点,交换路径中的这2个节点的顺序。
2. 随机选择2个节点,将路径中这2个节点间的节点顺序逆转。
3. 随机选择3个节点m,n,k,然后将节点m与n间的节点移位到节点k后面。
五. 算法评价
模拟退火算法是一种随机算法,并不一定能找到全局的最优解,可以比较快的找到问题的近似最优解。
如果参数设置得当,模拟退火算法搜索效率比穷举法要高。