朱胜火 阿里巴巴集团
物流平台的实时优化算法
个人简介
??2014加入阿里巴巴 @ S eattle
–?2004 N EC L abs @ S ilicon V alley
–?2003 A mazon @ S eattle
??机器学习与优化算法
–?应用：机器视觉，搜索推荐，自然语言处理，分布系统，物流
菜鸟网络
智能物流平台
E--‐shipping label Op0miza0on Engine Dispatch Engine Infrastructure Services
Globally Op0mized Order Ful?llment Smart Logis0cs Recommenda0on Engine Smart Warehousing Smart distribu0on
Rou0ng
Warehouse Robots Delivery Robots Drones
Fron0er Technology Smart Warehouse Supply Chain
Op0miza0on
PlaHorm Warehouse Automa0on Warehouse Op0miza0on Smart Distribu0on/Delivery Smart Zone
Coding Guoguo Crowd --‐sourcing PlaHorm Route Op0miza0on
Address Database
智能物流算法 机器 学习
在线 实时 流式
优化 算法
智能物流算法应用
仓储 末端
实时优化：前置切箱
??目标：减少包裹，拣选，运输成本 ??减少包裹个数
??减少包裹尺寸
??缩短拣选距离
??优化计算时间：～10ms
装箱算法
??组合优化问题，复杂度高
??启发式算法初步解决优化问题 ??考虑计算时间与最优的平衡
??节省每单0.2元，估计每年
节省3.6亿人民币（每天50
0万单）
??探索利用大数据
??估算装箱的“势”
??利用估算，优选决策
流式优化：拣选
??目标：减少总体拣选成本
??难点：
–?电商的订单流式到达
–?拣选单实时发布
拣选：拨次和路径
??利用拣选通路，进行拣选池中分配优化，减少拣选路径长度 ??增量的方式处理流式拣选需求
??目前整体路径长度比优化前减少10%
Order pool
Order
Order Order
Order
Order
Order
Order
Pick bill
Picking
Order
Order
Order
Pick bill
Batching
拣选机器人
机器学习：智能分单
Distribution center Delivery station
Delivery Personnel 分拨中心
快递员 配送网点 ??电子面单
??目标：自动确定
??分拨中心 ??配送网点
??快递员
智能分单
??难点：
??收件地址是非标准的
??快递员边界是模糊的，动态的
??高精确度
??机器学习利用投递成功与失败的数据，以及地图的信息确定三段码的划分
智能分单
??三段码的自动划分缩短拣选每天时间30分钟
??估计每年节省4000万人民币（每天500万单）
上海市奉贤区南桥
三段码使用前派扫单量曲线 三段码使用后派送单量
0.25
0.2
0.15
0.1
0.05
6 6.5
7 7.5
8 8.5
9 9.5 10 10.5 11
智能分单
Level 4 Address Database Penetration(1)
~83%
Sorting Error Rate Reduction (3)
~40%
Cainiao E-Shipping Label Penetration(2)
~71%
Smart Routing Accuracy (3)
98%+
( 2
2
) 31
)
??裹裹：菜鸟的APP
??查件，收件，寄件
??寄件：小件员两小时内上门
??目标：提升裹裹揽件的用户体验与运力
裹裹：分配
??机器学习预估小件员的服务质量
裹裹：近邻
??利用小件员的历史揽收记录，划分小件员的工作区域。 ??机器学习减少取消率20%
裹裹：并单
??合并相近的揽件单，提升运力
裹裹：并单
??揽收路径规划，控制并单揽收距离 ??并单率提升100%。
遗传算法在多目标优化的应用：公式，讨论，概述/总括 概述 本文主要以适合度函数为基础的分配方法来阐述多目标遗传算法。传统的群落形成方法（niche formation method）在此也有适当的延伸,并提供了群落大小界定的理论根据。适合度分配方法可将外部决策者直接纳入问题研究范围，最终通过多目标遗传算法进行进一步总结：遗传算法在多目标优化圈中为是最优的解决方法，而且它还将决策者纳入在问题讨论范围内。适合度分配方法通过遗传算法和外部决策者的相互作用以找到问题最优的解决方案，并且详细解释遗传算法和外部决策者如何通过相互作用以得出最终结果。 1.简介 求非劣解集是多目标决策的基本手段。已有成熟的非劣解生成技术本质上都是以标量优化的手段通过多次计算得到非劣解集。目前遗传算法在多目标问题中的应用方法多数是根据决策偏好信息，先将多目标问题标量化处理为单目标问题后再以遗传算法求解，仍然没有脱离传统的多目标问题分步解决的方式。在没有偏好信息条件下直接使用遗传算法推求多目标非劣解的解集的研究尚不多见。 本文根据遗传算法每代均产生大量可行解和隐含的并行性这一特点，设计了一种基于排序的表现矩阵测度可行解对所有目标总体表现好坏的向量比较方法，并通过在个体适应度定标中引入该方法，控制优解替换和保持种群多样性，采用自适应变化的方式确定交叉和变异概率，设计了多目标遗传算法(Multi Objective Genetic Algorithm, MOGA)。该算法通过一次计算就可以得到问题的非劣解集， 简化了多目标问题的优化求解步骤。 多目标问题中在没有给出决策偏好信息的前提下，难以直接衡量解的优劣，这是遗传算法应用到多目标问题中的最大困难。根据遗传算法中每一代都有大量的可行解产生这一特点，我们考虑通过可行解之间相互比较淘汰劣解的办法来达到最 后对非劣解集的逼近。 考虑一个n维的多目标规划问题，且均为目标函数最大化， 其劣解可以定义为： f i (x * )≤f i (x t ) i=1，2，??，n (1) 且式(1)至少对一个i取“＜”。即至少劣于一个可行解的x必为劣解。 对于遗传算法中产生大量的可行解，我们考虑对同一代中的个体基于目标函数相互比较，淘汰掉确定的劣解，并以生成的新解予以替换。经过数量足够大的种群一定次数的进化计算，可以得到一个接近非劣解集前沿面的解集，在一定精度要求下，可以近似的将其作为非劣解集。 个体的适应度计算方法确定后，为保证能得到非劣解集，算法设计中必须处理好以下问题：(1)保持种群的多样性及进化方向的控制。算法需要求出的是一组不同的非劣解，所以计算中要防止种群收敛到某一个解。与一般遗传算法进化到
作者简介：李香平（１９７８￣），男，湖北监利人，中国地质大学计算机学院硕士研究生，研究方向为科学研究与可视化；张红阳（１９８２￣），男，湖北咸宁 人，中国地质大学计算机学院硕士研究生，研究方向为数据挖掘与数据仓库。 模拟退火算法原理及改进 李香平，张红阳 （中国地质大学计算机学院，湖北武汉４３００７４） 摘 要：模拟退火算法是一种强大的随机搜索算法，能应用于许多前提信息很少的问题，能渐进地收敛于最优值。对 ＳＡ算法进行了介绍，论述了ＳＡ算法的原理并对算法进行了改进，展示了计算实验的结果。 关键词：模拟退火；全局优化中图分类号：ＴＰ３１２ 文献标识码：Ａ 文章编号：１６７２－７８００（２００８）０４－００４７－０２ ０引言 近年来，传统的单一算法越来越不适应大规模非线性规划 问题。它们要求目标函数是可微的和收敛的。ＳＡ能很好地弥补它们的缺陷。 从用于统计力学的ＭｏｎｔｅＣａｒｌｏ方法上受到启发，ＳＡ算法在 １９８３被Ｋｉｒｋｐａｔｒｉｃｋ提出来。对比传统局部搜索算法，ＳＡ在搜索 时会在搜索空间上下移动而不依赖初始条件，擅长解决多维问题。此外，它能处理任意程度的非线性、 不连续和随机的问题。能处理任意边界和约束的评估函数。因此，它能轻易处理有脊背和高地的函数。只要初温高、退火表适当，它就能得到全局最优。ＳＡ成功应用于组合优化、神经网络、图像处理和代码设计。 １模拟退火算法原理 组合优化问题是在给定的约束条件下，求目标函数的最值 的问题。设（Ｓ，ｆ）是组合优化问题的一个实例，ｉｏｐｔ∈Ｓ若对所有 ｉ∈Ｓ，都有ｆ（ｉｏｐｔ）≥ｆ（ｉ），则称ｆ（ｉｏｐｔ）≤ｆ（ｉ）为ｍｉｎｆ（ｉ）的最优解。 ＳＡ来源于物理热力学原理，综合了固体退火与组合优化 之间的类似性。类似固体的复杂系统，先被加热到一个物质粒子能自由移动的很高的温度，当它慢慢冷却时，它的能量减少。如果“冷却”过程足够慢，系统将忽略局部稳定构造，到达能量最低状态，即基态。 在模拟的每一步中，新解的产生按照Ｍｅｔｒｏｐｏｌｉｓｔｒａｎｓｉｔｉｏｎ法则，一个新的状态从现有的状态中产生，这个法则能以一定的概率接受能量上升（即产生劣解）的新状态，而能量下降是优化的总目的。法则如下所示： ｐ（ｘ＝＞ｙ）＝ １， ｆ$%ｙ≤ｆ$%ｘｅｘｐ－ｆ$% ｘｆ$%ｙ $ % ， ｏｔｈｅｒｗｉｓ&ｅ ｆ是系统能量，ｔ是温度。ＳＡ的一般框架： Ｇｅｎｅｒａｔｅｄｉｎｉｔｉａｌｓｔａｔｅａｔｒａｎｄｏｍ；Ｇｅｎｅｒａｔｅｄｉｎｉｔｉａｌｔｅｍｐｅｒａｔｕｒｅ；ＲＥＰＥＡＴＲＥＰＥＡＴ ｙ＝ｇｅｎｅｒａｔｅ（，）； ＩＦａｃｃｅｐｔ（，ｙ，）ＴＨＥＮ＝ｙ ＵＮＴＩＬ＇ｉｎｎｅｒｌｏｏｐｓｔｏｐｃｒｉｔｅｒｉｏｎ＇ｓａｔｉｓｆｉｅｄ 为了提高ＳＡ的性能，我们应该仔细处理控制参数的协调。（１）初始温度的选择。初始温度太高会花费高昂的计算时间，太低会拒绝劣解的接受，会丢失ＳＡ全局优化的优点。本文提出了一个初始温度的公式： ｔ０＝’ｆ＋ ｌｎｘ －１ ’ｆ＋ 是函数增量的平均值，χ 是初始的接受概率。（２）温度降低策略。温度降低越快，陷入局部的概率就越大。然而，温度降低太慢会导致算法速度慢得不能接受。本文采用了一种快速的非线性降低法： ｔｋ＝ ｔ０ １＋ｋ ｋ＝１，２，３，…… （３）适当的邻域结构。在退火期间，步长太小导致算法在探索相位空间效率低，太大新解总被拒绝。在持续优化时，新的等价值均一地按间距分布在以ｘｉ的坐标为中心的邻域中，沿轴的间距的一半被看作步长向量ξ。当点落在ｆ的定义域内时，就随机产生新解。 （４）终止标准。内循环是单一温度下在各种条件下Ｍａｒｃｏｖ链的一种渐进接近全局最优的模拟实现，即循环Ｍａｒｃｏｖ链长次数结束。外循环取某个温度ｔ作为算法终止标准，或者是迭代若 软件导刊 ＳｏｆｔｗａｒｅＧｕｉｄｅ 第７卷第４期 ２００８年４月Ｖｏｌ．７Ｎｏ．４Ａｐｒ．２００８
浅析多目标优化问题 【摘要】本文介绍了多目标优化问题的问题定义。通过对多目标优化算法、评估方法和测试用例的研究，分析了多目标优化问题所面临的挑战和困难。 【关键词】多目标优化问题；多目标优化算法；评估方法；测试用例 多目标优化问题MOPs （Multiobjective Optimization Problems）是工程实践和科学研究中的主要问题形式之一，广泛存在于优化控制、机械设计、数据挖掘、移动网络规划和逻辑电路设计等问题中。MOPs有多个目标，且各目标相互冲突。对于MOPs，通常存在一个折衷的解集（即Pareto最优解集），解集中的各个解在多目标之间进行权衡。获取具有良好收敛性及分布性的解集是求解MOPs的关键。 1 问题定义 最小化MOPs的一般描述如下： 2 多目标优化算法 目前，大量算法用于求解MOPs。通常，可以将求解MOPs的算法分为两类。 第一类算法，将MOPs转化为单目标优化问题。算法为每个目标设置权值，通过加权的方式将多目标转化为单目标。经过改变权值大小，多次求解MOPs 可以得到多个最优解，构成非支配解集[1]。 第二类算法，直接求解MOPs。这类算法主要依靠进化算法。进化算法这种面向种群的全局搜索法，对于直接得到非支配解集是非常有效的。基于进化算法的多目标优化算法被称为多目标进化算法。根据其特性，多目标进化算法可以划分为两代[2]。 （1）第一代算法：以适应度共享机制为分布性策略，并利用Pareto支配关系设计适应度函数。代表算法如下。VEGA将种群划分为若干子种群，每个子种群相对于一个目标进行优化，最终将子种群合并。MOGA根据解的支配关系，为每个解分配等级，算法按照等级为解设置适应度函数。NSGA采用非支配排序的思想为每个解分配虚拟适应度值，在进化过程中，算法根据虚拟适应度值采用比例选择法选择下一代。NPGA根据支配关系采用锦标赛选择法，当解的支配关系相同时，算法使用小生境技术选择最优的解进入下一代。 （2）第二代算法：以精英解保留机制为特征，并提出了多种较好的分布性策略。代表算法如下。NSGA-II降低了非支配排序的复杂度，并提出了基于拥挤距离的分布性策略。SPEA2提出了新的适应度分配策略和基于环境选择的分布性策略。PESA-II根据网络超格选择个体并使用了基于拥挤系数的分布性策略。
智能计算读书报告（二） 智能优化算法 姓名：XX 学号：XXXX 班级：XXXX 联系方式：XXXXXX
一、引言 智能优化算法又称为现代启发式算法，是一种具有全局优化性能、通用性强、且适用于并行处理的算法。这种算法一般具有严密的理论依据，而不是单纯凭借专家的经验，理论上可以在一定时间内找到最优解或者近似最优解。所以，智能优化算法是一数学为基础的，用于求解各种工程问题优化解的应用科学，其应用非常广泛，在系统控制、人工智能、模式识别、生产调度、VLSI技术和计算机工程等各个方面都可以看到它的踪影。 最优化的核心是模型，最优化方法也是随着模型的变化不断发展起来的，最优化问题就是在约束条件的限制下，利用优化方法达到某个优化目标的最优。线性规划、非线性规划、动态规划等优化模型使最优化方法进入飞速发展的时代。 20世纪80年代以来，涌现出了大量的智能优化算法，这些新颖的智能优化算法被提出来解决一系列的复杂实际应用问题。这些智能优化算法主要包括：遗传算法，粒子群优化算法，和声搜索算法，差分进化算法，人工神经网络、模拟退火算法等等。这些算法独特的优点和机制，引起了国内外学者的广泛重视并掀起了该领域的研究热潮，并且在很多领域得到了成功地应用。 二、模拟退火算法（SA） 1. 退火和模拟退火 模拟退火算法(Simulated Annealing，SA)最早的思想是由N. Metropolis 等人于1953年提出。1983 年,S. Kirkpatrick 等成功地将退火思想引入到组合优化领域。它是基于Monte-Carlo迭代求解策略的一种随机寻优算法，其出发点是基于物理中固体物质的退火过程与一般组合优化问题之间的相似性。模拟退火算法从某一较高初温出发，伴随温度参数的不断下降,结合概率突跳特性在解空间中随机寻找目标函数的全局最优解，即在局部最优解能概率性地跳出并最终趋于全局最优。模拟退火算法是一种通用的优化算法，理论上算法具有概率的全局优化性能,目前已在工程中得到了广泛应用，诸如VLSI、生产调度、控制工程、机器学习、神经网络、信号处理等领域。 模拟退火算法是通过赋予搜索过程一种时变且最终趋于零的概率突跳性，从而可有效避免陷入局部极小并最终趋于全局最优的串行结构的优化算法。 模拟退火其实也是一种贪心算法，但是它的搜索过程引入了随机因素。模拟
NSGA-II 算法实例 目前的多目标优化算法有很多, Kalyanmoy Deb 的带精英策略的快速非支配排序遗传算法(NSGA-II) 无疑是其中应用最为广泛也是最为成功的一种。本文用的算法是MATLAB 自带的函数gamultiobj ，该函数是基于NSGA-II 改进的一种多目标优化算法。 一、 数值例子 多目标优化问题 424221********* 4224212212112 12min (,)10min (,)55..55 f x x x x x x x x x f x x x x x x x x x s t x =-++-=-++-≤≤??-≤≤? 二、 Matlab 文件 1． 适应值函数m 文件： function y=f(x) y(1)=x(1)^4-10*x(1)^2+x(1)*x(2)+x(2)^4-x(1)^2*x(2)^2; y(2)=x(2)^4-x(1)^2*x(2)^2+x(1)^4+x(1)*x(2); 2． 调用gamultiobj 函数，及参数设置： clear clc fitnessfcn=@f; %适应度函数句柄 nvars=2; %变量个数 lb=[-5,-5]; %下限 ub=[5,5]; %上限 A=[];b=[]; %线性不等式约束 Aeq=[];beq=[]; %线性等式约束 options=gaoptimset('paretoFraction',0.3,'populationsize',100,'generations', 200,'stallGenLimit',200,'TolFun',1e-100,'PlotFcns',@gaplotpareto); % 最优个体系数paretoFraction 为0.3；种群大小populationsize 为100，最大进化代数generations 为200， % 停止代数stallGenLimit 为200， 适应度函数偏差TolFun 设为1e-100，函数gaplotpareto ：绘制Pareto 前端 [x,fval]=gamultiobj(fitnessfcn,nvars,A,b,Aeq,beq,lb,ub,options)
智能优化算法的统一框架 指导老师：叶晓东教授 姓名：李进阳 学号：2 班级：电磁场与微波技术5班 2011年6月20日
目录 1 概述 (3) 2群体智能优化算法.................................. 错误!未定义书签。 人工鱼群算法 (4) 蚁群算法 (5) 混合蛙跳算法 (9) 3神经网络算法 (10) 神经网络知识点概述 (10) 神经网络在计算机中的应用 (11) 4模拟退火算法 (15) 5遗传算法.......................................... 错误!未定义书签。 遗传算法知识简介 (17) 遗传算法现状 (18) 遗传算法定义 (19) 遗传算法特点和应用 (20) 遗传算法的一般算法 (21) 遗传算法的基本框架 (26) 6总结 (28) 7感谢 (29)
1概述 近年来，随着人工智能应用领域的不断拓广，传统的基于符号处理机制的人工智能方法在知识表示、处理模式信息及解决组合爆炸等方面所碰到的问题已变得越来越突出，这些困难甚至使某些学者对强人工智能提出了强烈批判，对人工智能的可能性提出了质疑。众所周知，在人工智能领域中，有不少问题需要在复杂而庞大的搜索空间中寻找最优解或准优解。像货朗担问题和规划问题等组合优化问题就是典型的例子。在求解此类问题时，若不能利用问题的固有知识来缩小搜索空间则会产生搜索的组合爆炸。因此，研究能在搜索过程中自动获得和积累有关搜索空间的知识，并能自适应地控制搜索过程，从而得到最优解或准有解的通用搜索算法一直是令人瞩目的课题。智能优化算法就是在这种背景下产生并经实践证明特别有效的算法。 2群体智能优化算法 自然界中群体生活的昆虫、动物,大都表现出惊人的完成复杂行为的能力。人们从中得到启发,参考群体生活的昆虫、动物的社会行为,提出了模拟生物系统中群体生活习性的群体智能优化算法。在群体智能优化算法中每一个个体都是具有经验和智慧的智能体 (Agent) ,个体之间存在互相作用机制,通过相互作用形成强大的群体智慧来解决复杂的问题。自 20世纪 90年代模拟蚂蚁行为的蚁群算法(ACO)提出以来,又产生了模拟鸟类行为的微粒群算法 ( PSO)、模拟鱼类生存习性的人工鱼群算法、模拟青蛙觅食的混合蛙跳算法 ( SFLA)等。这些群体智能优化算法的出现,使原来一些复杂的、难于用常规的优化算法进行处理的问题可以得到解决,大大增强了人们解决和处理优化问题的能力,这些算法不断地用于解决工程实际中的问题,使得人们投入更大的精力对其理论和实际应用进行研究。群体智能优化算法本质上是一种概率搜索,它不需要问题的梯度信息具有以下不同于传统优化算法的特点: ①群体中相互作用的个体是分布式的,不存在直接的中心控制,不会因为个别个体出现故障而影响群体对问题的求解,具有较强的鲁棒性; ②每个个体只能感知局部信息,个体的能力或遵循规则非常简单,所以群体智能的实现简单、方便; ③系统用于通信的开销较少,易于扩充; ④自
浙江大学 博士学位论文 一种新型的智能优化方法—人工鱼群算法 姓名：李晓磊 申请学位级别：博士 专业：控制科学与工程 指导教师：钱积新 2003.1.1
加，，Ｚ掌博士学位论文一ＩＩＩ－ 摘要 （优化命题的解决存在于许多领域，对于国民经济的发展也有着巨大的应用前景。随着优化对象在复杂化和规模化等方面的提高，基于严格机理模型的传统优化方法在实施方面变得越来越困难。厂吖 本文将基于行为的人工智能思想通过动物自治体的模式引入优化命题的解决中，构造了一种解决问题的架构一鱼群模式，并由此产生了一种高效的智能优化算法一人工鱼群算法。 文中给出了人工鱼群算法的原理和详细描述，并对算法的收敛性能和算法中各参数对收敛性的影响等因素进行了分析；针对组合优化问题，给出了人工鱼群算法在其中的距离、邻域和中心等概念，并给出了算法在组合优化问题中的描述；针对大规模系统的优化问题，给出了基于分解协调思想的人工鱼群算法；给出了人工鱼群算法中常用的一些改进方法；给出了人工鱼群算法在时变系统的在线辨识和鲁棒ＰＩＤ的参数整定中两个应用实例ｊ最后指出了鱼群模式和算法的发展方向。 ｆ在应用中发现，人工鱼群算法具有以下主要特点： ?算法只需要比较目标函数值，对目标函数的性质要求不高； ?算法对初值的要求不高，初值随机产生或设定为固定值均可以； ?算法对参数设定的要求不高，有较大的容许范围； ?算法具备并行处理的能力，寻优速度较快； ?算法具备全局寻优的能力； 鱼群模式和鱼群算法从具体的实施算法到总体的设计理念，都不同于传统的设计和解决方法，同时它又具有与传统方法相融合的基础，相信鱼群模式和鱼群算法有着良好的应用前景。∥ ／ 关键词人工智能，集群智能，动物自治体，人工鱼群算法，ｆ优∥ ，ｌ／。７
第4卷第2期2007年4月 工程地球物理学报 CHIN ESE J OU RNAL OF EN GIN EERIN G GEOP H YSICS Vol 14,No 12Apr 1,2007 文章编号:1672—7940(2007)02—0135—06 模拟退火算法及其改进 蒋龙聪,刘江平 (中国地质大学地球物理与空间信息学院,武汉430074) 作者简介:蒋龙聪(1983— ),男,硕士研究生,现在主要从事地震数据处理和反演理论方法研究。E 2mail :longcja @https://www.doczj.com/doc/ae467283.html, 刘江平(1957— ),男,教授,博士生导师,主要从事地震勘探的科研与教学工作。E 2mail :liujp @https://www.doczj.com/doc/ae467283.html, 摘 要:借鉴遗传算法中的非均匀变异思想,用非均匀变异策略对当前模型扰动产生新的模型,对传统的模 拟退火算法提出了改进,通过多峰值函数数值优化测试结果表明,该算法在高温的时候能够进行大范围的搜索,随着温度的降低,逐渐缩小解的搜索范围,大大加快了收敛速度,证实了该改进算法的有效性和高效性。 关键词:模拟退火算法;非均匀变异;数值最优化;反演 中图分类号:P631文献标识码:A 收稿日期:2006— 12—07R evised Simulated Annealing Algorithm Jiang Longcong ,Liu Jiangping (I nstitute of Geop hysics and Geomatics ,China Universit y of Geosciences ,W uhan 430074,China ) Abstract :Based on t he idea of non 2uniform mutation in genetic algorit hm ,we present a novel revised simulated annealing (RSA ),which used t he non 2uniform mutation to generate a new model f rom current model.Tested by some numerical f unctions ,RSA can search in t he large area for t he solutions in high temperat ure.Wit h t he lowering of t he temperat ure ,t he area of searching t he solutions will be gradually reduced and convergence will speed up.So t he re 2sult s p rove t he effectiveness of RSA. K ey w ords :simulate annealing ;non 2uniform mutation ;numerical optimal ;inversion 1 引 言 人类对地球内部物理性质(包括速度、密度、电导率、温度等)以及矿产资源分布的了解,大多来自地表地质和地球物理、地球化学资料的反演和解释[1]。反演方法可以分为线性反演和非线性反演两种,线性反演已成为一套科学的反演理论,然而,绝大部分地球物理问题都是非线性的,并且实践表明,线性反演方法有容易陷入局部极值和依赖于初始值等缺点。因此,地球物理学者们不 断的尝试开发非线性反演方法,比如人工神经网 络[2]、小波多尺度反演[3]、模拟退火算法[4]等。 模拟退火算法是近年发展起来的全局最优化算法,其主要优点是;不用求目标函数的偏导数及解大型矩阵方程组,即能找到一个全局最优解,而且易于加入约束条件,编写程序简单。目前此法已开始用于解决非线性地球物理反问题,如波形反演、静校正、叠前偏移速度分析等非线性反演中,并取得了较好的效果。 然而,由于模拟退火法是建立在随机搜寻方法的基础上,要达到一定的精度要求,每一模型参
模 拟退火算法 一 定义 1 概念 什么是退火？在热力学上，退火现象指物体逐渐降温的物理现象，温度愈低，物体的能量状态会低；够低后，液体开始冷凝与结晶，在结晶状态时，系统的能量状态最低。大自然在缓慢降温（亦即，退火）时，可“找到”最低能量状态：结晶。但是，如果过程过急过快，快速降温（亦称「淬炼」）时，会导致不是最低能态的非晶形。如下图所示，首先（左图）物体处于非晶体状态。我们将固体加温至充分高（中图），再让其徐徐冷却，也就退火（右图）。加温时，固体内部粒子随温升变为无序状，内能增大，而徐徐冷却时粒子渐趋有序，在每个温度都达到平衡态，最后在常温时达到基态，内能减为最小（此时物体以晶体形态呈现）。 似乎，大自然知道慢工出细活：缓缓降温，使得物体分子在每一温度时，能够有足够时间找到安顿位置，则逐渐地，到最后可得到最低能态，系统最安稳。 模拟退火算法(SA)最早的思想是由N. Metropolis 等人于1953年提出。1983 年,S. Kirkpatrick 等成功地将退火思想引入到组合优化领域。它是基于Monte-Carlo 迭代求解策略的一种随机寻优算法，其出发点是基于物理中固体物质的退火过程与一般组合优化问题之间的相似性。模拟退火算法从某一较高初温出发，伴随温度参数的不断下降,结合概率突跳特性在解空间中随机寻找目标函数的全局最优解，即在局部最优解能概率性地跳出并最终趋于全局最优。 模拟退火其实也是一种贪心算法，但是它的搜索过程引入了随机因素。在迭代更新可行解时，以一定的概率来接受一个比当前解要差的解，因此有可能会跳出这个局部的最优解，达到全局的最优解。以下图为例，假定初始解为左边蓝色点A ，模拟退火算法会快速搜索到局部最优解B ，但在搜索到局部最优解后，不是就此结束，而是会以一定的概率接受到左边的移动。也许经过几次这样的不是局部最优的移动后会到达全局最优点D ，于是就跳出了局部最小值。 根据热力学的原理，在温度为T 时，出现能量差dE 的降温的概率为P(dE)，表示 为: ()?? ? ??=kT dE E P ex p d 。其中k 是波尔兹曼常数，值为-2310×13)1.3806488(=k ，exp 表示自然指数，且dE<0。因此dE/kT<0，所以P(dE)函数的取值范围是(0,1)。满足概率密度函数的定义。其实这条公式更直观意思就是：温度越高，出现一次能量差为P(dE)的降温的概率就越大；温度越低，则
关于模拟退火算法及其影 ｉ《＿■ ＳＩＬＩＣＯＮＶ ＶＡＬＬＥ工响因素的研究 邓超陈文宣王树青 （东莞南博职业技术学院广东东莞５２３０８３）信毫科学 插要：通过使用模拟退火算法模拟逼近函数：ｙ＝ｘ＋ｃｏｓｘ＋ｉ开展实验，并在实验过程中对模拟退火算法的影响因素进行比较ｔ并提出相应的改进方案，直观的将两者的差别体现出来。 关键词：模拟退火算法；权系数；阀值：神经网络结构；ＭＡＴＬＡＢ 中圈分类号：ＴＰ３文献标识码：Ａ文章编号ｚ１６７１－７５９７（２０１０）０４１００４５－－０１ １鬟拟量火算法的基本曩客 模辛｝ｌ退火算法最初的思想［自Ｍｅｔｒｏｐｏｌｉｓ在１９５３年提出，其来源统计物理学中对于固体退火过程的模拟。他采用Ｍｅｔｒｏｐｏｌｉｓ准则接收新解，用冷去系数的参数对算法进程进行控制。使得算法在多项时间里得出最优解．２对曩板退火算法进行试ｔ研究 １）用模拟退火算法模拟逼近函数：ｙ＝ｘ＋ｃｏｓｘ＋１并对神经网络的权系数、阀值进行学习其神经网络结构为１—３－４＿３—１． ２）具体试验过程如下： 模拟退火算法的实现主要采用了¨ＴＬＡＢ软件，利用其中的神经网络工具箱进行编程模拟．在网络ＵＵｌ练方面，隐层采用ｌｏｇｓｉｇ（厂（ｊ）＝＿—二—＿＿－） Ｈ’ａ烈一哪函数作为传递函数。在输出层方面采用线性输出函数ｉｍｒｅｌｉｎ（，（善）＝＃）．降温函数采用ｔ＝＾ｔ． ①给定的学习样本、初始温度、结柬温度及降温速率＾． ＠在某一温度下．以正态分布（Ｍａｔｌａｂ中用ｒａｎｄｎ）生成函数产生新的权系数增量△翻。‘虬．＝缈＋△翻生成新的权系数。 ③根据代价函数求出神经网络的输出偏差Ｅ∥ｔ 胛＝；（歹一ｙ）２． ＠如果Ｐ，ｒＳ０，则取翻ｒ＋ｌ为新值，即ｑ＝够＋ｌ? ⑤如果Ｐ玎＞ｏ，采用接收函数：Ｂ（ｉ）＝［Ｉ＋ｅ＝Ｖ／‘】＿１ 以其值和［０，ｌ】随机数ｄ进行比较： 若Ｂ（ｉ）＞ｄ。则Ｃｄ＝够．。；， 若Ｂ（ｉ）≤ｄ，则国不变。 ＠以ｔ：ｘｔ修改参数ｔ．即缓慢降温。返回②执行． ３）试验生产的原函数和网络输出图如下： ４）结果分析ｔ 由学习的结果来看，学习的曲线和原曲线相差较大，而且函数收敛得很慢．其原因是模拟退火法的初始参数包括初温ｔＯ，结束温度ｔｆ’衰减温度ｄｅｌｔａＴ及控制内循环的马尔可夫链长Ｌ的选择对整个结果产生较大影响。 ３樱报遗火法的改盛可行性方毫 １）设计合适的状态产生函数：设计高效的退火历程；避免状态的迂回搜索；采用并行搜索结构：改进对温度的控制方式；选择合适的初始状态；设计合适的算法终止准则。 ２）也可通过增加某些来实现：如增加升温或重升温过程；增加记忆功能｛增加朴充搜索过程。 ４－｝墨横挂鼍火算法的实验改进方囊 ”对原算法的神经喇络结构进行更改．由卜３－４—３一ｌ改为卜１０一ｈ ２）调整即网络训练参数：具体为添加代码为： ｎｅｔ．ｔｒａｉｎＰａｒａＬｅｐｏｃｈｓ２３０００： ｎｅｔ．ｔｒａｉｎＰａｒ∞．ｇｏａｌ＝０．００２： ｎｅｔ．ｔｒａｉｎＰａｒａｎＩｒ２０．０ｌ： Ｉ开始训练 ｎｅｔ２ｔｒａｉｎ（ｎｅｔ，ｘ．ｙ）：） 在对原算法改进后试验产生的原函数和网络输出图如下（改进处在源程序中体现）： 由结果可以看到，改进后的算法收敛速度加快，函数的逼近和精度都已经较高。 参考文献： 【ｌ】王士同、陈剑夫等编著。问题求解的人工智能神经网络方法ｒ气象出版社． ［２］焦李成．神经网络系统理论，西安，西安电子科技大学出版社，１９９６．６． 作者简介： 邓超（１９７９－），男．汉族．广东省韶关市人，硕士．东莞南博职业技术 学院助教，研究方向；神经网络? 万方数据
多目标优化算法与求解策略 2多目标优化综述 2.1多目标优化的基本概念 多目标优化问题(Multi-objective Optimization Problem，MOP)起源于许多实际复杂系统的设计、建模和规划问题，这些系统所在的领域包括工业制造、城市运输、资本预算、森林管理、水库管理、新城市的布局和美化、能量分配等等。几乎每个重要的现实生活中的决策问题都要在考虑不同的约束的同时处理若干相互冲突的目标，这些问题都涉及多个目标的优化，这些目标并不是独立存在的，它们往往是祸合在一起的互相竞争的目标，每个目标具有不同的物理意义和量纲。它们的竞争性和复杂性使得对其优化变得困难。 多目标最优化是近20多年来迅速发展起来的应用数学的一门新兴学科。它研究向量目标函数满足一定约束条件时在某种意义下的最优化问题。由于现实世界的大量问题，都可归结为含有多个目标的最优化问题，自70年代以来，对于多目标最优化的研究，在国内和国际上都引起了人们极大的关注和重视。特别是近10多年来，理论探索不断深入，应用范围日益广泛，研究队伍迅速壮大，显示出勃勃生机。同时，随着对社会经济和工程设计中大型复杂系统研究的深入，多目标最优化的理论和方法也不断地受到严峻挑战并得到快速发展。近几年来，将遗传算法(Genetic Algorithm，GA)应用于多目标优化问题成为研究热点，这种算法通常称作多目标优化进化算法或多目标优化遗传算法。由于遗传算法的基本特点是多方向和全局搜索，这使得带有潜在解的种群能够一代一代地维持下来。从种群到种群的方法对于搜索Pareto解来说是十分有益的。 一般说来，科学研究与工程实践中许多优化问题大都是多目标优化问题。多目标优化问题中各目标之间通过决策变量相互制约，对其中一个目标优化必须以其它目标作为代价，而且各目标的单位又往往不一致，因此很难客观地评价多目标问题解的优劣性。与单目标优化问题的本质区别在于，多目标优化问题的解不是唯一的，而是存在一个最优解集合，集合中
我对智能优化算法的认识 20世纪70年代以来，随着仿生学、遗传学和人工智能科学的发列展，形成了一系列新的优化算法——智能优化算法。智能优化算法是通过模拟某一自然现象或过程而建立起来的，他们具有适于高度并行、自组织、自学习与自适应等特征，为解决复杂问题提供了一种新的途径。它们不需要构造精确的数学方法，不需要进行繁杂的搜索，同大连简单的信息传播和演变方法来得的问题的最优解。 传统的智能优化算法包括进化算法、粒子群算法、禁忌搜索、分散搜索、模拟退火、人工模拟系统、蚁群算法、遗传算法、人工神经网络技术等等。随着智能优化算法的发展出现了一些新的算法如：萤火虫算法，随着遇到事物的复杂性显现出混合智能优化算法的优势。这些算法在农业、电子科技行业、计算机应用中有很大的作用。 在查看资料后，我发现传统的智能优化算法应用较广泛些。在2009年发表的一篇论文中，讲到了遗传算法可以成功解决函数优化问题。其上提到，利用遗传算法，根据函数创造一系列个体，计算适应度函数，模拟“优胜劣汰”的自然法则，选择优良个体交叉、随机产生后代等步骤解决函数优化问题。其中还提出了用蚁群算法求解传统方法难以解决的非凸、非线性非连续的优化问题。 11年发表的《浅谈几种智能优化算法》中介绍了几种典型传统的智能优化算法，并对它们（遗传算法、蚁群算法和粒子群算法等）做了详尽的分析，让人们对这几种算法有更深刻的认识。近年来，这些算法在运筹学、管理科学中也有重要的应用。另外，从近几年
发表论文可以看出典型的智能优化算法在解决传统难题方面的优势，及其广泛的应用。如蚁群算法在静态组合优化中可用来解决TSP 问题、QAP、JSP、VRP等；在动态组合优化中用于解决路由问题、电子系统故障诊断、模糊系统和设计无限数字响应器等。 随着其应用的的广泛，出现了一些新的算法，如微粒子群算法，可应用于化学过程的动态分析，蛋白质序列的模拟及光纤通信。还有95年提出的蜂群算法，该算法可应用于解决作业车间调度问题。02年提出的人工鱼群算法，在组合优化、参数估计、PID控制器的参数整定及神经网络优化等方面都有重要意义。 通过查看资料学习，我了解了智能优化算法在交通、物流、人工神经网络优化、生产调度、电力系统优化及电子科技行业的重要作用及应用，对智能优化算法的意义有更深刻的认识；有机会的话我会继续了解其发展和应用。 参考文献： [1]高炜欣，穆向阳，汤楠，等.Hopfield 神经网络在机组组合问题中的应用[J].计算机应用，2009，4：1028- 1031. [2]张炯，刘天琪，苏鹏，等.基于遗传粒子群混合算法的机组组合优化[J].电力系统保护与控制，2009，9（29）：25- 29. [3]刘海江，张春伟，徐君杰，等．基于遗传算法的白车身焊接机器人焊点分配[J]．同济大学学报(自然科学版)，2010，38(5)：725－728． [4]海丽切木?阿布来提.浅谈几种智能优化算法[J].电脑知识与技术,2011,中图分类号：TP301 文献标识码：A 文章编号：1009-3044(2011)19-4628-03.
多目标优化的求解方法 多目标优化（MOP）是数学规划的一个重要分支，是多于一个的数值目标函数在给定区域上的最优化问题。 多目标优化问题的数学形式可以描述为如下： 多目标优化方法本质是将多目标优化中的各分目标函数，经处理或数学变换，转变成一个单目标函数，然后采用单目标优化技术求解。目前主要有以下方法： （1）评价函数法。常用的方法有:线性加权和法、极大极小法、理想点法。评价函数法的实质是通过构造评价函数式把多目标转化为单目标。 （2）交互规划法。不直接使用评价函数的表达式，而是使决策者参与到求解过程，控制优化的进行过程，使分析和决策交替进行，这种方法称为交互规划法。常用的方法有：逐步宽容法、权衡比替代法，逐次线性加权和法等。 （3）分层求解法。按目标函数的重要程度进行排序，然后按这个排序依次进行单目标的优化求解，以最终得到的解作为多目标优化的最优解。 而这些主要是通过算法来实现的, 一直以来很多专家学者采用不同算法解决多目标优化问题, 如多目标进化算法、多目标粒子群算法和蚁群算法、模拟退火算法及人工免疫系统等。
在工程应用、生产管理以及国防建设等实际问题中很多优化问题都是多目标优化问题, 它的应用很广泛。 1)物资调运车辆路径问题 某部门要将几个仓库里的物资调拨到其他若干个销售点去, 在制定调拨计划时一般就要考虑两个目标, 即在运输过程中所要走的公里数最少和总的运输费用最低, 这是含有两个目标的优化问题。利用首次适配递减算法和标准蚁群算法对救灾物资运输问题求解, 求得完成运输任务的最少时间, 将所得结果进行了比较。 2)设计 如工厂在设计某种新产品的生产工艺过程时, 通常都要求产量高、质量好、成本低、消耗少及利润高等, 这就是一个含有五个目标的最优化问题; 国防部门在设计导弹时, 要考虑导弹的射程要远、精度要最高、重量要最轻以及消耗燃料要最省等,这就是一个含有四个目标的最优化问题。Jo等人将遗传算法与有限元模拟软件结合应用于汽车零件多工序冷挤压工艺的优化。Chung等人也成功应用遗传算法对锻件工艺进行了优化。 3)投资 假设某决策部门有一笔资金要分配给若干个建设项目, 在确定投资方案时, 决策者总希望做到投资少收益大。Branke等人采用基于信封的多目标进化算法成功地解决了计划投资地选择问题。 4)模拟移动床过程优化与控制 一个工业化模拟移动床正常运行时, 一般有七股物料进、出吸附塔, 其中起关键作用的物料口将作为决策量引起目标值的变化。根据实际生产要求通常包括生产率、产品纯度、吸附剂消耗量等多个目标。模拟移动床分离过程由于其过程操作变量的强耦合性、工艺机理的复杂性及分离性能的影响因素繁多性, 需要众多学者对其操作优化和过程控制进行深入的研究。Huang等人利用TPS 算法解决了模拟移动床多个冲突目标的最大最小的问题, 并与NSGA2 算法的结果进行了比较。吴献东等人运用粒子群算法开发出一种非线性模拟移动床( SMB )色谱分离过程的优化策略。 5)生产调度 在离散制造生产系统中, 一个工件一般经过一系列的工序加工完成, 每道工序需要特定机器和其他资源共同完成, 各工件在各机器上的加工顺序(称技术约束条件)通常是事先给定的。车间调度的作用
群体智能方法在最优化问题的应用和发展前景 姓名：曾燕亭学号：201110510133 班级：11计科1班 摘要：将遗传算法解决最优化问题，即将最优化问题转化为求解目标函数的最优解问题。关键词：遗传算法；最优化 1.定义 1.1定义及原理 顾名思义，群体智能即群其实质是将物理问题数字化，体产生的智能，与集体智慧类似。我们可以从两个方面来理解群体智能的含义。一方面，群体智能是自然界广泛存在的一种现象，指大量简单个体构成的群体按照简单的交互规则相互协作，完成了其中任何一个个体不可能单独完成的复杂任务。以蚁群为例，正如斯坦福大学生物学家D．Gordon的概括：蚂蚁很笨，但蚁群很聪明。另一方面，人们通过对这些群体行为的研究，逐步形成了群体智能理论，即研究大量个体的简单行动如何成为群体的高智能行为的理论。群体智能理论自20世纪80年代出现以来便吸引了众多研究者的关注，是人工智能及经济、社会、生物等交叉学科的热点和前沿领域，因此设计高效的优化算法成为众多科研工作者的研究目标。随着人类对生物启发式计算的研究, 一些社会性动物( 如蚁群、蜂群、鸟群) 的自组织行为引起了科学家的广泛关注。这些社会性动物在漫长的进化过程中形成了一个共同的特点: 个体的行为都很简单, 但当它们一起协同工作时, 却能够“突现”出非常复杂的行为特征。基于此,人们设计了许多优化算法,例如蚁群算法、粒子群优化算法、混合蛙跳算法、人工鱼群算法,并在诸多领域得到了成功应用。目前, 群智能理论研究领域主要有两种算法: 蚁群算法和粒子群优化算法。 群集智能优化算法源于对自然界的生物进化过程或觅食行为的模拟。它将搜索和优化过程模拟成个体的进化或觅食过程，用搜索空间中的点模拟自然界中的个体；将求解问题的目标函数度量成个体对环境的适应能力；将个体的优胜劣汰过程或觅食过程类比为搜索和优化过程中用好的可行解取代较差可行解的迭代过程。从而，形成了一种以“生成+检验”特征的迭代搜索算法，是一种求解极值问题的自适应人工智能技术。各类优化算法实质上都是建立问题的目标函数，求目标函数的最优解，因而实际工程优化问题均可转化为函数优化问题。其表达形式如下： 求：
华中科技大学博士学位论文 目录 摘要............................................................I Abstract..........................................................III 目录............................................................VI 1绪论 1.1研究背景与意义 (1) 1.2高维多目标优化研究现状 (4) 1.3研究趋势与展望 (10) 1.4预备知识 (11) 1.5本文主要工作与组织结构 (15) 2非规则前沿面高维多目标问题优化算法 2.1引言 (19) 2.2非规则前沿面高维多目标问题优化算法 (21) 2.3算法测试与结果分析 (31) 2.4汽车碰撞可靠性设计 (38) 2.5本章小结 (39) 3多样性保持高维多目标优化算法 3.1引言 (41) 3.2雷达映射介绍与分析 (44) 3.3多样性保持高维多目标优化算法 (47) 3.4算法测试与结果分析 (56) 3.5本章小结 (68) 4昂贵高维多目标问题优化算法 4.1引言 (71) 4.2昂贵高维多目标优化算法 (74) 4.3优化算法分析 (82) 4.4算法测试与结果分析 (86) 4.5本章小结 (98)
华中科技大学博士学位论文 5基于多目标优化光伏最大功率点追踪方法 5.1引言 (100) 5.2光伏系统离线MPPT控制器 (102) 5.3基于RSEA的MPPT算法 (102) 5.4仿真实验对比与分析 (108) 5.5本章小结 (112) 6基于高维多目标优化的高阶滤波器设计 6.1引言 (113) 6.2滤波器介绍及高维多目标问题构造 (115) 6.3高阶滤波器设计方法 (120) 6.4实验结果与分析 (123) 6.5本章小结 (128) 7总结与展望 7.1全文总结 (129) 7.2尚待研究的工作 (130) 致谢 (132) 参考文献 (134) 附录1攻读学位期间发表和撰写的学术论文 (149) 附录2博士学位论文章节内容与博士期间论文的关系 (151) 附录3攻读博士学位论文期间参加的科研课题 (152) 附录4攻读博士学位期间申请专利 (153)
ll一、写出遗传算法中的两种交叉运算方法，并分别举例说明。 解：双亲双子法（两父代交叉位之后的全部基因互换）、变化交叉法（从不相同的基因开始选取交叉位，之后的方法同双亲双子法）、多交叉位法（间隔交换）、双亲单子法（2选1）、显性遗传法（按位或）、单亲遗传法（2-opt）等，例子见课本175-179。 二、什么是P问题，什么是NP问题？智能优化算法主要是针对什么问题而提出的？ 解：（1）P问题 （2）NP问题 （3）NP-C问题和NP-Hard问题 （4）智能优化算法主要是针对组合优化问题而提出的。 三、描述组合优化问题中的一个典型例子，并建立其数学模型。 解：（1）旅行商问题（Traveling Salesman Problem，TSP）
（2）背包问题 （3）并行机排序问题
四、描述模拟退火算法中的接收准则。 解：在一给定温度下，由一个状态变到另一个状态，每一个状态到达的次数服从一个概率分布，即基于Metropolis 接受准则的过程，该过程达到平衡时停止。在状态s i 时，产生的状态s j 被接受的概率为： 1, ()()()exp(),()()i j ij ij i j if f s f s A t f if f s f s t ≥?? =??-
Step 1. 构造函数逼近的能量函数，使得能量函数有好的稳定性，如Err(w)； Step 2. 由能量函数Err(w)，根据 () i i dz Err dt y ? -= ? w 求解出动力系统方程 ； Step 3. 用数值计算的方法求解动力系统方程的平衡点，用定理判断平衡点是否为稳定点或渐近稳定点，网络达到稳定状态即达到极小值。 七、用遗传算法解决实数编码求连续函数优化问题，写出一种变异的运算方法。解： 再用单点变异法或多点变异法即可完成实数码的变异方法。（随机选一个或几个变异位取反） 八、为什么学“智能优化算法”？学习之后有什么感想？对本课程考核方法有什么建议。 答：最优化问题使人们在工程实践中，科学研究和经济管理等诸多领域中经常遇到的问题。