运筹学(最优化方法)第六章无约束优化信赖域法
- 格式:pptx
- 大小:1.12 MB
- 文档页数:24
2012-2013(1)专业课程实践论文信赖域法董文峰,0818180123,R数学08-1班伊广旭,0818180113,R数学08-1班李超,0818180114,R数学08-1班一、算法理论信赖域方法与线搜索技术一样, 也是优化算法中的一种保证全局收敛的重要技术. 它们的功能都是在优化算法中求出每次迭代的位移, 从而确定新的迭代点.所不同的是: 线搜索技术是先产生位移方向(亦称为搜索方向), 然后确定位移的长度(亦称为搜索步长)。
而信赖域技术则是直接确定位移, 产生新的迭代点。
信赖域方法的基本思想是:首先给定一个所谓的“信赖域半径”作为位移长度的上界,并以当前迭代点为中心以此“上界”为半径确定一个称之为“信赖域”的闭球区域。
然后,通过求解这个区域内的“信赖域子问题”(目标函数的二次近似模型) 的最优点来确定“候选位移”。
若候选位移能使目标函数值有充分的下降量, 则接受该候选位移作为新的位移,并保持或扩大信赖域半径, 继续新的迭代。
否则, 说明二次模型与目标函数的近似度不够理想,需要缩小信赖域半径,再通过求解新的信赖域内的子问题得到新的候选位移。
如此重复下去,直到满足迭代终止条件。
信赖域方法解决无约束线性规划f(x)R x ∈min的基本算法结构。
设k x 是第k 次迭代点,记)f(x f k k =,)f(x g k k ∇=,k B 是Hesse 阵)f(x k 2∇的第k 次近似,则第k 次迭代步的信赖域子问题具有如下形式:,21g (d)min T k d B d d q k T k += k d t s ∆≤..其中k ∆是信赖域半径,•是任一种向量范数,通常取2-范数或∞-范数。
定义k f ∆为f 在第k 步的实际下降量:),d f(x f Δf k k k k +=-定义k q ∆对应的预测下降量:()().-0k k k k d q q q =∆定义他们的比值为:kk k q f r ∆∆= 一般的,我们有0>∆k q 。
最优化方法信赖域方法Trusted Domain Method of Optimization Methods一、概述信赖域(Trusted Domain)法是一种针对多目标最优化问题的优化方法,属于启发式优化技术,又被称为受信域法(Credible Domain)法或者受信域增强法(Credible Domain Enhancement)。
它由A.K.Chentsov在1980年提出,目前已经在工业优化、控制优化、混合模糊优化等领域有广泛的应用。
信赖域法使多目标最优化问题中的搜索变得更加有效和快捷,可以很好地处理多目标最优化问题中的非凸性和高维问题,使最优解更容易被获取。
二、原理信赖域方法优化的原理是:在解空间中划分子空间,在每个子空间中进行最优优化,同时进行领域大小的优化,以找到最优解。
(1)划分的子空间划分的子空间由一组不可分割的解空间,即称为“信赖域(Trusted Domain)”确定,有一种收敛性的在同一信赖域上的解空间集合,该信赖域中必须包含一个或多个最优解点。
(2)之分的子空间有效性在信赖域中,有一种收敛性的解空间,该解空间必须包含一个或多个最优解点,且此处解的收敛性可以满足要求。
由此可以看出,划分的子空间有效的充分利用解空间,能够使对最优解的搜索效率更高,更快地找到最优解。
(3)领域大小的优化在划分解空间时,信赖域方法重点考虑领域大小的优化,以缩小搜索空间大小,并引导搜索过程朝最优解的方向发展。
三、应用1.工业优化信赖域方法已经在工业优化领域得到应用,使多目标工业优化问题中的搜索更加有效和快捷,可以很好地处理多目标最优化问题中的非凸性和高维问题,使最优解更容易被获取。
2.控制优化由于信赖域方法能够有效地处理多目标非凸性和高维问题,因此已经在控制优化中得到应用,用于设计准确性好的控制系统。
3.混合模糊优化信赖域方法在混合模糊优化领域也有应用,可以用来解决特殊类型的模糊控制优化问题,来有效地提高优化中的效率和准确性。