二阶修正的约束变尺度算法

word 教育资料优化设计复习题一、单项选择题(在每小题列出的选项中只有一个选项是符合题目要求的)1.多元函数F(X)在点X *附近偏导数连续， F ’(X *)=0且H(X *)正定，则该点为F(X)的（ ） ①极小值点 ②极大值点 ③鞍点 ④不连续点 2.F(X)为定义在n 维欧氏空间中凸集D 上的具有连续二阶偏导数的函数，若H(X)正定，则称F(X)为定义在凸集D 上的（ ） ①凸函数 ②凹函数 3.黄金分割法中，每次缩短后的新区间长度与原区间长度的比值始终是一个常数，此常数是（ ） ①0.382 ②0.186 ③0.618 ④0.816 4.在单峰搜索区间[x 1,x 3](x 1<x 3)内，取一点x 2，用二次插值法计算得x 4(在[x 1,x 3]内)，若x 2>x 4,并且其函数值F （x 4）<F(x 2)，则取新区间为（ ） ①[x 1,x 4] ②[x 2,x 3] ③[x 1,x 2] ④[x 4,x 3] 5.用变尺度法求一n 元正定二次函数的极小点，理论上需进行一维搜索的次数最多为（ ） ①n 次 ②2n 次 ③n+1次 ④2次6.下列特性中，梯度法不具有的是（ ） ①二次收剑性 ②要计算一阶偏导数 ③对初始点的要求不高 ④只利用目标函数的一阶偏导数值构成搜索方向 8.对于极小化F(X)，而受限于约束g μ(X)≤0(μ=1,2,…,m)的优化问题，其内点罚函数表达式为（ ） ① Ф(X,r (k))=F(X)-r(k)11/()gX u u m=∑② Ф(X,r (k))=F(X)+r(k)11/()gX u u m =∑③ Ф(X,r (k))=F(X)-r(k)max[,()]01gX u u m=∑④ Ф(X,r (k))=F(X)-r (k)min[,()]01g X u u m=∑9.外点罚函数法的罚因子为（ ） ①递增负序列 ②递减正序列 ③递增正序列 ④递减负序列 10．函数F （X ）为在区间［10，20］内有极小值的单峰函数，进行一维搜索时，取两点13和16，若F （13）<F （16），则缩小后的区间为（ ） ①［10,16］ ②［10,13］ ③［13,16］ ④［16，20］ 11．多元函数F （X ）在X ＊处存在极大值的充分必要条件是：在X *处的Hesse 矩阵（ ） ①等于零 ②大于零 ③负定 ④正定 12．对于函数F （x ）=x 21+2x 22，从初始点x (0)={1,1}T 出发，沿方向s (0)={-1,-2}T进行一维搜索，最优步长因子为（ ）①10／16 ②5／9 ③9／34 ④1／213．目标函数F （x ）=x 21+x 22－x 1x 2，具有等式约束，其等式约束条件为h(x)=x 1+x 2-1=0,则目标函数的极小值为（ ） ①1 ②0.5 ③0.25 ④0.1 14. 优化设计的自由度是指( )① 设计空间的维数 ② 可选优化方法数 ③ 所提目标函数数 ④ 所提约束条件数 15. 在无约束优化方法中，只利用目标函数值构成的搜索方法是( ) ①梯度法 ② Powell 法 ③共轭梯度法 ④变尺度法 17. 利用0.618法在搜索区间［a,b ］内确定两点a 1=0.382,b 1=0.618，由此可知区间［a,b ］的值是( ) ①［0,0.382］ ② ［0.382,1］ ③ ［0.618,1］④ ［0,1］18. 已知函数F(X)=x 12+x 22-3x 1x 2+x 1-2x 2+1，则其Hesse 矩阵是( ) ① ⎥⎦⎤⎢⎣⎡--2332 ② ⎥⎦⎤⎢⎣⎡2332③ ⎥⎦⎤⎢⎣⎡2112 ④ ⎥⎦⎤⎢⎣⎡--3223 19. 对于求minF(X)受约束于g i (x)≤0(i=1,2,…,m)的约束优化设计问题，当取λi ≥0时，则约束极值点的库恩—塔克条件为( )①()i i 1F X g (X)mi λ=∇=∇∑,其中λi 为拉格朗日乘子② ()i i 1F X =g (X)mi λ=-∇∇∑,其中λi 为拉格朗日乘子③ ()i i 1F X g (X)qi λ=∇=∇∑,其中λi 为拉格朗日乘子，q 为该设计点X 处的约束面数④()i i 1F X g (X)qi λ=-∇=∇∑,其中λi 为拉格朗日乘子，q 为该设计点X 处的约束面数20. 在共轭梯度法中，新构造的共轭方向S (k+1)为( ) ① S (k+1)= ∇F(X (k+1))+β(k)S (K)，其中β(k)为共轭系数② S (k+1)=∇F(X (k+1))－β(k)S (K)，其中β(k)为共轭系数 ③ S (k+1)=-∇F(X (k+1))+β(k)S (K)，其中β(k)为共轭系数④ S (k+1)=-∇F(X (k+1))－β(k)S (K)，其中β(k)为共轭系数 21. 用内点罚函数法求目标函数F(X)=ax+b 受约束于g(X)=c-x ≤0的约束优化设计问题，其惩罚函数表达式为( ) ① (k)1ax b r c-x+-，r (k)为递增正数序列② (k)1ax b r c-x +-，r (k)为递减正数序列 ③ (k)1ax b r c-x ++，r (k)为递增正数序列word 教育资料④ (k)1ax b r c-x++，r (k)为递减正数序列22. f(x)在区间［x 1,x 3］上为单峰函数，x 2为区间中的一点，x 4为利用二次插值法求得的近似极值点，若x 4-x 2＜0,且f(x 4)≥f(x 2)，则新的搜索区间为( )① ［x 1,x 4］ ② ［x 2,x 3］ ③ ［x 1,x 2］ ④［x 4,x 3］23. 已知F(X)=x 1x 2+2x 22+4,则F(X)在点X (0)=⎭⎬⎫⎩⎨⎧-11的最大变化率为( )① 10 ② 4 ③ 2 ④ 1024.试判别矩阵1111⎡⎣⎢⎤⎦⎥，它是（ ）矩阵 ①单位 ②正定矩 ③负定 ④不定 ⑤半正定 ⑥半负定 25.约束极值点的库恩——塔克条件为：-∇=∇=∑F X g Xii qi()()**λ1，当约束函数是g i (X)≤0和λi>0时，则q 应为（ ）①等式约束数目 ②不等式约束数目 ③起作用的等式约束数目 ④起作用的不等式约束数目26.在图示极小化的约束优化问题中，最优点为（ ） ①A ②B ③C ④D27.内点罚函数(X,r (k))=F(X)-r (k)101g X g X u u u m(),(())≤=∑，在其无约束极值点X ·(r (k))逼近原目标函数的约束最优点时，惩罚项中（ ） ①r (k)趋向零，11g X u u m()=∑不趋向零 ②r (k)趋向零，11g X u u m()=∑趋向零 ③r (k)不趋向零，11g X u u m()=∑趋向零 ④r (k)不趋向零，11g X u u m()=∑不趋向零 29.0.618法在迭代运算的过程中，区间的缩短率是（ ）①不变的 ②任意变化的 ③逐渐变大 ④逐渐变小 30.对于目标函数F(X)受约束于g u (X) ≤0(u=1,2,…，m)的最优化设计问题，外点法惩罚函数的表达式是（ ）①()()(k)(k)2()1X,M F X M {max[(),0]},mk u u g X M =Φ=+∑为递增正数序列②()()(k)(k)2()1X,M F X M {max[(),0]},mk u u g X M =Φ=+∑为递减正数序列③()()(k)(k)2()1X,M F X M {min[(),0]},mk u u g x M =Φ=+∑为递增正数序列 ④()()(k)(k)2()1X,MF X M {min[(),0]},mk uu g x M=Φ=+∑为递减正数序列31.对于二次函数F(X)=12X T AX+b T X+c,若X *为其驻点，则▽F(X *)为（ ）①零 ②无穷大 ③正值 ④负值 32.在约束优化方法中，容易处理含等式约束条件的优化设计方法是（ ）①可行方向法 ②复合形法 ③内点罚函数法 ④外点罚函数法33．已知F(X)=(x 1-2)2+x 22,则在点X (0)=00⎧⎨⎩⎫⎬⎭处的梯度为（ ）①∇=⎧⎨⎩⎫⎬⎭F X ()()000 ②∇=-⎧⎨⎩⎫⎬⎭F X ()()020 ③∇=⎧⎨⎩⎫⎬⎭F X ()()040 ④∇=-⎧⎨⎩⎫⎬⎭F X ()()04034．Powell 修正算法是一种（ ）①一维搜索方法②处理约束问题的优化方法③利用梯度的无约束优化方法④不利用梯度的无约束优化方法 二、多项选择题(在每小题列出的多个选项中有两个以上选项是符合题目要求的，多选、少选、错选均无分) 35.下列矢量组中，关于矩阵A=105051--⎡⎣⎢⎤⎦⎥..共轭的矢量组是（ ）①s 1={0 1} ,s 2={1 0}T②s 1={-1 1}T ,s 2={1 1}T③s 1={1 0}T ,s 2={1 2}T④s 1={1 1}T ,s 2={1 2}T⑤.s 1={1 2}T ,s 2={2 1}T36. 对于只含不等式约束的优化设计问题，可选用的优化方法有( )① Powell 法 ② 变尺度法 ③ 内点罚函数法 ④ 外点罚函数法E. 混合罚函数法37. 根据无约束多元函数极值点的充分条件，已知驻点X*，下列判别正确的是( )①若Hesse矩阵H(X*)正定，则X*是极大值点②若Hesse矩阵H(X*)正定，则X*是极小值点③若Hesse矩阵H(X*)负定，则X*是极大值点④若Hesse矩阵H(X*)负定，则X*是极小值点⑤若Hesse矩阵H(X*)不定，则X*是鞍点38.下述Hesse矩阵中，正定矩阵为（）①3335⎡⎣⎢⎤⎦⎥②313153337⎡⎤⎢⎥-⎢⎥-⎢⎥⎣⎦③3445⎡⎣⎢⎤⎦⎥④245434542⎡⎤⎢⎥⎢⎥⎢⎥⎣⎦⑤523222327⎡⎤⎢⎥⎢⎥⎢⎥⎣⎦39.F(X)在区间［a,b］上为单峰函数，区间内函数情况如图所示：F1=F2。

第四节多维无约束优化方法4.1最速下降法（梯度法）x，使f(x)minf(x+α对于多元函数，求极小点k+1k+1)=minf(x k kS k)，需要确定两个内容：步长αk，方向S k，不同的搜索方向导致了不同的优化方法。

主要有：梯度法、共轭导致了不同的优化方法主要有：梯度法共轭梯度法、牛顿法、变尺度法、坐标轮换法、Powell法。

z思想函数值变化最快的方向是其梯度方向，而且负梯度方向是函数值下降最快的方向。

故沿负梯度方向搜索。

方向是函数值下降最快的方向故沿负梯度方向搜索z迭代格式z步骤1）给定初始点，迭代精度，维数。

2）置0→k。

3）确定搜索方向：计算迭代点x k的剃度，以及剃度的模，进而确定搜索方向s k。

4）求最优步长αk：从x k点出发，沿负剃度方向进行维搜索求最优步长α，f(xαS)min f(xαS)。

一维搜索求最优步长k k+k k＝min f(x k+k5）检验是否满足终止条件，若满足，终止迭代，输k→x*k)→f(x*)，否则，进入下一步出最优解x x，f(x f(x)，否则，进入下步。

6）计算新的迭代点x k＋1＝x k+αk S k。

z搜索路线z特点1）迭代过程简单，存储量小，对初始点的选择要求低；2）在远离函数极小点的地方，函数值下降较快。

但是，由于所谓的最速下降方向函数在某点的负剃度方是，由于所谓的最速下降方向－函数在某点的负剃度方向，仅是对该点而言，一旦离开了这点，其方向就不再是最速方向了。

因而在这个优化过程中，沿某点的负剃是最速方向了因而在这个优化过程中沿某点的负剃度方向寻优，并不总是具有最速下降方向的性质。

因此，从局部看，在一点附近函数的下降是最快的，但从整体从局部看在点附近函数的下降是最快的但从整体看，函数的下降并不算快，而且越是接近极值点，收敛越慢。

越慢3）应用该方法可使目标函数在头几步下降很快，因此可以与其他无约束优化方法配合使用。

例子z目标函数f(x)=60-10x1-4x 2+x 12+x 22-x 1x 2，设初始点[00]精度001用梯度法求极小点和极小x 0=[0 0]T ，精度ε=0.01，用梯度法求极小点和极小值。

2 做直线搜索 zk 1 LS( zk , - gk ), 计算f k 1 f ( zk 1 ), gk 1 g ( zk 1 ); 3 判定终止准则H是否满足，若满足则打印最优解 z k+1 , f k+1， 终止。否则转2。 将最速下降法用于具有对称正定矩阵Q的二次函数： 1 T f ( z ) z Qz bT z c，可以推出步长公式来 : 2 设第 k 次迭代点为zk 。下面求zk 1的表达式:
f z k f z k 1 f z k f z k f zk
但λ到底取多大，没有统一的标准， λ取小了，收敛太慢，而λ取大 了，又会漏掉极小点。
1 T f ( z ) z Qz , 定理：对于二次函数 2
四 用于二次函数时的收敛速度
为了清除最优步长最速下降法中两个搜索方向正交的不良 后果，人们发明了不少方法，如： （1）选择不同初始点。
例如：对问题： min
取初点
为求 z1 ，沿 f z0 方向从 z0 出发求 f z 的极点，即在线 搜索 min f ( z0 tf z0 )
f ( z) x 25x T z0 2,2 f z0 104 , f z0 4,100T

2 T

* T z ( 0 , 0 ) z 然后再从 1开始迭代，经过10次迭代，近似得最优解
f ( z1 ) 3.686164 .
计算中可以发现，开始几次迭代，步长比较大，函数值下将降 较快但当接近最优点时，步长很小，目标函数值下降很慢。如 T ,0)T虽然后一初点较前一 果不取初点为 z0 (2,2) 而取 z0 (100 初点离最优点 z * (0,0)T 远，但迭代中不出现锯齿现象。这时：

一阶导数
变尺度法
d k = − Ak g k
A =A
k
k −1
+ ∆A
k −1
一阶导数，使 A k ≈ [G k ]−1
(d j )T ( g k − g k +1 ) = (d j )T G ( x k +1 − x k ) = 0
取 d k = x k +1 − x k 这说只要沿dj 方向分别对函作两次一维搜索， 得到两个极小点xk 和xk+1 ，那么这两点的连线 所给出的方向dk就是与dj一起对G共轭的方向。
k x0k , xnk , xn+1（ xnk+1 = xnk + ( xnk − x0k ) = 2 xnk − x0k ）
分别称为一轮迭代的始点、终点和反射点 。
f i = f ( xik ) (i = 0,1, 2,L, n) 记：
∆ i = f i −1 − f i (i = 1, 2,L, n)
因此 F0 = f 0 , F2 = f n
则在循环中函数下降最多的第m次迭代是
∆ m = max ∆ i = f m−1 − f m
1≤i ≤ n
k 相应的方向为d m 。
为了构成共轭性好的方向组，须遵循下列准则： 在k次循环中，若满足条件：
F3 < F0
和 ( F0 − 2 F2 + F3 )( F0 − F2 − ∆ m ) 2 < 0.5∆ m ( F0 − F3 ) 2
1 d3 方向进行一维搜索得 沿
4 x = 2
2
f ( x 2 ) = −8
检验终止条件
x 2 − x02 = (4 − 3.8) 2 + (2 − 1.7) 2 = 0.36 > ε