最优化原理与方法课后习题2

满足f()<max{f(),f()}, 证明：不妨设<,则<
“必要性” 若 则由单谷函数定义知 故有
“充分性” 由，的任意性取=时，f()>f() 则>>= 且f()<f() 若取 =时, f()>f()
=<< 且 f()<f() 满足单谷函数的定义
二、设<, 1)证明:满足条件
的二次函数是（严格）凸函数 2）证明：由二次插值所得f(x)的近似极小值点（即的驻点）是
线性搜索得步长
从而 = 第二次迭代：
线性搜索得步长：
所以 最优解为 5、 用拟Newton法求解： min 取初始点
解：1）DFC法 取初始对称矩阵
第一次迭代： 计算得，
经一维线性搜索得：=0.25
置
第二次迭代 经一维线性搜索得：=6.25
故最优解为： 2）BFGS法
取定初始对称矩阵 第一次迭代： 计算得， 经一维线性搜索得：=0.25 同DFP法，初始修正矩阵 第二次迭代： 经一维线性搜索得： 故最优解为：
或者
证明：1）设= （） 则 由 得 或
故1）得证 2）的驻点为
或 三、设f(x)=试证：共轭梯度法的线性搜索中，有，其中 证明：由已知 ，得
令为t的凸二次函数。要使是的极小点即为驻点，故满足 而
= = = 故有
得 四、用共轭梯度法求解： min f(x)= , x 取初始点 解：易知
第一次迭代：
4、 设 ，b ，（j=1,2,….,n）考虑问题 Min f(x)= s.t.
(j=1,2,….,n) 1) 写出其Kuhn Tuker 条件
2) 证明问题最优值是 解：1）因 为目标函数的分母故
所以（j=1,…,n）都为0 所以Kuhn Tuker 条件为 即 +=0 2）将代入 h(x)=0 只有一点 得 故有 所以最优解是 五、使用Kuhn Tuker 条件，求问题 min f(x)= s.t. 的Kuhn Tuker 点，并验证此点为问题的最优解 解：x=(1/2,3/2) 故，=0 则 即
= 2) =( , )
= 3、 设f(x)=,取点.验证=(1,0,-1)是f(x)在点处的一个下降方向,并计算
f(+t) 证明: =
d=(1,0,-1)= -3<0 所以是f(x)在处的一个下降方向 f(+t)=f((1+t,1,1-t)) = f(+t)=6t-3=0 所以t=0.5>0 所以f(+t)=3*0.25-3*0.5+4=3.25
习题三
1、 给定问题 min s.t.
取初始点，用简约梯度法求其最优解 解：约束条件为
则，
= = 得
得
故为问题的K-T点 2、 用梯度投影法求解问题
min s.t. 取初始点 解： 迭代（1） 投影矩阵
故
故 Байду номын сангаас影矩阵
令 故 为其 K-T 点 3、用可行方向法求解问题 min s.t. 取初始点 解： 迭代一： 有效约束 确定下降方向
习题一
一、 考虑二次函数f(x)= 1) 写出它的矩阵—向量形式: f(x)= 2) 矩阵Q是不是奇异的? 3) 证明: f(x)是正定的 4) f(x)是凸的吗? 5) 写出f(x)在点=处的支撑超平面(即切平面)方程
解:1) f(x)= =+ 其中 x= ,Q= , b=
2) 因为Q= ,所以 |Q|==8>0 即可知Q是非奇异的 3) 因为|2|>0, =8>0 ,所以Q是正定的,故f(x)是正定的 4) 因为=,所以||=8>0,故推出是正定的,即 是凸的 5) 因为 =,所以=(5,11) 所以 f(x)在点处的切线方程为5()+11()=0 二、 求下列函数的梯度问题和Hesse矩阵 1) f(x)=2++ 2) f(x)=ln(+) 解: 1) = ( , )
而故 即其为最优解 六、在习题五的条件下证明 L() 其中 L（x,）=f(x)+ 证明：L()=f()+
= f() = f()++2)= = f()
=)
习题二
一、 设f(x)为定义在区间[a,b]上的实值函数，是问题min{f(x)|a} 的最优解。证明：f(x)是[a,b]上的单谷函数的充要条件是对 任意
min -4 s.t. i=1,2 解得 且其最优值为-6，即处的搜索方向
线性搜索
而
迭代2： 有效约束 确定下降方向 min s.t. i=1,2 得且其最优值为-2 线性搜索
而
迭代3： 有效约束 确定下降方向 min s.t. i=1,2 得 ，其最优值为线性搜索
而
迭代 4： 有效约束 确定下降方向 min s.t. i=1,2 得 ，其最优值为0 为K-T点