- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
2 例:证明函数f ( x) x14 2 x12 x2 x12 x2 4 x1 5在
点(2,4)处具有极小值。
第二章 优化设计的数学基础
第四节 凸集、凸函数和凸规划
全局极值点(最优点):
当极值点x*能使f(x*)在整个可行域中为最小值(最大 值)时,即在整个可行域中对任一 x都有f(x)≥f(x*) (或者f(x)≤f(x*) )时,则x* 就是全局极小点(全局极 大点)。
第二章 优化设计的数学基础
第四节 凸集、凸函数和凸规划
局部极值点(相对极值点):
若f(x*)为局部可行域中的极小值(极大值)而不 是整个可行域中的最小值(或最大值)时,则称x*为局 部极小点(局部极大点)。
第二章 优化设计的数学基础
第四节 凸集、凸函数和凸规划
函数的凸性(单峰性):
一个下凸的函数,它的极值点只有一个,并且该点既 是局部极值点也是全局极值点,我们就称这个函数具有 凸性。
G x0
第二章 优化设计的数学基础
第二节 多元函数的泰勒展开
正定矩阵:
T 如果对于任意 x 0,有二次型 x Ax 0成立,则矩阵A为正定矩阵; T 若二次型 x Ax 0,则矩阵A为半正定矩阵; T 相反,如果对于任意 x 0,有 x Ax 0,则矩阵A负定。
必 要 条 件 充 分 条 件
* 海赛矩阵G x 正定(负定), * 即G x 的各阶主子式均大于零(或负、正相间)
第二章 优化设计的数学基础
第三节 无约束优化问题的极值条件
多元函数f ( x) f ( x1 , x2 , , xn )在 * 点x ( x1 , x2 , , xn )T 处取得 极小值的充要条件是: 函数在该点的梯度为0, * 且海赛矩阵G x 正定, * 即G x 的各阶主子式均大于零。
* * * f (x ) f (x ) f (x ) 0, 0, , 0, x1 x2 xn * T * f ( x* ) f ( x* ) f (x ) 即梯度f ( x ) , , , 0 x1 x2 xn
第二章 优化设计的数学基础
第二节 多元函数的泰勒展开
矩阵正定与负定的判定:
正定:矩阵A正定的条件是A的各阶主子式大于零; 负定:矩阵A负定的条件是各阶主子式负、正相间。
第二章 优化设计的数学基础
第三节 无约束优化问题的极值条件
* 多元函数f ( x) f ( x1 , x2 ,, xn )在点x ( x1 , x2 , , xn ) T 处取得极值
2 1
二元函数:
x0
x0
x0
x0
2 f x1x2 x2 2
x0
x …
2 2
其中,x1 x1 x10,x2 x2 x20
二元函数泰勒展开式的矩阵形式:
f f x f x0 x1
f x2 x
0
解:
梯度方向,用单位向量 p 表
是梯度的模 。
函数变化率最大的方向就是
f x 2 x 4 4 1 1 f ( x 0 ) f 2 x2 2 0 2 x x 2 x0 f f f ( x 0 ) 2 5 x1 x2 f ( x 0 ) p f ( x 0 ) 2 5 1 5
2 2
示,函数变化率最大的数值就
第二章 优化设计的数学基础
第二节 多元函数的泰勒展开
一 元 函 数
f ( x)在x x0点处的泰勒展开式: 1 f ( x) f ( x0 ) f '( x0 )x f ''( x0 )x 2 … 2 其中,x x x0,x 2 ( x x0 )2
x0
f x2
cos 2
x0
x2
d
x20
θ2
X0
x1
θ1
x2
o
x10
x1
第二章 优化设计的数学基础
第一节 多元函数的方向导数和梯度
多元函数的方向导数:
n元函数f ( x1 , x2 , …, xn )在点x 0处沿方向d的方向导数可以表示成:
n f f f cos 1 cos 2 … cos n x2 x xn x i 1 xi x0 x0 0 0 其中, i是方向d与坐标轴xi 方向之间夹角的余弦。 cos
第二章 优化设计的数学基础
第一节 多元函数的方向导数和梯度
f T x f f 梯度: 二元函数f ( x1 , x2 )在点x0处的梯度是f ( x 0 ) 1 , f x1 x2 x0 x 2 x
工程优化设计
Mechanical optimization design
主讲:李熹平
教材:工程优化设计与MATLAB实现 清华大学出版社 联系方式:632097
第二章 优化设计的数学基础
第一节 多元函数的方向导数和梯度
一个多元函数可用偏导数的概念来研究函数沿各坐标方向 的变化率。 二元函数的偏导数: 一个二元函数f ( x1 , x2 )在点x0 ( x10 , x20 )处的偏导数是
4
,
3
, 2
6
第二章 优化设计的数学基础
第一节 多元函数的方向导数和梯度
f T x f f 梯度: 二元函数f ( x1 , x2 )在点x0处的梯度是f ( x 0 ) 1 , f x1 x2 x0 x 2 x
T
1 T x x G x0 x … 2
对称矩阵
G x0 是函数f ( x1 , x2 )在点x 0 ( x10 , x20 )处的海赛矩阵
第二章 优化设计的数学基础
第二节 多元函数的泰勒展开
多元函数泰勒展开式的矩阵形式:
f ( x) f x 0 f x 0
第二章 优化设计的数学基础
第二节 多元函数的泰勒展开
f ( x1 , x2 )在点x 0 ( x10 , x20 )处的泰勒展开式: f f ( x1 , x2 ) f ( x10 , x20 ) x1 f x1 x2 1 2 f x2 2 2 x1 2 f x 2 x1x2
f d
f x1
cos i
x0
第二章 优化设计的数学基础
第一节 多元函数的方向导数和梯度
例:设目标函数f ( x)
4 d1和d 2两个方向的方向导数。 f ( x1 , x2 )
x12 x2 , 求点x0 [1 1]T 处沿
向量d1的方向为:1 2 向量d 2的方向为:1
0
梯度的性质:
1)梯度是一个向量;
2)梯度方向是方向导数最大的方向,即函 数值变化最快(函数值变化率最大)的方向 ;
3)梯度方向是等值面(线)的法线方向 。
第二章 优化设计的数学基础
第一节 多元函数的方向导数和梯度
多元函数的梯度:
函数f ( x1 , x2 ,…, xn )在点x 0 ( x10 , x20 , …, xn0 )处的梯度是 f x 1 f x f 2 x1 f xn x0
f x1 f x2 f x10 x1 , x20 f x10 , x20 lim x1 0 x1 f x10 , x20 x2 f x10 , x20 lim x2 0 x2
x0
x0
第二章 优化设计的数学基础
第一节 多元函数的方向导数和梯度
方向导数:
称函数f ( x1 , x2 )在点x0 ( x10 , x20 )处沿某一方向d 的变化率为该函数沿此方向的方向导数, 公式可以表示为 f x10 x1 , x20 x2 f x10 , x20 f lim d x0 d 0 d
x1 1 x 2 x1 2
2 f x 2 1 x2 2 f x2 x1
2 f x1x2 2 f 2 x2 x 0
x1 x … 2
f x 0 f x 0
f x2
T
1 T x x G x0 x … 2
f f x 0 x1
f 是函数在该点的梯度 xn x0
T
第二章 优化设计的数学基础
第二节 多元函数的泰勒展开
多元函数的海赛矩阵:
2 f x 2 1 2 f x2 x1 2 f x x n 1 2 f x1x2 2 f 2 x2 2 f xn x2 2 f x1xn 2 f x2 xn 2 f 2 xn
多元函数f ( x) f ( x1 , x2 , , xn )在 * 点x ( x1 , x2 , , xn )T 处取得 极大值的充要条件是: 函数在该点的剃度为0, * 且海赛矩阵G x 负定,
即各阶主子式负、正相间。
第二章 优化设计的数学基础
第三节 无约束优化问题的极值条件
lim
f d
x0
f x1
cos 1
x0
f x2
cos 2
x0
d 0
f x10 x1 , x20 x2 f ( x10 x1 , x20 ) x2 lim d 0 x2 d f x1 cos 1