当前位置：文档之家 › 【精品】优化设计的数学基础(一)课件

【精品】优化设计的数学基础(一)课件

  • 格式：ppt
  • 大小：651.00 KB
  • 文档页数：7

下载文档原格式

  / 7

合集下载

优化设计的数学基础

优化设计的数学基础
f x f x*
所以函数f(x)在 x* 处取得局部极小值，称x*为
局部极小点。 而优化问题一般是要求目标函数在某一区域内 的全局极小点。 函数的局部极小点是不是一定是全局极小点呢？
图2-7 下凸的一元函数
一、凸集
一个点集（或区域），如果连接其中任意两点 x1 x2
的线段都全部包含在该集合内，就称该点集为凸集， 否则为非凸集。
梯度 F ( x0 ) 模：
1
F ( x0 )


n i1
( F xi
)2 x0
2
函数的梯度方向与函数等值面相垂直，也就是 和等值面上过x0的一切曲线相垂直。
由于梯度的模因点而异，即函数在不同点处的
最大变化率是不同的。因此，梯度是函数的一种局 部性质。
梯度两个重要性质：
在工程中大多数优化问题，可表示为不等式约束 条件的优化问题。
有必要引出非线性优化问题的重要理论，是不等式 约束的多元函数的极值的必要条件。
库恩-塔克（Kuhn-Tucker）条件
一、一元函数在给定区间上的极值条件
一元函数f(x)在给定区间[a,b]上的极值问题，可以 写成下列具有不等式约束条件的优化问题：
集R内任意不同两点x1 x2 ，不等式
f x2 f x1 x2 x1 T f x1
恒成立。
2f(x)为定义在凸集R上且具有连续二阶导数的 函数，则f(x)在R上为凸函数的充要条件
Hesse矩阵在R上处处半正定。
f x0
f
x (0) 1

x1,
x20

x2
f
x10 , x20
lim
d
0

优化设计的数学基础

优化设计的数学基础

a11 a12 a11 0, a11 a12 a21 a22 0, , a21 a22 an1 an 2
a1n a2 n ann 0
即矩阵A的各阶主子式均大于零。当矩阵A为正定时，其对应的二次型 为正定二次型。 如果实二次型 XTAX 中的矩阵A的各阶主子式负、正相间（即所 有奇数阶主子式小于零，而所有偶数阶主子式大于零），即
■ 函数的泰勒近似展开式和黑塞矩阵 ■ 无约束优化问题的极值条件 ■ 凸函数与凸规划 ■
约束优化问题的极值条件
2.1 二次型与正定矩阵
在介绍优化方法时，常常是将二次型函数作为对象。其原因除了 二次型函数在工程优化问题中有较多的应用且比较简单之外，还因为 任何一个复杂的多元函数都可采用泰勒二次展开式做局部逼近，使复 杂函数简化为二次函数。因此，需要讨论有关二次型函数的问题。
A 称为二次型矩阵，因为 aij = aji ，所以 A =AT，称为对称矩阵，
因此二次型矩阵都是对称矩阵。
2. 正定矩阵
在采用泰勒二次近似展开式讨论函数的极值时，常要分析二次型 函数是否正定或负定。二次型的正定与负定的定义简述如下： 如果对于任意的非零向量 X = [x1, x2, …，xn]T，即x1，x2，…，xn 不全为零，若有 XTAX > 0，则称此二次型 f (X)=XTAX 是正定二次 型， 其对应的矩阵A 称为正定矩阵； 若有 XTAX ≥0，则称此二次型 f (X) = XTAX 为半正定二次型，并称 其相应的矩阵A为半正定矩阵； 若有XTAX < 0，则称此二次型 f (X)=XTAX 为负定二次型，其对应 的矩阵A为负定矩阵。 矩阵A的正定与负定的判别，可用矩阵A的各阶顺序主子式的正负 来判别。矩阵A的正定条件是：
a1n a2 n ann

现代设计方法课件PPT 第2章 优化设计的数学基础

现代设计方法课件PPT 第2章 优化设计的数学基础
1 [ X X (1) ]T 2 f ( X (1) )[ X X (1) ] 2
3x2 6 6(x1 1)2 6x12 12x1 3x2
将 X (点 X (1) 的值相等。
重庆大学机械工程学院
5
现代设计方法——第2章 优化设计的数学基础
分析式（2-9）中的取值对方向导数 f ( X k) ) / S 影响，可知，在设计空间
中，凡是与梯度方向成锐角的方向函数值都增加；凡是与梯度方向成钝角的方
向函数值都减小；梯度 f (X ) 的方向为函数 f(X) 过 X (k) 点的等值线（或等值面）
的外法线方向。
Δ Δ Δ
x2
变化率为零的方向
下降方向
将代数式（2-6）写成矩阵形式，则有
f
(X (k) S
)
f
(X (k) x1
)
cos1
f
(X (k) x2
)
cos2
f ( X (k) )
x1
f ( X (k) ) cos1
x2
cos
2
f ( X (k) )
令
f ( X (k) )
x1
,
f ( X (k) )
S
cos1 cos2
当 X (k) 为函数的极小点时，有 f (X ) f (X (k) ) 0 ，故必有
[ X X (k) ]T 2 f ( X (k) )[ X X (k) ] 0
根据线性代数的二次型有关知识，上式说明函数的二阶导数矩阵必 须是正定的，这就是多元函数极小值的充分条件。故，多元函数在点 X (k) 取得极小值的充分必要条件是：函数在该点的梯度为零，海赛矩阵（二 阶导数矩阵）正定，即
求展开式的二次项

优化设计基础PPT讲稿

优化设计基础PPT讲稿

其中，x1 x1 x10，x2 x2 x20
二元函数泰勒展开式的矩阵形式：
f
x
f
x0
f x1
f x2
x0
x1
x2
1 2
x1
2 f
x2
x12 2 f
x2x1
f
x0
f
T
1T
x0 x x G
x0
x …
2
2 f
x1x2 2 f x22
x0
例：设目标函数f (x)
f (x1, x2 ) 4
x12 x2 , 求点x0
[1
1]T 处沿
d1和d2两个方向的方向导数。
向量d1的方向为：1
2
，
4
向量d2的方向为：1
3
，2
6
第二章 优化设计的数学基础
第一节 多元函数的方向导数和梯度
f
梯度：二元函数f
(x1, x2 )在点x0处的梯度是f
优化设计基础课件
第二章 优化设计的数学基础
第一节 多元函数的方向导数和梯度
一个多元函数可用偏导数的概念来研究函数沿各坐标方向 的变化率。
二元函数的偏导数：
一个二元函数f (x1, x2 )在点x0 (x10 , x20 )处的偏导数是
f lim f x10 x1, x20 f x10 , x20
(x0 )
x1
f
x2
x0
f
x1
T
f
,
x2
x0
方向导数与梯度的关系： f f (x0 )T d f (x0 ) cos(f , d) d x0
二元函数f
(
x1,
x2

优化设计的数学基础.ppt

优化设计的数学基础.ppt
hk (x) = 0 (k = 1, 2,L ,l )

引入拉格郎日乘子 l 函数
k
(k
=
1, 2,L ,l )
构成一个新的目标
l
å F (x, l ) = f (x ) + l khk (x )
k=1
将其作为一个新的无约束条件的目标函数来求解它 的极值点，所得结果就是原等式约束问题的极值点。
新的目标函数具有极值点的必要条件为
海赛矩阵
轾 犏 抖2 f 犏 犏 犏 犏 ¶抖x2 f12 G (x0 ) = 犏 犏 犏 犏抖x2Mx1 犏 犏 犏 犏 臌抖x抖n2 f x 1
2f
抖x1 x2
2f

x
2 2
M
2f 抖xn x2
?2f L 抖x1 xn
?2f L 抖x2 xn MM
?2f
L

x
2 n
x0
例题（一）
求二元函数f (x1, x2 ) =
x0
=
轾 犏 犏 臌抖抖xf1
fT x2 x0
称为函数f (x1, x2 )在x0 (x10, x20 ) 处的梯度
d
=
轾 犏cos q1 犏 犏 臌cos q2
称为d 方向单位向量
¶f ¶d
x0
=
?
f (x 0 )T d
2)二元函数梯度的几何解释
2)二元函数梯度的几何解释
2)二元函数梯度的几何解释
¶F = 0 (i = 1, 2,L , n)
¶ xi
¶F ¶l k
=
hk (x ) =
0
(k
=
1, 2,L ,l)
一共可得n+l个方程，从而可解得(x,)共n+l个未知

优化设计的数学基础

优化设计的数学基础

第二章 优化设计的数学基础优化设计中绝大多数是多变量有约束的非线性规划问题，即是求解多变量非线性函数的极值问题。

由此可见，优化设计是建立在多元函数的极值理论基础上的，对于无约束优化问题为数学上的无条件极值问题，而对于约束优化问题则为数学上的条件极值问题。

本章主要叙述与此相关的数学基础知识。

第一节 函数的方向导数与梯度一、函数的方向导数一个二元函数()21,x x F 在点()02010,x x X 处的偏导数，即函数沿坐标轴方向的变化率定义为：而沿空间任一方向S 的变化率即方向导数为：方向导数与偏导数之间的数量关系为依此类推可知n 维函数()n x x x F ,,,21 在空间一点()002010,,,n x x x X 沿S 方向的方向导数为二、函数的梯度 函数()X F 在某点X 的方向导数表明函数沿某一方向S 的变化率。

—般函数在某一确定点沿不同方向的变化率是不同的。

为求得函数在某点X 的方向导数为最大的方向，引入梯度的概念。

仍以二元函数()21,x x F 为例进行讨论，将函数沿方向S 的方向导数写成如下形式令：图2-1 二维空间中的方向图2-2 三维空间中的方向称为()21,x x F 在点X 处的梯度()X F grad ，而同时设S 为单位向量于是方向导数可写为：此式表明，函数()X F 沿S 方向的方向导数等于向量()X F ∇在S 方向上的投影。

且当()()1,cos =∇S X F ，即向量()X F ∇与S 的方向相向时，向量()X F ∇在S 方向上的投影最大，其值为()X F ∇。

这表明梯度()X F ∇是函数()X F 在点X 处方向导数最大的方向，也就是导数变化率最大的方向。

上述梯度的定义和运算可以推广到n 维函数中去，即对于n 元函数()n x x x F ,,,21 ，其梯度定义为由此可见，梯度是一个向量，梯度方向是函数具有最大变化率的方向。

即梯度()X F ∇方向是函数()X F 的最速上升方向，而负梯度()X F ∇-方向则为函数()X F 的最速下降方向。

优化方法的数学基础1白版公开课获奖课件百校联赛一等奖课件

第二章 优化措施旳数学基础
§2-1 方向导数与梯度 §2-2 凸集、凸函数与凸规划 §2-3 二次函数及正定矩阵 §2-4 无约束优化问题旳极值条件 §2-5 有约束优化问题旳极值条件
§2-1 方向导数与梯度
一、方向导数
二元函数在点x0处沿某一方向s旳方向导数
F lim F (x10 x1, x20 x2 ) F (x10 , x20 )
2x1 4
2 x2
x(1)
2 4
例2-2：试求目旳函数 f x1, x2 3x12 4x1x2 x22 在点X 0 0,1T处旳
最速下降方向，并求沿这个方向移动一种单位长度后新点旳目
旳函数值。
解： 因为
f X
f X
x1 6x1 4x2 , x2 4x1 2x2
则函数在 X 0 0,1T 处旳最速下降方向是
i 1
其中 gij , bi , c 均为常数。
gij g ji
其向量矩阵表达形式是： f X 1 X TQX bT X c
2
g11 g12
其中 Q=
g21
g22
gn1
gn2
g1n
g2n
b=
gnn
b1
b2
Q为对称矩阵
bn
在代数学中将特殊旳二次函数 f X 1 X TQX 称为二次型。
F s
F
x1
F cos1
x2
cos
2
F T s F s cosF, s
s方向和梯度方向重叠时，方向导数值最大。
梯度旳模：
2
2
F
F
x1
F x2
设： 则有
s
cos 1 cos2

优化设计1--建模及数学基础

2015-4-29 12
二、优化问题的数学模型
优化数学模型
根据研究的问题，建立设计变量与目标函数 之间的关系，以及设计变量之间应遵守的约束 条件。
2015-4-29
13
二、优化问题的数学模型
1、设计变量：独立影响目标函数的变量
设计常量、优化设计的维数
在一般情况下，若有 n 个设计变量，把第 i 个设计变量记为xi， 则其全部设计变量可用 n 维向量的形式表示成：
类似地可以定义局部极大点和局部极大值。
51
2015-4-29



定义：X*∈D，若对于一切X∈D，均有f(X)≥f(X*),则 称X*为全局极小点，称f(X*)为全局极小值。 类似地可以定义全局极大点和全局极大值。
任意两向量又有内积运算，则称为 n 维欧氏空
间，用 En 表示。此就为优化设计中所谓的 “设计空间”。

2015-4-29
n 维空间又称为超越空间。 设计空间中的一个点就是一种设计方案。
16
2015-4-29
17
2、目标函数 目标函数是设计中预期要达到的目标， 可表示为各设计变量的函数表达式： f (X) = f ( x1, x2, …, xn )
边界约束：用于限制设计变量的变化范围。 性态约束（性能约束）： 由结构的某种性能或设计要 求推导出来的一种约束条件。

2015-4-29
22

4. 优化问题的数学模型：

min f ( X ), X R n s.t.g i ( X ) 0, i 1,2,, m h j ( X ) 0, j 1,2,, p, p n
38
（1）函数在给定点的梯度方

现代设计方法-优化设计-数学基础


2 f x1xn 2 f x2 xn 2 f xn xn X X ( 0 )
f x 1 f f ( X (0) ) x2 f xn ( 0 ) X X
g1 ( X ) 0
g 2 ( X * )
g2 (X ) 0
X*
g1 ( X * )
0
x1
以上两点可以统一用一个条件来表示：
K-T（Kuhn-Tucker)条件：
设g i ( X ) 0(i I k )是点X ( k )的n个起作用约束，且X ( k )是极值点， 则必有 f ( X ( k ) ) i g i ( X ( k ) ) 0 iI k 0 i
令L( X , ) 0，即可得到
f ( X * ) v hv ( X * ) 0
v 1 p
这就是等式约束问题在点X*取得极值的必要条件，
它的含义是： 在等式约束问题的极值点上，目标函数的负梯
度等于诸约束函数在该点梯度的线性组合。
不等式约束的极值条件 对于不等式约束问题
1 (0) (0) 2 f ( x) f ( x ) f '( x )( x x ) f ''( x )( x x ) 2
(0) (0) (0)
函数的泰勒展开
（2）二元函数f(x1，x2) 的泰勒展开：
x1 X x2
f x f ( X ( 0 ) ) 1 f x2 X X ( 0 )
2 f ( x(0) ) :目标函数f(x)在点x(0)的所有二阶偏导数组成
的矩阵 (二阶导数矩阵或海色矩阵，记作 H(x)），n×n阶对称矩阵
  1. 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。

式中D表示由p个不等约束条件和q个等约束条 件所规定的可行域。
通过最优化方法求得的一组最优设计变量：
X*[x1*,x2*, ,xn*]
表示了一个最优化的设计方案，称为最优设计点。 对应于该设计方案的目标函数为：
F * F ( X * ) F ( x 1 * ,x 2 * , ,x n * )
称为最优化值。
满足上述要求的计算过程或计算方法就是所谓的 数值迭代过程 或 数值迭代方法。
数值迭代的基本思想是：从某一个选定的初始点 X ( 0出) 发，按照某种最优化方法所规定的原则，确定适
当的方向和步长，获得第一个新的修改设计点 X (1 )，
计算此点的目标函数值 F ( X (1)使) 满足：
F(X(1))F(X(0))
X(m) X(p)
满足上述条件的点列称为基本序列，这个条件叫做点列收敛的柯西 准则。收敛条件式也可写作：
n
2
X(m) i
Xi(p)
i1
2、优化计算的终止准则
通常采用的计算终止准则有以下几种形式：
（1）当两相邻的迭代点 之间的距离足够小时用矢量的长 度来表示，即为：
X(m) X(p)
n
2
§3-4 优化设计的数学模型
综上所述，最优化问题数学模型一般表示如下： 对于无约束最优化问题：
m in F ( X )
X Rn
式中，R n 表示n维实欧氏空间。
对于约束最优化问题：
minF(X)
XDRn
D: gu(X) 0 ,
u
1,2,...,
p
hv(X) 0 ,
v=1,2....,q
或
X (k1) i
X (k) i
i1
也可以用矢量长度在各坐标轴上的分量来表示，即：
化方向和优化步长。
由于大多数工程设计问题的设计变量比较多， 函数形式也比较复杂，不易求得一阶和二阶偏导数， 因此在实际应用中，直接搜索法更受工程界的欢迎。
但不论何种具体的优化算法，它们在确定方向和 步长时都应具有以下共同之点：
（1）所选择的优化方向S是比较容易计算的；
（2）所选择的优化方向应尽可能指向目标函数F（X）的极小点， 至少在每一个迭代点 附近是指向F（X）的极小点；
最优点和最优值两者构成了一个优化问题的最优解。
在数学模型中，若目标函数F（X）和约束函数 g u ( X )
和 h v ( X )都是设计变量 x1*,x2*, ,x的n*线性函数，
这样的优化问题常称为线性规划问题，否则称为非线 性规划问题。
§3-5数学模型的几何描述
为了进一步说明最优化问题的一些基本概念，下面
在机械设计中，可作为参考目标函数的有：
体积最小、重量最轻、效率最高、承载能力 最大、结构运动精度最高、振幅或噪声最小、成 本最低、耗能最小、动负荷最小等等。
在最优化设计问题中，可以只有一个目标 函数，称为单目标函数。当在同一设计中要提 出多个目标函数时，这种问题称为多目标函数 的最优化问题。在一般的机械最优化设计中， 多目标函数的情况较多。
X (k 1 )X (k) a (k)S (k)
a ( k ) ——第n步迭代计算的步长。
二、优化方法的分类
目前已有的最优化方法很多，各种方法的区别 就在于确定方向S和步长a的方法不同。这些方法 可大致归纳为两大类：
1．直接搜索法 这种方法只需要进行函数的计算与比较来确定优化的方向和
步长。
2．间接法 这种方法需要利用函数的一阶或二阶偏导数矩阵来确定优
X (1)
X (2)
。。。
最终达到与理论最优点X*非常逼近的近似最优点X**
X (k 1 ) X (k) X (k)
x (k 1) 1
x (k 1) 2
x (k) 1
x (k) 2
xx12((kk))
x3(k
1)
x3(k
)
x3(k
)
式中的 X (就k) 是以 X为(k ) 新起始点，沿着一定的方向 S (k ) 以一定的步长 确定下一个设计点 X (k+的1) 改进迭代矢 量。由此可知，每一步迭代格式可写作：
优化设计的数学基础(一)
优化设计的数学模型是描述实际优
化问题的设计内容、变量关系、有关设 计条件和意图的数学表达式，它反映了 物理现象各主要因素的内在联系，是进 行优化设计的基础。
二、可行域和非可行域
可行域： 在可行域内任意一点称为可行设计点（内点），
代表一个可行方案, 可行设计点的集合D称为可行设计 区域。
X (k)
（3）所选的步长a应在已定方向上使目标函数达到极小，或者至 少使目标函数值有所下降。
三、迭代点列的收敛条件和终止准则
1．点列收敛的柯西准则
若某种迭代过程所选择的设计点序列为： X(k), k0,1,2...
若点列是收敛的，即存在极限： limX(k) X* k
点列 收敛的必要与充分条件是，对于任意指定的足够小的正数ε， 存在着自然数N，使得当两个自然数m和p大于N时满足：
再对它作必要的几何描述，以便比较直观地、形象化地 理解它。先以一个二维优化问题为例。
设有一个约束最优化问题，数学模型如下：
m in ( x12 x22 4 x1 4 ) X D R2
D：
Hale Waihona Puke g1( X ) x1 g 2 ( X ) x12
x2 x2
2 0
1 0
g 3 ( X ) x1 0
g4(X ) x2 0
对于这样一个优化问题，可用下图的几何图形来说明 几个基本概念。
§3-6 优化设计的迭代过程 及终止准则
一 、迭代过程与迭代格式
为了适应电子计算机的工作特点，要求最优 化方法具有下列性质：
1. 数值计算，而不是解析方法； 2. 具有简单的逻辑结构，并能进行反复的运算过程： 3. 不要求获得精确解，而只要求有足够精度的近似解。
非可行域： 在可行域外的点称为非可行设计点（外点），代
表不可采用的设计方案，这种设计点的集合为非可行 域。
§3-3 目标函数
为了对设计进行定量评价，必须构造包含设 计变量的评价函数，它是优化的目标，称为目标 函数，以F(X)表示。
F (x)F (x 1 ， x2 ， ， xn)
在优化过程中，通过设计变量的不断向F(X)值改善的方 向自动调整，最后求得F(X)值最好或最满意的X值。在构造 目标函数时，应注意目标函数必须包含全部设计变量，所 有的设计变量必须包含在约束函数中。