第1章最优化方法的一般概念
最优化问题就是依据各种不同的研究对象以及人们预期要达到的目的，寻找一个最优控制规律或设计出一个最优控制方案或最优1
控制系统。
针对最优化问题，如何选取满足要求的方案和具体措施，使所得结果最佳的方法称为最优化方法。
1.1 目标函数、约束条件和求解方法
根据所提出的最优化问题，建立最优化问题的数学模型，确定变量，给出约束条件和目标函数最优化方法解决实际工程问题的步骤：
2
（或性能指标）；
对所建立的模型进行具体分析和研究，选择合适的最优化求解方法；
根据最优化方法的算法，列出程序框图并编写程序，用计算机求出最优解，并对算法的收敛性、通用性、简便性、计算效率及误差等做出评价。
目标函数、约束条件和求解方法是最优化问题的三个基本要素。
1．目标函数：就是用数学方法描述处理问题所能够达到结果的函数。该函数的自变量是表示可供选择的方案及具体措施的一些参数或函数，最佳结果就表现为目标函数取极值。
3
2．约束条件：在处理实际问题时，通常会受到经济效率、物理条件、政策界限等许多方面的限制，这些限制的数学描述称为最优化问题的约束条件。3．求解方法：是获得最佳结果的必要手段。该方法使目标函数取得极值，所得结果称为最优解。
4
解：①目标函数：
122max (cos )sin S x x x ②约束条件：
a x x 21212(0,0)x x （非线性）（线性）说明：5
这是一个非线性带等式约束的静态最优化问题。这类问题有时可以方便地将等式约束条件带入到目标函数中，从而将有约束条件的最优化问题转换为无约束条件的最优化问题，以便求解。例如：将例1-1转换为无约束条件的最优化问题，目标函数变为：
sin )cos 2(max 222x x x a S
例1-2（P2）（※）仓库里存有20m 长的钢管，现场施工需要100根6m 长和80根8m 长的钢管，问最少需要领取多少根20m 长的钢管？
解：用一根20m 长的钢管，截出8m 管和6m 管的方6
法只有三种：设x 1为一根20m 管截成两根8m 管的根数；x 2为一根20m 管截成一根8m 管和两根6m 管的根数；x 3为一根20m 管截成三根6m 管的根数。目标是领取数目最少的20m 管进行分割，得到100根6m 长和80根8m 长的钢管，故：
①目标函数：
②约束条件：
321min x x x n ,80221x x （线性）
7
说明：这是一个带有不等式约束的静态最优化问题。它的目标函数和约束条件都是线性的，可用线性规划的方法求解此类问题。
3,2,1,0,1003232i x x x i （线性）
A (0,1)
8
()2t t
1.2 静态最优化问题与动态最优化问题1．静态最优化问题：就是选择系统的最优参数使目标函数取极值。静态最优化问题的解不随时间而变化。系统的数学模型是代数方程。29
．动态最优化问题：动态最优化问题的目标函数的自变量是函数（一般是时间的函数）。动态最优化问题的解随时间而变化。系统的数学模型是微分方程或差分方程。动态最优化问题习惯上又称为最优控制问题，即选择系统最优的运动轨线，使泛函形式的目标函数取极值。
3．静态最优化问题和动态最优化问题的求解方法: 1）解决静态最优化问题（求函数极值）可以用线性规划和非线性规划方法。
2）解决动态最优化问题（求泛函极值）可采用变分法、最大（小）值原理和动态规划等方法。
10
1.3 线性规划和非线性规划
1. 线性规划问题：该类问题的目标函数和约束线性规划和非线性规划是静态最优化问题的两个分支:
11
条件都是变量的线性函数。
2.非线性规划问题：该类问题的目标函数和约束条件中含有变量的非线性函数。
1.4 最优化方法在控制领域中的应用
例1-4（P4）参数估计
参数估计应理解为系统结构已知的条件下，用试验方法所取得的数据来确定系统动12
力学模型中的参数。即参数估计就是已知系统结构的条件下，经过对系统输入输出的观测，估计出系统参数的最优值，使数据拟合的残差平方和最小。这是最优化方法在控制领域中的很常见的一种应用。
单输入131
k
例1-4（P5）最小方差控制
在随机控制理论中，使有随机噪声作用的被控系统的输出方差最小的控制策略称为最小方差控制，最小方差控制方式可应用于许多工业过程控制中。
14
假定被控对象的输出、控制输入和随机干扰之间的关系由可控自回归滑动平均(CARMA)时间序列模型来描述：
)()1()()()1()()
()1()(1101r k e c k e c k e m d k b d k u b d k u b n k y a k y a k y r m n 式中：
15
y (k ) —k 时刻的输出；
u (k ) —k 时刻的控制输入；
d —响应滞后拍数，d ≥1；
{e (k )}—零均值高斯白噪声序列;
—系统中的随机过程干扰)()1()()(1r k e c k e c k e k w r 目标函数为： 2
min [()]()J u k E y k 约束条件
作业：
某项工程需成套横截面相同且长度不同的钢梁，每一套由7根2米长与2根7米长的钢梁组成。这些钢梁是由15米长的钢坯截下的，现生产10016套钢梁，问应如何下料使用料最省，建立这一问题的数学模型。
《最优化方法》复习题(含答案)
附录5 《最优化方法》复习题 1、设n n A R ?∈是对称矩阵，,n b R c R ∈∈，求1()2 T T f x x Ax b x c =++在任意点x 处的梯度和Hesse 矩阵． 解 2(),()f x Ax b f x A ?=+?=． 2、设()()t f x td ?=+，其中:n f R R →二阶可导，,,n n x R d R t R ∈∈∈，试求()t ?''． 解 2()(),()()T T t f x td d t d f x td d ??'''=?+=?+． 3、设方向n d R ∈是函数()f x 在点x 处的下降方向，令 ()()()()() T T T T dd f x f x H I d f x f x f x ??=--???， 其中I 为单位矩阵，证明方向()p H f x =-?也是函数()f x 在点x 处的下降方向． 证明 由于方向d 是函数()f x 在点x 处的下降方向，因此()0T f x d ?<，从而 ()()()T T f x p f x H f x ?=-?? ()()()()()()()() T T T T T dd f x f x f x I f x d f x f x f x ??=-?--???? ()()()0T T f x f x f x d =-??+?<， 所以，方向p 是函数()f x 在点x 处的下降方向． 4、n S R ?是凸集的充分必要条件是12122,,,,,,,,m m m x x x S x x x ?≥?∈L L 的一切凸组合都属于S ． 证明 充分性显然．下证必要性．设S 是凸集，对m 用归纳法证明．当2m =时，由凸集的定义知结论成立，下面考虑1m k =+时的情形．令1 1k i i i x x λ+==∑， 其中,0,1,2,,1i i x S i k λ∈≥=+L ，且1 1 1k i i λ+==∑．不妨设11k λ+≠（不然1k x x S +=∈， 结论成立），记11 1k i i i k y x λλ=+=-∑ ，有111(1)k k k x y x λλ+++=-+，
浅谈最优控制 发表时间：2008-12-10T10:25:09.263Z 来源：《黑龙江科技信息》供稿作者：李晶1 陈思2 [导读] 主要阐述了关于最优控制问题的基本概念，最优控制是最优化方法的一个应用。最优化一般可以分为最优设计、最优计划、最优管理和最优控制四个方面。 摘要：主要阐述了关于最优控制问题的基本概念，最优控制是最优化方法的一个应用。最优化一般可以分为最优设计、最优计划、最优管理和最优控制四个方面。而最优控制理论是研究和解决从一切可能的控制方案中寻找最优解的一门学科，解决最优控制问题的主要方法有古典变分法、极大值原理和动态规划。通过以上知识的讲解使初学者能够快速掌握最优控制的问题。关键词：最优化；最优控制；极值 最优控制是最优化方法的一个应用，如果想了解最优控制必须知道什么是最优化方法。所谓最优化方法为了达到最优化目的所提出的各种求解方法。从数学意义上说，最优化方法是一种求极值的方法，即在一组约束为等式或不等式的条件下，使系统的目标函数达到极值，即最大值或最小值。从经济意义上说，是在一定的人力、物力和财力资源条件下，使经济效果达到最大（如产值、利润），或者在完成规定的生产或经济任务下，使投入的人力、物力和财力等资源为最少。 最优化一般可以分为最优设计、最优计划、最优管理和最优控制四个方面。（1）最优设计:世界各国工程技术界,尤其是飞机、造船、机械、建筑等部门都已广泛应用最优化方法于设计中，从各种设计参数的优选到最佳结构形状的选取等，结合有限元方法已使许多设计优化问题得到解决。一个新的发展动向是最优设计和计算机辅助设计相结合。电子线路的最优设计是另一个应用最优化方法的重要领域，它存在着巨大的开发潜力，尤其是对于学电工学的学生来说。配方配比的优选方面在化工、橡胶、塑料等工业部门都得到成功的应用,并向计算机辅助搜索最佳配方、配比方向发展。（2）最优计划:现代国民经济或部门经济的计划，直至企业的发展规划和年度生产计划，尤其是农业规划、种植计划、能源规划和其他资源、环境和生态规划的制订,都已开始应用最优化方法。一个重要的发展趋势是帮助领导部门进行各种优化决策，使工作结构简单，工作效率最高化，节省了很多时间。（3）最优管理：一般在日常生产计划的制订、调度和运行中都可应用最优化方法。随着管理信息系统和决策支持系统的建立和使用，使最优管理得到迅速的发展。（4）最优控制：主要用于对各种控制系统的优化。下面着重来解释一下最优控制。 最优控制理论是研究和解决从一切可能的控制方案中寻找最优解的一门学科。它是现代控制理论的重要组成部分。这方面的开创性工作主要是由贝尔曼（R.E.Bellman）提出的动态规划和庞特里亚金等人提出的最大值原理。这方面的先期工作应该追溯到维纳（N.Wiener）等人奠基的控制论（Cybernetics）。1948年维纳发表了题为《控制论——关于动物和机器中控制与通讯的科学》的论文，第一次科学的提出了信息、反馈和控制的概念，为最优控制理论的诞生和发展奠定了基础。钱学森1954年所著的《工程控制论》（EngineeringCybernetics）直接促进了最优控制理论的发展和形成。 为了解决最优控制问题，必须建立描述受控运动过程的运动方程，即系统的数学模型，给出控制变量的允许取值范围，指定运动过程的初始状态和目标状态，并且规定一个评价运动过程品质优劣的性能指标。通常，性能指标的好坏取决于所选择的控制函数和相应的运动状态。系统的运动状态受到运动方程的约束，而控制函数只能在允许的范围内选取。因此，从数学上看，确定最优控制问题可以表述为：在运动方程和允许控制范围的约束下，对以控制函数和运动状态为变量的性能指标函数（称为泛函）求取极值（极大值或极小值）。解决最优控制问题的主要方法有古典变分法、极大值原理和动态规划。 1 古典变分法 研究对泛函求极值的一种数学方法。古典变分法只能用在控制变量的取值范围不受限制的情况。在许多实际控制问题中，控制函数的取值常常受到封闭性的边界限制，如方向舵只能在两个极限值范围内转动，电动机的力矩只能在正负的最大值范围内产生等。因此，古典变分法对于解决许多重要的实际最优控制问题，是无能为力的。 2 极大值原理 极大值原理，是分析力学中哈密顿方法的推广。极大值原理的突出优点是可用于控制变量受限制的情况，能给出问题中最优控制所必须满足的条件。 3 动态规划 动态规划是数学规划的一种，同样可用于控制变量受限制的情况，是一种很适合于在计算机上进行计算的比较有效的方法。随着社会科技的不断进步,最优控制理的应用领域十分广泛，如时间最短、能耗最小、线性二次型指标最优、跟踪问题、调节问题和伺服机构问题等。但它在理论上还有不完善的地方，其中两个重要的问题就是优化算法中的鲁棒性问题和最优化算法的简化和实用性问题。大体上说，在最优化理论研究和应用方面应加强的课题主要有：（1）适合于解决工程上普遍问题的稳定性最优化方法的研究；（2）智能最优化方法、最优模糊控制器设计的研究；（3）简单实用的优化集成芯片及最优化控制器的开发和推广利用；（4）复杂系统、模糊动态模型的辩识与优化方法的研究；（5）最优化算法的改进。相信随着对这些问题的研究和探索的不断深入，最优控制技术将越来越成熟和实用，它也将给人们带来不可限量的影响。 参考文献 [1]胡寿松.最优控制理论与系统[M].（第二版）北京：科学出版社，2005. [2]阳明盛.最优化原理、方法及求解软件[M].北京：科学出版社，2006. [3]葛宝明.先进控制理论及其应用[M].北京：机械工业出版社，2007. [4]章卫国.先进控制理论与方法导论[M].西安：西北工业大学出版社，2000.
7 矿井设计的方案比较法 7.1 概述 方案比较法是工程设计中最基本和最常用的设计方法，既能解决总体的又能解决局部的设计问题，常被称为万能的设计方法。近代出现的“最优化设计”方法（实际上方案比较法也是优化方法之一）也是在此基础上发展起来的。我国自五十年代初，在矿井设计中一直沿用方案比较法，尤其在方案设计或可行性研究中，多用此法。 7.1.1方案比较法的实质 在进行工程设计时，根据已知条件列出在技术上可行的若干个方案，然后进行具体的技术分析和经济比较，从中选出相对最优越的一种方案。这种设计方法就称为方案比较法。7.1.2方案比较法的步骤 (1)首先要明确设计的内容、性质、要求（这些要求在《设计任务书》中有具体文字说明），以及设计要达到的目标（主要参数和额定指标）等。 (2)然后熟悉和掌握设计任务或设计中所要解决的总体或局部课题的内部及外部条件。对矿井设计来说，主要是：井田的地质地形条件；交通情况；与邻井的关系；与其他企业关系等。 (3)根据内部及外部条件，依设计任务的内容和目标，提出可行的方案。 (4)对提出的可行方案进行技术和经济分析，从中选取（3～5）个较优方案。 (5)对选出的较优方案进行详细的技术和经济计算与比较，明确各方案在技术上和经济上的差异，全面衡量各方案的利弊。然后从各方案中选出最优的方案，做为设计最终方案。 (6)最后按设计任务的要求，对方案做出详细描述的文字说明（包括各项参数），并绘出方案的图纸。 7.2矿井设计方案的技术分析 由于矿井地质条件的多样性和技术装备的不断发展，一个井田的开拓可以提出若干技术上可行的设计方案。从这些可行的设计方案中选择技术上先进、经济上合理的方案，就是方案比较的任务。 井田开拓方案比较内容包括井筒形式、生产能力、井筒（平硐）位置、水平划分、通风方式、运输大巷布置、大巷运输方式、总回风道布置、采区划分等项。 7.2.1井筒形式方案比较内容 在技术上可用平硐开拓也可用斜井开拓的井田，或可用斜井开拓也可用立井开拓的井田，或可用单一方式开拓也可用综合式开拓的井田，其井筒形式往往需要进行大量的方案比较工作。
《最优化方法》试题 一、 填空题 1.设()f x 是凸集n S R ?上的一阶可微函数，则()f x 是S 上的凸函数的一阶充要条件是（ ），当n=2时，该充要条件的几何意义是（ ）； 2.设()f x 是凸集n R 上的二阶可微函数，则()f x 是n R 上的严格凸函数（ ）（填‘当’或‘当且仅当’）对任意n x R ∈，2()f x ?是 （ ）矩阵； 3.已知规划问题22211212121212min 23..255,0z x x x x x x s t x x x x x x ?=+---?--≥-??--≥-≥?，则在点55(,)66T x =处的可行方向集为（ ），下降方向集为（ ）。 二、选择题 1.给定问题222121212min (2)..00f x x s t x x x x ?=-+??-+≤??-≤?? ，则下列各点属于K-T 点的是（ ） A) (0,0)T B) (1,1)T C) 1(,22 T D) 11(,)22T 2.下列函数中属于严格凸函数的是（ ） A) 211212()2105f x x x x x x =+-+ B) 23122()(0)f x x x x =-< C) 2 222112313()226f x x x x x x x x =+++- D) 123()346f x x x x =+- 三、求下列问题
()22121212121211min 51022 ..2330420 ,0 f x x x x x s t x x x x x x =+---≤+≤≥ 取初始点()0,5T 。 四、考虑约束优化问题 ()221212min 4..3413f x x x s t x x =++≥ 用两种惩罚函数法求解。 五．用牛顿法求解二次函数 222123123123()()()()f x x x x x x x x x x =-++-++++- 的极小值。初始点011,1,22T x ??= ???。 六、证明题 1.对无约束凸规划问题1min ()2 T T f x x Qx c x =+，设从点n x R ∈出发，沿方向n d R ∈ 作最优一维搜索，得到步长t 和新的点y x td =+ ，试证当1T d Q d = 时， 22[() ()]t f x f y =-。 2.设12*** *3(,,)0T x x x x =>是非线性规划问题()112344423min 23..10f x x x x s t x x x =++++=的最优解，试证*x 也 是非线性规划问题 144423* 123min ..23x x x s t x x x f ++++=的最优解，其中****12323f x x x =++。
天津大学《最优化方法》复习题（含答案） 第一章 概述(包括凸规划) 一、 判断与填空题 1 )].([arg )(arg min max x f x f n n R x R x -=∈∈ √ 2 {}{} .:)(m in :)(m ax n n R D x x f R D x x f ?∈-=?∈ ? 3 设.:R R D f n →? 若n R x ∈*，对于一切n R x ∈恒有)()(x f x f ≤*，则称*x 为最优化问题)(min x f D x ∈的全局最优解. ? 4 设.:R R D f n →? 若D x ∈*，存在*x 的某邻域)(*x N ε，使得对一切)(*∈x N x ε恒有)()(x f x f <*，则称*x 为最优化问题)(min x f D x ∈的 严格局部最优解. ? 5 给定一个最优化问题，那么它的最优值是一个定值. √ 6 非空集合n R D ?为凸集当且仅当D 中任意两点连线段上任一点属于D . √ 7 非空集合n R D ?为凸集当且仅当D 中任意有限个点的凸组合仍
属于D . √ 8 任意两个凸集的并集为凸集. ? 9 函数R R D f n →?:为凸集D 上的凸函数当且仅当f -为D 上的凹函数. √ 10 设R R D f n →?:为凸集D 上的可微凸函数，D x ∈*. 则对D x ∈?，有).()()()(***-?≤-x x x f x f x f T ? 11 若)(x c 是凹函数，则}0)( {≥∈=x c R x D n 是凸集。 √ 12 设{}k x 为由求解)(min x f D x ∈的算法A 产生的迭代序列，假设算法 A 为下降算法，则对{} ,2,1,0∈?k ，恒有 )()(1k k x f x f ≤+ . 13 算法迭代时的终止准则（写出三种）：_____________________________________。 14 凸规划的全体极小点组成的集合是凸集。 √ 15 函数R R D f n →?:在点k x 沿着迭代方向}0{\n k R d ∈进行精确一维线搜索的步长k α，则其搜索公式
第7讲最优化问题 一、知识要点 在日常生活和生产中，我们经常会遇到下面的问题：完成一件事情，怎样 合理安排才能做到用的时间最少，效果最佳。这类问题在数学中称为统筹问题。 我们还会遇到“费用最省”、“面积最大”、“损耗最小”等等问题，这些问 题往往可以从极端情况去探讨它的最大（小）值，这类问题在数学中称为极值 问题。以上的问题实际上都是“最优化问题”。 二、精讲精练 【例题1】用一只平底锅煎饼，每次只能放两个，剪一个饼需要2分钟（规定正反面各需要1分钟）。问煎3个饼至少需要多少分钟？ 练习1： 1、烤面包时，第一面需要2分钟，第二面只要烤1分钟，即烤一片面包需要3分钟。小丽用来烤面包的架子，一次只能放两片面包，她每天早上吃3片面包，至少要烤多少分钟？ 2、用一只平底锅烙大饼，锅里只能同时放两个。烙熟大饼的一面需要3分钟，现在要烙3个大饼，最少要用几分钟？ 1
【例题2】妈妈让小明给客人烧水沏茶。洗水壶需要1分钟，烧开水需要15分钟，洗茶壶需要1分钟，洗茶杯需要1分钟。要让客人喝上茶，最少需要多少分钟？ 练习2： 1、小虎早晨要完成这样几件事：烧一壶开水需要10分钟，把开水灌进热 水瓶需要2分钟，取奶需要5分钟，整理书包需要4分钟。他完成这几件事最少需要多少分钟？ 2、小强给客人沏茶，烧开水需要12分钟，洗茶杯要2分钟，买茶叶要8 分钟，放茶叶泡茶要1分钟。为了让客人早点喝上茶，你认为最合理的安排， 多少分钟就可以了？ 2
【例题3】五（1）班赵明、孙勇、李佳三位同学同时到达学校卫生室，等 候校医治病。赵明打针需要5分钟，孙勇包纱布需要3分钟，李佳点眼药水需要1分钟。卫生室只有一位校医，校医如何安排三位同学的治病次序，才能使 三位同学留在卫生室的时间总和最短？ 练习3： 1、甲、乙、丙三人分别拿着2个、3个、1个热水瓶同时到达开水供应点打热水。热水龙头只有一个，怎样安排他们打水的次序，可以使他们打热水所 花的总时间最少？ 2、甲、乙、丙三人到商场批发部洽谈业务，甲、乙、丙三人需要的时间分 别是10分钟、16分钟和8分钟。怎样安排，使3人所花的时间最少？最少时间是多少？ 3
第一、填空题 1.组成优化设计的数学模型的三要素是 设计变量 、目标函数 和 约束条件 。 2.可靠性定量要求的制定，即对定量描述产品可靠性的 参数的选择 及其 指标的确定 。 3.多数产品的故障率随时间的变化规律，都要经过浴盆曲线的 早期故障阶段 、 偶然故障阶段 和 耗损故障阶段 。 4.各种产品的可靠度函数曲线随时间的增加都呈 下降趋势 。 5.建立优化设计数学模型的基本原则是在准确反映 工程实际问题 的基础上力求简洁 。 6.系统的可靠性模型主要包括 串联模型 、 并联模型 、 混联模型 、 储备模型 、 复杂系统模型 等可靠性模型。 7. 函数f(x 1,x 2)=2x 12 +3x 22-4x 1x 2+7在X 0=[2 3]T 点处的梯度为 ，Hession 矩阵为 。 （2.）函数()22121212,45f x x x x x x =+-+在024X ??=????点处的梯度为120-?? ????，海赛矩阵为2442-???? -?? 8.传统机械设计是 确定设计 ；机械可靠性设计则为 概率设计 。 9.串联系统的可靠度将因其组成单元数的增加而 降低 ，且其值要比可靠 度 最低 的那个单元的可靠度还低。 10.与电子产品相比，机械产品的失效主要是 耗损型失效 。 11. 机械可靠性设计 揭示了概率设计的本质。 12. 二元函数在某点处取得极值的充分条件是()00f X ?=必要条件是该点处的海赛矩阵正定。 13.对数正态分布常用于零件的 寿命疲劳强度 等情况。 14.加工尺寸、各种误差、材料的强度、磨损寿命都近似服从 正态分布 。 15.数学规划法的迭代公式是 1k k k k X X d α+=+ ，其核心是 建立搜索方向， 模型求解 两方面的内容。 17.无约束优化问题的关键是 确定搜索方向 。 18.多目标优化问题只有当求得的解是 非劣解 时才有意义，而绝对最优解存在的可能性很小。 19.可靠性设计中的设计变量应具有统计特征，因而认为设计手册中给出的数据
最优化方法与最优控制复习文件 1. 非线性优化的基本概念，最优解的一阶和二阶条件，最速下降方法，拟牛顿法情况，BFGS 修正。 2. 变分问题的最优必要性条件推导，各种情况下的必要性条件，Hamilton 函数、拉格让日 函数。PPT 中讲到的最优控制实例，包括求解过程需要掌握。 3. 极大值原理搞清楚，以及PPT 中的计算实例。 4. 动态规划，原理和简单的求解技术。 5. LQR 问题也要看一下。 除此之外，还有几个作业题目大家做一下，如下所示： 1. 非线性优化中，从直观考虑最速下降法是一种最快速的迭代优化方法，实际过程中为什 么不理想？为什么采用二阶方法？二阶方法中的二阶导数矩阵怎么得到的？有什么要求？ （15分） 2. 对于函数形式为 的优化问题，若采用最速下降法求解，请给出最优搜索方向p k 的表达式。变量初值为X0=[1,1,1]T ，请写出第一步迭代过程，以及得到的X1的关于搜索步长α0表达式，在这种情况下，使得))0()0((F 0p x α+最小的搜索步长α0应该等于多少？（15分） 3. 题目要求如下，采用动态规划方法寻求从A 点到B 点的最小时间路径（A 到B 仅能向前 走），（20分） 4. 对于以下简单的标量非线性系统，请通过求解相关HJB 方程得到其最优反馈控制策略。 提示，HJB 微分方程允许如此形式的解。
5.写出如下优化控制问题的Hamiltonian 函数、优化求解的必须性条件，并通过必要性条 件的求解计算出该优化控制和状态轨线。最小化目标函数 6.根据你对优化控制求解方法的了解，目前对于优化控制问题（或者成为动态优化问题， DAOPs问题）有哪些求解方法， 7.
分数: ___________ 任课教师签字：___________ 华北电力大学研究生结课作业 学年学期：2013-2014第二学期 课程名称：优化理论和最优控制 学生姓名： 学号： 提交时间：2014年4月26日
《优化理论和最优控制》结课总结 摘要：最优控制理论是现代控制理论的核心，控制理论的发展来源于控制对象的要求。尽50年来，科学技术的迅速发展，对许多被控对象，如宇宙飞船、导弹、卫星、和现代工业设备的生产过程等的性能提出了更高的要求，在许多情况下要求系统的某种性能指标为最优。这就要求人们对控制问题都必须从最优控制的角度去进行研究分析和设计。最优控制理论研究的主要问题是：根据已建立的被控对象的时域数学模型或频域数学模型，选择一个容许的控制律，使得被控对象按预定要求运行，并使某一性能指标达到最优值[1]。 关键字：最优控制理论，现代控制理论，时域数学模型，频域数学模型，控制率 Abstract： The Optimal Control Theory is the core of the Modern Control Theory，the development of control theory comes from the requires of the controlled objects.During the 50 years， the rapid development of the scientific technology puts more stricter requires forward to mang controlled objects，such as the spacecraft，the guide missile，the satellite，the productive process of modern industrial facilities，and so on，and requests some performance indexes that will be best in mang cases.To the control problem，it requests people to research ,analyse，and devise from the point of view of the Optimal Control Theory. There are mang major problems of the Optimal Control Theory studying,such as the building the time domain’s model or the frenquency domain’s model according to the controlled objects,controlling a control law with admitting, making the controlled objects to work according to the scheduled requires, and making the performance index to reseach to a best optimal value. Keywords: The Optimal Control Theroy， The Modern Control Theroy， The
《最优化方法》复习题 第一章 引论 一、 判断与填空题 1 )].([arg )(arg m in m ax x f x f n n R x R x -=∈∈ √ 2 {}{}.:)(min :)(max n n R D x x f R D x x f ?∈-=?∈ ? 3 设.:R R D f n →? 若n R x ∈*，对于一切n R x ∈恒有)()(x f x f ≤*，则称*x 为最优化问题 )(min x f D x ∈的全局最优解. ? 4 设.:R R D f n →? 若D x ∈*，存在*x 的某邻域)(*x N ε，使得对一切)(*∈x N x ε恒有)()(x f x f <*，则称*x 为最优化问题)(min x f D x ∈的严格局部最 优解. ? 5 给定一个最优化问题，那么它的最优值是一个定值. √ 6 非空集合n R D ?为凸集当且仅当D 中任意两点连线段上任一点属于D . √ 7 非空集合n R D ?为凸集当且仅当D 中任意有限个点的凸组合仍属于D . √ 8 任意两个凸集的并集为凸集. ? 9 函数R R D f n →?:为凸集D 上的凸函数当且仅当f -为D 上的凹函数. √ 10 设R R D f n →?:为凸集D 上的可微凸函数，D x ∈*. 则对D x ∈?，有).()()()(***-?≤-x x x f x f x f T ? 11 若)(x c 是凹函数，则}0)( {≥∈=x c R x D n 是凸集。 √ 12 设{}k x 为由求解)(min x f D x ∈的算法A 产生的迭代序列，假设算法A 为单调下降算 法，则对{} ,2,1,0∈?k ，恒有 )()(1k k x f x f ≤+ .
根据对偶问题的定义知道，原问题与对偶问题是互为对偶的。在给出原问题的对偶问题过程中应注意的几点关系： (1) 原问题各约束条件中的限制符号，必须统一是“≤”或统一为“≥”，不必考虑向量b 的元素是否是正值； (2) 如原问题有等式约束，则将该条件用等价的两个不等式约束条件替换，即“k f =)x (”可改写成两个不等式条件“k f ≤)x (，k f -≤-)x (”； (3) 对偶前后都要求变量是非负的； (4) 对偶关系是，“极大”对“极小”；“≤”对“≥”；向量c 与向量b 对调位置；矩阵A 转置。 例3-14 给出以下线性规划问题的对偶问题 212max x x z += 12321≤+x x ； 521=+x x ； 16421≤+x x ； 21≥x ；02≥x 。 解：原问题的规范形式及对偶形式写在表3-17中。 表3-17 线性规划对偶问题 原问题 对偶问题 min 543212551612w w w w w s --++= max 212x x z += 1354321≥--++w w w w w 12321≤+x x ； 244321≥-++w w w w 16421≤+x x ； 0≥i w ，51≤≤i 。 521≤+x x ； 对偶问题的线性规划标准形式 521-≤--x x ； max 543212551612w w w w w s ++---= 21-≤-x ； 13654321=---++w w w w w w 01≥x ，02≥x 。 2474321=--++w w w w w 0≥i w ，71≤≤i 。 下面介绍线性规划对偶问题的一些性质。 定理3-4 在式(3-23)定义的对偶问题中，若x 和w 分别是原问题和对偶问题的任意可 行解，则一定有 w b x c T T ≤。 (3-24) 证 因为是可行解，必然满足各自的全部约束条件，即 b A ≤x ，0x ≥； c w T ≥A ，0w ≥。 由此导出， b w x w T T ≤A ； c x w x T T T ≥A 。 标量的转置就是标量本身，即
作用： ①仿真的过程也是实验的过程，而且还是系统地收集和积累信息的过程。尤其是对一些复杂的随机问题，应用仿真技术是提供所需信息的唯一令人满意的方法。 ②仿真技术有可能对一些难以建立物理模型或数学模型的对象系统，通过仿真模型来顺利地解决预测、分析和评价等系统问题。 ③通过系统仿真，可以把一个复杂的系统化降阶成若干子系统以便于分析，并能指出各子系统之间的各种逻辑关系。 ④通过系统仿真，还能启发新的策略或新思想的产生，或能暴露出在系统中隐藏着的实质性问题。同时，当有新的要素增加到系统中时，仿真可以预先指出系统状态中可能会出现的瓶颈现象或其它的问题。 2.简述两个Wardrop 均衡原理及其适用范围。 答： Wardrop提出的第一原理定义是：在道路的利用者都确切知道网络的交通状态并试图选择最短径路时，网络将会达到平衡状态。在考虑拥挤对行驶时间影响的网络中，当网络达到平衡状态时，每个 OD 对的各条被使用的径路具有相等而且最小的行驶时间；没有被使用的径路的行驶时间大于或等于最小行 驶时间。 Wardrop提出的第二原理是：系统平衡条件下，拥挤的路网上交通流应该按照平均或总的出行成本 最小为依据来分配。 第一原理对应的行为原则是网络出行者各自寻求最小的个人出行成本，而第二原理对应的行为原则是网络的总出行成本最小。 3.系统协调的特点。 答： （1）各子系统之间既涉及合作行为，又涉及到竞争行为。 （2）各子系统之间相互作用构成一个反馈控制系统，通过信息作为“中介”而构成整体 （3）整体系统往往具有多个决策人，构成竞争决策模式。 （4）系统可能存在第三方介入进行协调的可能。 6．对已经建立了概念模型的系统处理方式及其特点、适用范围。答：对系统概念模型有三种解决方式。 1.建立解析模型方式 对简单系统问题，如物流系统库存、城市公交离线调度方案的确定、交通量不大的城市交叉口交通控制等问题，可以运用专业知识建立系统的量化模型（如解析数学模型），然后采用优化方法确定系统解决方案，以满足决策者决策的需要，有关该方面的内容见第四、五章。 在三种方式中，解析模型是最科学的，但仅限于简单交通运输系统问题，或仅是在实际工程中一定的情况下（仅以一定的概率）符合。所以在教科书上很多漂亮的解析模型，无法应用于工程实际中。 2.建立模拟仿真模型方式 对一般复杂系统，如城市轨道交通调度系统、机场调度系统、城市整个交通控制系统等问题，可以对系统概念模型中各个部件等采用变量予以量化表示，并通过系统辨识的方式建立这些变量之间关系的动力学方程组，采用一定的编程语言、仿真技术使其转化为系统仿真模型，通过模拟仿真寻找较满意的优化方案，包括离线和在线均可以，有关该方面的内容见第七章。 模拟仿真模型比解析模型更能反映系统的实际，所以在交通运输系统中被更高层次的所使用，包括
《最优化与最优控制》教学大纲 课程编号：4050141 开课院系：自动化学院控制科学与工程系课程类别：专业选修 适用专业：自动化 课内总学时：32 学分：2 实验学时：0 设计学时：0 上机学时：0 先修课程：数学分析、线性代数、常微分方程、自动控制原理 执笔：邵立珍 审阅：董洁 一、课程教学目的 最优化与最优控制在工程技术，经济，管理等领域有广泛的应用。通过本课程的学习，使学生学会最优化的基本理论和算法，学会最优控制基本概念和理论。 二、课程教学基本要求 1．课程重点： 要求学生掌握典型的最优化算法，了解最优化的基本理论，掌握最优控制基本概念，掌握极大值原理，动态规划法了解典型最优控制问题。 2．课程难点： 极大值原理，动态规划法。 3．能力培养要求： 能够解决一些典型的最优控制问题，首先能够将实际问题，描述为最优控制问题，然后根据问题的条件，选择合适的求解工具并得到正确的答案。 三、课程教学内容与学时 课堂教学（32学时） 1．最优化概论(2学时) 最优化问题的数学模型 最优化方法及其结构 线性搜索 2．无约束最优化方法(4学时) 局部极小的条件 牛顿法 拟牛顿法 共轭梯度法 方向集法 3．约束优化的理论与方法(8学时) 约束问题和Lagrange乘子法 一阶最优条件 二阶最优条件 罚函数与障碍函数 乘子法 4．二次规划(6学时) 等式约束法 Lagrange方法 有效集法 5．最优控制概论(2学时) 经典控制与现代控制理论简介 最优控制问题的产生 最优控制问题的一般提法 最优控制问题分类 6．变分法与最优控制(4学时) 变分法 用变分法解最优控制 7．极大值原理(4学时) 末端自由的极大值原理 末端受约束的极大值原理 时变系统,复合型性能指标问题 8．动态规划法(2学时) 多步决策与动态规划 离散系统动态规划法 连续系统动态规划法 实验（上机、设计）教学（0学时） 四、教材与参考书 教材 1. 王晓陵，陆军编，《最优化方法与最优控制》，哈尔滨工程大学出版社，2008年，第1版 参考书 1. 吴受章编，《最优控制理论与应用》，机械工业出版社，2008年，第1版 2.李国勇编，《最优控制理论与应用》，国防工业出版社，2008年，第1版 3. 赫孝良等编，《最优化与最优控制》，西安交通大学出版社，1992年，第1版
经济预测与决策 考试形式：闭卷考试时量：150分钟总分：100分 一．单选题1*15=15分 1.经济预测的第一步是（）A A.确定预测目的，制定计划 B.搜集审核资料 C.建立预测模型 D.评价预测成果 2.对一年以上五年以下的经济发展前景的预测称为（）B A.长期经济预测 B.中期经济预测 C.短期经济预测 D.近期经济预测 3.（）回归模型中，因变量与自变量的关系是呈直线型的。C A.多元 B.非线性 C.线性 D.虚拟变量
4.以下哪种检验方法的零假设为：B1=B2=…=Bm=0？B A.r检验 B.F检验 C.t检验 D.DW检验 5.以数年为周期，涨落相间的波浪式起伏变动称为（）D A.长期趋势 B.季节变动 C.不规则变动 D.循环变动 6. 一组数据中出现次数最多的变量值，称为（）A A.众数 B.中位数 C.算术平均数 D.调和平均数 7. 通过一组专家共同开会讨论，进行信息交流和相互启发，从而诱发专家们发挥其创造性思维，促进他们产生“思维共振”，达到相互补充并产生“组合效应”的预测方法为（）A A.头脑风暴法 B.德尔菲法
C.PERT预测法 D.趋势判断预测法 8.（）起源于英国生物学家高尔登对人类身高的研究。B A.定性预测法 B.回归分析法 C.马尔科夫预测法 D.判别分析预测法 9.抽样调查的特点不包括（）D A.经济性 B.时效性 C.适应性 D.全面性 10.下图是哪种多项式增长曲线（）B A.常数多项式 B.一次多项式 C.二次多项式
D.三次多项式 11.根据历年各月的历史资料，逐期计算环比加以平均，求出季节指数进行预测的方法称为（）C A.平均数趋势整理法 B.趋势比率法 C.环比法 D.温特斯法 12.经济决策按照目标的性质和行动时间的不同，分为（）D A.宏观经济决策和微观经济决策 B.高层、中层和基层决策 C.定性决策和定量决策 D.战术决策和战略决策 13.（）是从最好情况出发，带有一定冒险性质，反映了决策者冒进乐观的态度。B A.最大最小决策准则 B.最大最大决策准则 C.最小最小后悔值决策准则 D.等概率决策准则 14.如果某企业规模小，技术装备不良，担负不起较大的经济风险，则该企业应采用（）A
最优化理论、方法及应用试题 一、 （30分） 1、针对二次函数1()2 T T f x x Q x b x c =++，其中 Q 是正定矩阵，试写出最速下降 算法的详细步骤，并简要说明其优缺点？ 答：求解目标函数的梯度为()g x Qx b =+，()k k k g g x Q x b ==+，搜索方向：从k x 出发，沿k g -作直线搜索以确定1k x +。 Step1: 选定0x ,计算00,f g Step2: 做一维搜索, ()1min k k k t f f x t g +=-,1k k k x x tg +=-. Step3：判别，若满足精度要求，则停止；否则，置k=k+1,转步2。 优缺点：最速下降法在初始点收敛快，算法简单，在最优点附近有锯齿现象，收敛速度慢。 2、有约束优化问题 m in ()()0,1,2,,.. ()0,1,2,,i j f x g x i m s t h x j l ≥=???==?? 最优解的必要条件是什么？ 答：假设*x 是极小值点。必要条件是f ，g ，h 函数连续可微，而且极小值点的所有起作用约束的梯度(*)(1,2,,)i h x i l ?= 和(*)(1,2,,)j g x j m ?= 线性无关，则 存在****** 12 12,,,,,,,,l m αααβββ 使得 ()1 1* * * * * * 1 212* * (*)*(*)*(*)0 *(*)0,1,2,,,,,,,,,0 0,0 l m i i j j i i j j l m i j f x h x g x g x j m α β βα ααβββαβ==?- ?- ?===≠>≥∑∑ 3、什么是起作用约束？什么是可行方向？什么是下降方向？什么是可行下降方向？针对上述有约束优化问题，如果应用可行方向法，其可行的下降方向怎样确定？ 答：起作用约束：若0()0j g x =，这时点0x 处于该约束条件形成的可行域边界上，它对0x 的摄动起到某种限制作用。 可行方向：0x 是可行点，某方向p ，若存在实数00λ>，使得它对任意
一、 填空题 1 ． 若 ()()??? ? ??+???? ?????? ??=212121 312112)(x x x x x x x f ，则 =?)(x f ，=?)(2x f . ２．设f 连续可微且0)(≠?x f ，若向量d 满足 ，则它是f 在x 处的一个下降方向。 3.向量T ) 3,2,1(关于3阶单位方阵的所有线性无关的共轭向量 有 ． 4. 设R R f n →:二次可微，则f 在x 处的牛顿方向为 . 5.举出一个具有二次终止性的无约束二次规划算 法: . 6.以下约束优化问题： )(01)(..)(min 212121 ≥-==+-==x x x g x x x h t s x x f 的K-K-T 条件为： . 7．以下约束优化问题： 1 ..)(min 212 2 21=++=x x t s x x x f 的外点罚函数为(取罚参数为μ) . 二、证明题（７分+8分) 1.设1,2,1,:m i R R g n i =→和m m i R R h n i ,1,:1+=→都是线性函数,证明下 面的约束问题: } ,,1{, 0)(},1{, 0)(..)(min 1112 m m E j x h m I i x g t s x x f j i n k k +=∈==∈≥=∑= 是凸规划问题。
2.设R R f →2 :连续可微，n i R a ∈,R h i ∈,m i ,2,1=,考察如下的约束条件问题: } ,1{,0} 2,1{,0..) (min 11m m E i b x a m I i b x a t s x f i T i i T i +=∈=-=∈≥- 设d 是问题 1 ||||,0,0..)(min ≤∈=∈≥?d E i d a I i d a t s d x f T i T i T 的解，求证：d 是f 在x 处的一个可行方向。 三、计算题（每小题１2分) １.取初始点T x )1,1() 0(=.采用精确线性搜索的最速下降法求解下面的无约束优化问题 (迭代２步）: 2 2212)(m in x x x f += 2.采用精确搜索的BFGS 算法求解下面的无约束问题： 212 2212 1)(min x x x x x f -+= 3.用有效集法求解下面的二次规划问题: . 0,001..42)(min 21212 12 221≥≥≥+----+=x x x x t s x x x x x f 4．用可行方向算法(Zoutend ｉj ｋ算法或Ｆrank Wol ｆｅ算法）求解下面的问题（初值设为)0,0() 0(=x ,计算到)2(x 即可）： . 0,033..22 1)(min 212112 22121≥≥≤+-+-= x x x x t s x x x x x x f
第七章 无约束最优化的解析法 本章主要内容：最速下降法及其收敛性与收敛速度 Newton 切线法及其收敛性 与收敛速度 阻尼Newton 法 共轭梯度法及其收敛性 变度量 法、最小二乘法 教学目的及要求：掌握最速下降法并理解其收敛性与收敛速度，掌握Newton 切 线法并理解其收敛性与收敛速度，了解阻尼Newton 法；掌握 共轭梯度法并理解其收敛性；了解变度量法、最小二乘法。 教学重点：最速下降法． 教学难点：变度量法． 教学方法：启发式． 教学手段：多媒体演示、演讲与板书相结合． 教学时间：6学时． 教学内容： §7.1 最速下降法 考虑无约束最优化问题 m i n ()f x ， （7.1.1） 其中:n f R R →具有一阶连续偏导数． 算法7-1（最速下降法） Step1 选取初始数据．选取初始点0x ，给定允许误差0ε>，令0k =． Step2 检查是否满足终止准则．计算()k f x ?，若()k f x ε?<，迭代终止，k x 为问题（7.1.1）的近似最优解；否则，转Step3． Step3 进行一维搜索．取()k k d f x =-?，求k λ和1k x +，使得 ()min ()k k k k k f x d f x d λλλ≥+=+， 1k k k k x x d λ+=+． 令:1k k =+，返回Step2． 特别地，考虑 1m i n ()2 T T f x x Qx b x c =++， （7.1.2） 其中,n n n x R Q R ?∈∈为正定矩阵，,n b R c R ∈∈．
设第k 次迭代点为k x ，从点k x 出发沿()k f x -?作一维搜索，得 1()k k k k x x f x λ+=-?， 其中k λ为最优步长．根据定理 6.1.1，有1()() 0T k k f x f x +??=．而(),n f x Q x b x R ?=+?∈， 所以1()()()k k k k f x f x Q f x λ+?=?-?，从而(()())()0T k k k k f x Q f x f x λ?-??=，而Q 正定，即()()0T k k f x Q f x ??>，故由上式解出 ()()()() T k k k T k k f x f x f x Q f x λ??=??， （7.1.3） 于是 1()()()()() T k k k k k T k k f x f x x x f x f x Q f x +??=-???， （7.1.4） 这是最速下降法用于问题（7.1.2）的迭代公式． 例1 用最速下降法求解问题 2212min ()4f x x x =+， （7.1.5） 其中12(,)T x x x =．取初始点(0)(1,1)T x =，允许误差0.1ε=． 解 问题（7.1.5）中的f 是正定二次函数，且 800,,0020Q b c ????=== ? ????? ． f 在点12(,)T x x x =处的梯度12()(8,2)T f x x x ?=． 第一次迭代： 令搜索方向(0)(0)()(8,2)T d f x =-?=--， (0)d ε==>， 从点(0)x 出发沿(0)d 作一维搜索，由（7.1.3）式和（7.1.4）式有 0680.130769520 λ==， (1)(1,1)0.130769(8,2)(0.046152,0.738462)T T T x =+--=-．