%%%%%%%%%%考虑外部性%%%%%%%%%
K=[0.238982596 0.287307802 0.316082138 0.41731 0.44684 0.554375 0.7433476 -0.5];
Ae=[];
be=[];
Au=[-4312.03 -4428.81 -4762.01 -3621 -1742 -1125 -7042 1
0 0 0 1 0 0 0 0
0 0 0 0 1 0 0 0
0 0 0 0 0 1 0 0
16.99234332 15.49032101 16.29521726 0 0 0 0 0
28.69966647 24.77171169 25.46127697 0 0 0 0 0
0.374634341 0.243236446 0.217269563 0 0 0 0 0
3.709548964 3.549331817 3.764874154 0 0 0 0 0
0.519208086 0.439245837 0.453720507 -0.687558374 -0.330772352 -0.213615899
-1.337140588 0
0.800693399 0.626156548 0.637213949 -0.754544082 -0.362998009 -0.234427532
-1.467412158 0
1.389212223 0.956314404 0.910849795 -1.243454189 -0.598204142 -0.386325867
-2.418228224 0
0.02072254 0.007129367 0.003239074 -0.01405806 -0.006763088 -0.004367666
-0.027339646 0
1.481346246 1.260784084 1.304148318 -1.871119181 -0.900162832 -0.581333631
-3.638890162 0
-4070.125117 -4222.427454 -4572.482002 -3578.6343 -1688.3464 -1097.6625 -6592.7204 0
-0.87848773 -0.8804649 -0.87608648 -0.9171424 -0.9362472 -0.95345404 -0.9357319 0];
bu=[0;6.76;2.53;5022.16;300;250;40;36.351;0;0;0;0;0;-59200;-12.3074];
B1=[0;0;0;0;0;0;0;0];
X=linprog(K,Au,bu,Ae,be,B1);
X
%%%%%%%%%%%%%%%%%%%%
%%%%%%不考虑外部性%%%%%%%%%%%
K=[0.232622352 0.281860365 0.310653447 0.574625 0.46229 0.56 0.7433476 -0.5]; Ae=[];
be=[];
Au=[-4312.03 -4428.81 -4762.01 -3621 -1742 -1125 -7042 1
0 0 0 1 0 0 0 0
0 0 0 0 1 0 0 0
0 0 0 0 0 1 0 0
16.99234332 15.49032101 16.29521726 0 0 0 0 0
28.69966647 24.77171169 25.46127697 0 0 0 0 0
0.374634341 0.243236446 0.217269563 0 0 0 0 0
3.709548964 3.549331817 3.764874154 0 0 0 0 0
0.519208086 0.439245837 0.453720507 -0.687558374 -0.330772352 -0.213615899
-1.337140588 0
0.800693399 0.626156548 0.637213949 -0.754544082 -0.362998009 -0.234427532
-1.467412158 0
1.389212223 0.956314404 0.910849795 -1.243454189 -0.598204142 -0.386325867
-2.418228224 0
0.02072254 0.007129367 0.003239074 -0.01405806 -0.006763088 -0.004367666
-0.027339646 0
1.481346246 1.260784084 1.304148318 -1.871119181 -0.900162832 -0.581333631
-3.638890162 0
-4070.125117 -4222.427454 -4572.482002 -3578.6343 -1688.3464 -1097.6625 -6592.7204 0
-0.87848773 -0.8804649 -0.87608648 -0.9171424 -0.9362472 -0.95345404 -0.9357319 0];
bu=[0;6.76;2.53;5022.16;300;250;40;36.351;0;0;0;0;0;-59200;-12.3074];
B1=[0;0;0;0;0;0;0;0];
X=linprog(K,Au,bu,Ae,be,B1);
X
%%%%%%%%%%%%%%%%%%%%
%%%%%%%%%%%%%%%%%%%
K1=[0.139631859 0.139615604 0.148830943 0.113848333 0.104826667 0.119583333
0.28726]
K2=[0.12691137 0.128720731 0.13797356 0.113848333 0.104826667 0.119583333
0.28726]
function f=fun2(x);
f=(0.139631859*x(1)+0.139615604*x(2)+0.148830943*x(3)+0.113848333*x(4)+0.104826667*x( 5)+0.119583333*x(6)+0.28726*x(7))/(4312.03*x(1)+4428.81*x(2)+4762.01*x(3)+3621*x(4)+1742 *x(5)+1125*x(6)+7042*x(7))
end
function f=fun3(x);
f=(0.12691137*x(1)+0.128720731*x(2)+0.13797356*x(3)+0.086588333*x(4)+0.080756667*x(5)+ 0.090583333*x(6)+0.25246*x(7))/(4312.03*x(1)+4428.81*x(2)+4762.01*x(3)+3621*x(4)+1742*x( 5)+1125*x(6)+7042*x(7))
end
X0=[2.50562
2.74696
0.67742
3.1954
1.3075
0.4218
0.2717];
A=[0 0 0 1 0 0 0
0 0 0 0 1 0 0
0 0 0 0 0 1 0
16.99234332 15.49032101 16.29521726 0 0 0 0
28.69966647 24.77171169 25.46127697 0 0 0 0
0.374634341 0.243236446 0.217269563 0 0 0 0
3.709548964 3.549331817 3.764874154 0 0 0 0
0.519208086 0.439245837 0.453720507 -0.687558374 -0.330772352 -0.213615899
-1.337140588
0.800693399 0.626156548 0.637213949 -0.754544082 -0.362998009 -0.234427532
-1.467412158
1.389212223 0.956314404 0.910849795 -1.243454189 -0.598204142 -0.386325867
-2.418228224
0.02072254 0.007129367 0.003239074 -0.01405806 -0.006763088 -0.004367666
-0.027339646
1.481346246 1.260784084 1.304148318 -1.871119181 -0.900162832 -0.581333631
-3.638890162
-4070.125117 -4222.427454 -4572.482002 -3578.6343 -1688.3464 -1097.6625 -6592.7204
-0.87848773 -0.8804649 -0.87608648 -0.9171424 -0.9362472 -0.95345404 -0.9357319];
b=[6.76
2.53
5022.16
300
250
40
36.351
-59200
-12.3074];
Aeq=[];
beq=[];
Vlb=[0
0];
Vub=[4;4;1.5;6;2;1;0.5];
X=fmincon('fun2',X0,A,b,Aeq,beq,Vlb,Vub) X=fmincon('fun3',X0,A,b,Aeq,beq,Vlb,Vub)
最优化方法及其应用 作者：郭科 出版社：高等教育出版社 类别：不限 出版日期：20070701 最优化方法及其应用 的图书简介 系统地介绍了最优化的理论和计算方法,由浅入深,突出方法的原则,对最优化技术的理论作丁适当深度的讨论,着重强调方法与应用的有机结合,包括最优化问题总论,线性规划及其对偶问题,常用无约束最优化方法,动态规划,现代优化算法简介,其中前八章为传统优化算法,最后一章还给出了部分优化问题的设计实例,也可供一般工科研究生以及数学建模竞赛参赛人员和工程技术人员参考, 最优化方法及其应用 的pdf电子书下载 最优化方法及其应用 的电子版预览 第一章 最优化问题总论1.1 最优化问题数学模型1.2 最优化问题的算法1.3 最优化算法分类1.4
组合优化问題简卉习题一第二章 最优化问题的数学基础2.1 二次型与正定矩阵2.2 方向导数与梯度2.3 Hesse矩阵及泰勒展式2.4 极小点的判定条件2.5 锥、凸集、凸锥2.6 凸函数2.7 约束问题的最优性条件习题二第三章 线性规划及其对偶问题3.1线性规划数学模型基本原理3.2 线性规划迭代算法3.3 对偶问题的基本原理3.4 线性规划问题的灵敏度习题三第四章 一维搜索法4.1 搜索区间及其确定方法4.2 对分法4.3 Newton切线法4.4 黄金分割法4.5 抛物线插值法习题四第五章 常用无约束最优化方法5.1 最速下降法5.2 Newton法5.3 修正Newton法5.4 共轭方向法5.5 共轭梯度法5.6 变尺度法5.7 坐标轮换法5.8 单纯形法习題五第六章 常用约束最优化方法6.1外点罚函数法6.2 內点罚函数法6.3 混合罚函数法6.4 约束坐标轮换法6.5 复合形法习题六第七章 动态规划7.1 动态规划基本原理7.2 动态规划迭代算法7.3 动态规划有关说明习题七第八章 多目标优化8.1 多目标最优化问题的基本原理8.2 评价函数法8.3 分层求解法8.4目标规划法习题八第九章 现代优化算法简介9.1 模拟退火算法9.2遗传算法9.3 禁忌搜索算法9.4 人工神经网络第十章 最优化问题程序设计方法10.1 最优化问题建模的一般步骤10.2 常用最优化方法的特点及选用标准10.3 最优化问题编程的一般过程10.4 优化问题设计实例参考文献 更多 最优化方法及其应用 相关pdf电子书下载
陆吾生教授是加拿大维多利亚大学电气与计算机工程系 (Dept. of Elect. and Comp. Eng. University of Victoria) 的正教授, 且为我校兼职教授，曾多次来我校数学系电子系讲学。陆吾生教授的研究方向是：最优化理论和小波理论及其在1维和2维的数字信号处理、数字图像处理、控制系统优化方面的应用。 现陆吾生教授计划在 2007 年 10－11 月来校开设一门为期一个月的短期课程“最优化理论及其应用”（每周两次，每次两节课），对象是数学系、计算机系、电子系的教师、高年级本科生及研究生，以他在2006年出版的最优化理论的专著作为教材。欢迎数学系、计算机系、电子系的研究生及高年级本科生选修该短期课程，修毕的研究生及本科生可给学分。 上课地点及时间：每周二及周四下午2:00开始，在闵行新校区第三教学楼326教室。（自10月11日至11月8日） 下面是此课程的内容介绍。 ----------------------------------- 最优化方法及应用 I. 函数的最优化及应用 1.1 无约束和有约束的函数优化问题 1.2 有约束优化问题的Karush-Kuhn-Tucker条件 1.3 凸集、凸函数和凸规划 1.4 Wolfe对偶 1.5 线性规划与二次规划 1.6 半正定规划 1.7 二次凸锥规划 1.8 多项式规划 1.9解最优化问题的计算机软件 II 泛函的最优化及应用 2.1 有界变差函数 2.2 泛函的变分与泛函的极值问题 2.3 Euler-Lagrange方程 2.4 二维图像的Osher模型 2.5 泛函最优化方法在图像处理中的应用 2.5.1 噪声的消减 2.5.2 De-Blurring 2.5.3 Segmentation ----------------------------------------------- 注：这是一门约二十学时左右的短期课程，旨在介绍函数及泛函的最优化理论和方法，及其在信息处理中的应用。只要学过一元及多元微积分和线性代数的学生就能修读并听懂本课程。课程中涉及到的算法实现和应用举例都使用数学软件MATLAB 华东师大数学系
单纯形法求最优解问题 题目（老师布置的那道作业题）：2153m ax x x f +=，其中 ??? ??? ?=≥=++=+=+5,4,3,2,1,0182312245214 231j x x x x x x x x j ，求2153m ax x x f +=的最大值。 这张表是根据题目画的，Cj （行向量）为5432100053m ax x x x x x f ++++=中各个变量的系数，Ci （列向量）为与X B （列向量）相对应的各项的系数，X B 称为基变量（3列，由题目中的方程个数决定），起初的基变量由构造的变量x3、x4、x5组成，b 为对应三个方程等式右边的常数，z j 为Ci 各列与xj 各列乘积的和，如z1=0*1+0*0+0*3=0。i θ为判别将哪个基变量换出的依据，根据c j -z j 为正，要先将x2换入XB 中，关键是判断x3、x4、x5哪个跟x2换，这就要根据各列各列除以2x B i X =θ，与所得的最小的i θ对应的XB 换，如上表可知x2跟x4换，换完之后注意原来x4所对应的列向量为[0 1 0]T ,故要将x2所对应的列向量变换为为[0 1 0]T ，注意b 也要跟着变化，于是得下表.
由上表知c 1-z 1=3>0，故仍需将x1换入XB 中，用各列各列除以2x B i X =θ，与所得的最小的i θ对应的XB 换，结合i θ可知，x1跟x5换，于是得下表。 由上表可知c j -z j 均非正，故5432100053m ax x x x x x f ++++=取最大值时，????? ?? ?????????=00662x ， 对应的最大值36max =f . 系统工程导论知识点整理： 系统是由相互作用和相互依赖的若干组成部分(要素)结合的具有特定功能的有机整体。 系统的特征：整体性、相关性、目的性、环境适应性。 系统的功能是指系统与外部环境相互作用所反映的能力。 结构是功能的内在根据，功能是结构的外在表现。 系统功能的特性：易变性、相关性。 系统工程就是用科学的方法规划和组织人力、物力、财力，通过最优途径的选择，使人们的工作在一定期限内收到最合理、最经济、最有效的效果。 科学的方法：从整体观念出发，通盘筹划，合理安排整体中的每一个局部，以求得整体的最优规划、最优管理和最优控制，使每个局部都服从一个整体目标，力求避免资源的损失和浪费。
习题二包括题目：P36页5（1）（4） 5（4）
习题三 包括题目：P61页1(1)(2); 3; 5; 6; 14；15(1) 1(1)(2)的解如下 3题的解如下
5,6题 14题解如下 14. 设22121212()(6)(233)f x x x x x x x =+++---, 求点在(4,6)T -处的牛顿方向。 解：已知 (1) (4,6)T x =-，由题意得 121212212121212(6)2(233)(3)()2(6)2(233)(3)x x x x x x x f x x x x x x x x +++-----?? ?= ?+++-----?? ∴ (1)1344()56g f x -?? =?= ??? 21212122211212122(3)22(3)(3)2(233)()22(3)(3)2(233)22(3)x x x x x x x f x x x x x x x x +--+--------? ??= ? +--------+--?? ∴ (1)2(1)1656()()564G x f x --?? =?= ?-?? (1)1 1/8007/400()7/4001/200G x --?? = ?--?? ∴ (1)(1)11141/100()574/100d G x g -?? =-= ?-?? 15（1）解如下 15. 用DFP 方法求下列问题的极小点 （1）22 121212min 353x x x x x x ++++ 解：取 (0) (1,1)T x =，0H I =时，DFP 法的第一步与最速下降法相同 2112352()156x x f x x x ++???= ?++??， (0)(1,1)T x =，(0) 10()12f x ???= ??? (1)0.07800.2936x -??= ?-??， (1) 1.3760() 1.1516f x ???= ?-?? 以下作第二次迭代 (1)(0) 1 1.07801.2936x x δ-??=-= ?-??， (1)(0) 18.6240()()13.1516f x f x γ-??=?-?= ?-?? 0110 111011101 T T T T H H H H H γγδδδγγγ=+-
最优化方法及其Matlab程序设计 1.最优化方法概述 在生活和工作中，人们对于同一个问题往往会提出多个解决方案，并通过各方面的论证，从中提取最佳方案。最优化方法就是专门研究如何从多个方案中科学合理地提取出最佳方案的科学。最优化是每个人，每个单位所希望实现的事情。对于产品设计者来说，是考虑如何用最少的材料，最大的性能价格比，设计出满足市场需要的产品。对于企业的管理者来说，则是如何合理、充分使用现有的设备，减少库存，降低能耗，降低成本，以实现企业的最大利润。 由于优化问题无所不在，目前最优化方法的应用和研究已经深入到了生产和科研的各个领域，如土木工程、机械工程、化学工程、运输调度、生产控制、经济规划、经济管理等，并取得了显著的经济效益和社会效益。 用最优化方法解决最优化问题的技术称为最优化技术，它包含两个方面的内容： 1）建立数学模型。 即用数学语言来描述最优化问题。模型中的数学关系式反映了最优化问题所要达到的目标和各种约束条件。 2）数学求解。 数学模型建好以后，选择合理的最优化算法进行求解。 最优化方法的发展很快，现在已经包含有多个分支，如线性规划、整数规划、非线性规划、动态规划、多目标规划等。 2.最优化方法（算法）浅析 最优化方法求解很大程度上依赖于最优化算法的选择。这里，对最优化算法做一个简单的分类，并对一些比较常用的典型算法进行解析，旨在加深对一些最优化算法的理解。 最优化算法的分类方法很多，根据不同的分类依据可以得到不同的结果，这里根据优化算法对计算机技术的依赖程度，可以将最优化算法进行一个系统分类：线性规划与整数规划；非线性规划；智能优化方法；变分法与动态规划。 2.1 线性规划与整数规划 线性规划在工业、农业、商业、交通运输、军事和科研的各个研究领域有广泛应用。例如，在资源有限的情况下，如何合理使用人力、物力和资金等资源，以获取最大效益；如何组织生产、合理安排工艺流程或调制产品成分等，使所消耗的资源（人力、设备台时、资金、原始材料等）为最少等。 线性规划方法有单纯形方法、大M法、两阶段法等。 整数规划有割平面法、分枝定界法等。 2.2 非线性规划 20世纪中期，随着计算机技术的发展，出现了许多有效的算法——如一些非线性规划算法。非线性规划广泛用于机械设计、工程管理、经济生产、科学研究和军事等方面。
三、单纯形法的解题步骤 第一步：作单纯形表. ）（1）把原线性规划问题化为标准形式； ）（2）找出初始可行基，通常取约束方程组系数矩阵中的单位矩阵； ）（3）目标函数非基化； ）（4）作初始单纯形表. 第二步：最优解的判定. (1) 若所有检验数都是非正数，即，则此时线性规划问题已取 得最优解. (2) 若存在某个检验数是正数，即，而所对应的列向量无正分量，则线性规划 问题无最优解. 如果以上两条都不满足，则进行下一步. 第三步：换基迭代. ，并确定所在列的非基变量为进基变量. （1）找到最大正检验数，设为 （2）对最大正检验数所在列实施最小比值法，确定出主元，并把主元加上小括号. 主元是最大正检验数 所在列，用常数项与进基变量所对应的列向 量中正分量的比值最小者； 替换出基变量，从而得到新的基变量.也就是主元所在 （3）换基：用进基变量 （4）利用矩阵的行初等变换，将主元变为1，其所在列其他元素都变为零，从此得到新的单纯形表； （5）回到第二步，继续判定最优解是否存在，然后进行新一轮换基迭代，直到问题得到解决为止. 例3 求.
解（1）化标准型：令 ，引进松弛变量 ，其标准型为 求 （2）作单纯形表：在约束方程组系数矩阵中 的系数构成单位矩阵，故取 为基变量，目标函数已非基化了，作初始单纯形表并“换基迭代”（见表6.8）.表 6.8
（3）最终结果：此时检验数均为非正数，线性规划问题取得最优解，最优解为 目标函数取得最优值. 原线性规划问题的最优解为：.目标函数的最优值为14，即. 例4 用单纯形方法解线性规划问题. 求. 解此数学模型已是标准型了，其中约束方程含有一个二阶单位矩阵（1、2行，3、4列构成），取为基变量，而目标函数没有非基化.从约束方程找出 ，, 代入目标函数 , 经整理后，目标函数非基化了. 作单纯形表，并进行换基迭代（见表6.9）. 最大检验数，由最小比值法知：为主元，对主元所在列施以行初等变出基，非基变量进基. 换，基变量
x zD 天津大学《最优化方法》复习题(含答案) 第一章 概述(包括凸规划) 判断与填空题 arg max f(x)二 arg min 以儿 “ max(x): x D 二 R n 』=-min(x): x D 二 R n ； 设f : D 5 R n > R.若x ： R n ，对于一切R n 恒有f(x”)^f(x)，则称x”为 设f : D 5 R n >R.若x ” ? D ,存在x ”的某邻域N ；(x”)，使得对一切 x ?N .(x)恒有f(x”)：：： f (x)，则称x”为最优化问题 min f (x)的严格局部最 优解? 给定一个最优化问题，那么它的最优值是一个定值 ? V 非空集合D R n 为凸集当且仅当 D 中任意两点连线段上任一点属于 D . V 非空集合D R n 为凸集当且仅当D 中任意有限个点的凸组合仍属于 D . V 任意两个凸集的并集为凸集? 函数f:D R n >R 为凸集D 上的凸函数当且仅当 -f 为D 上的凹函数? V 设f : D R n >R 为凸集D 上的可微凸函数，X ：D ?则对-D ,有 f (x) - f(x )乞 f (x )T (X —X )? 若c(x)是凹函数，则 D={x^R n C(x)启0}是凸集。 V f(x)的算法A 产生的迭代序列，假设算法 A 为下降算法, 则对-k ? 5,1, 2,…匚恒有 ________________ f(x k1)乞 f(x k ) ______________ ? 算法迭代时的终止准则(写出三种) ： ___________________________________________________ 凸规划的全体极小点组成的集合是凸集。 V 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16
1 2 ( ( 最优化方法部分课后习题解答 1.一直优化问题的数学模型为： 习题一 min f (x ) = (x ? 3)2 + (x ? 4)2 ? g (x ) = x ? x ? 5 ≥ ? 1 1 2 2 ? 试用图解法求出： s .t . ?g 2 (x ) = ?x 1 ? x 2 + 5 ≥ 0 ?g (x ) = x ≥ 0 ? 3 1 ??g 4 (x ) = x 2 ≥ 0 （1） 无约束最优点，并求出最优值。 （2） 约束最优点，并求出其最优值。 （3） 如果加一个等式约束 h (x ) = x 1 ? x 2 = 0 ，其约束最优解是什么？ * 解 ：（1）在无约束条件下， f (x ) 的可行域在整个 x 1 0x 2 平面上，不难看出，当 x =（3，4） 时， f (x ) 取最小值，即，最优点为 x * =（3，4）：且最优值为： f (x * ) =0 （2）在约束条件下， f (x ) 的可行域为图中阴影部分所示，此时，求该问题的最优点就是 在约束集合即可行域中找一点 (x 1 , x 2 ) ，使其落在半径最小的同心圆上，显然，从图示中可 以看出，当 x * = 15 , 5 ) 时， f (x ) 所在的圆的半径最小。 4 4 ?g (x ) = x ? x ? 5 = 0 ? 15 ?x 1 = 其中：点为 g 1 (x ) 和 g 2 (x ) 的交点，令 ? 1 1 2 ? 2 求解得到： ? 4 5 即最优点为 x * = ? ?g 2 (x ) = ?x 1 ? x 2 + 5 = 0 15 , 5 ) ：最优值为： f (x * ) = 65 ?x = ?? 2 4 4 4 8 （3）.若增加一个等式约束，则由图可知，可行域为空集，即此时最优解不存在。 2.一个矩形无盖油箱的外部总面积限定为 S ，怎样设计可使油箱的容量最大？试列出这个优 化问题的数学模型，并回答这属于几维的优化问题. 解：列出这个优化问题的数学模型为： max f (x ) = x 1x 2 x 3 ?x 1x 2 + 2x 2 x 3 + 2x 1x 3 ≤ S
一、 填空题 1 ． 若 ()()??? ? ??+???? ?????? ??=212121 312112)(x x x x x x x f ，则 =?)(x f ，=?)(2x f . ２．设f 连续可微且0)(≠?x f ，若向量d 满足 ，则它是f 在x 处的一个下降方向。 3.向量T ) 3,2,1(关于3阶单位方阵的所有线性无关的共轭向量 有 ． 4. 设R R f n →:二次可微，则f 在x 处的牛顿方向为 . 5.举出一个具有二次终止性的无约束二次规划算 法: . 6.以下约束优化问题： )(01)(..)(min 212121 ≥-==+-==x x x g x x x h t s x x f 的K-K-T 条件为： . 7．以下约束优化问题： 1 ..)(min 212 2 21=++=x x t s x x x f 的外点罚函数为(取罚参数为μ) . 二、证明题（７分+8分) 1.设1,2,1,:m i R R g n i =→和m m i R R h n i ,1,:1+=→都是线性函数,证明下 面的约束问题: } ,,1{, 0)(},1{, 0)(..)(min 1112 m m E j x h m I i x g t s x x f j i n k k +=∈==∈≥=∑= 是凸规划问题。
2.设R R f →2 :连续可微，n i R a ∈,R h i ∈,m i ,2,1=,考察如下的约束条件问题: } ,1{,0} 2,1{,0..) (min 11m m E i b x a m I i b x a t s x f i T i i T i +=∈=-=∈≥- 设d 是问题 1 ||||,0,0..)(min ≤∈=∈≥?d E i d a I i d a t s d x f T i T i T 的解，求证：d 是f 在x 处的一个可行方向。 三、计算题（每小题１2分) １.取初始点T x )1,1() 0(=.采用精确线性搜索的最速下降法求解下面的无约束优化问题 (迭代２步）: 2 2212)(m in x x x f += 2.采用精确搜索的BFGS 算法求解下面的无约束问题： 212 2212 1)(min x x x x x f -+= 3.用有效集法求解下面的二次规划问题: . 0,001..42)(min 21212 12 221≥≥≥+----+=x x x x t s x x x x x f 4．用可行方向算法(Zoutend ｉj ｋ算法或Ｆrank Wol ｆｅ算法）求解下面的问题（初值设为)0,0() 0(=x ,计算到)2(x 即可）： . 0,033..22 1)(min 212112 22121≥≥≤+-+-= x x x x t s x x x x x x f
单纯形法求解线性规划的思路及重要参数 的推导 在求解线性规划问题的算法中，单纯形法是一种成熟、简便、有效的算法，在目前应用最为广泛。因此，我们组通过查阅资料以及小组讨论的形式，分工合作，共同探讨出单纯形法求解线性规划的思路。 一般线性规划问题有时具有线性方程组的变量数大于方程个数 的情况, 这时就使得方程有不定的解。这时就可以使用单纯形法来求解，从线性方程组中找出一个个的单纯形, 每一个单纯形可以求得一组解, 然后再判断该解使目标函数值是增大还是变小, 决定下一步 选择的单纯形。在这其中每一个单纯形所对应的解其实都相当于n维空间图形中的一个顶点，我们就是要一个顶点，一个顶点的找到使目标函数值更好的顶点, 直到目标函数实现最大值或最小值为止。这样问题就得到了最优解。 具体的求解步骤来说有6步：1：建立基本可行解。2：计算变量的检验数。3：判断是否最优。4：若不是最优解，则换基。5：计算新的基本可行解。6：迭代计算直到求的最优解或者可判断无最优解为止。 接下来，我们通过具体的事例来详细介绍具体的求解步骤，并列出重要参数以及定理的推导过程。 某工厂在计划期内要安排生产Ⅰ、Ⅱ两种产品, 已知生产单位产品所需的设备台时及A、B 两种原材料的消耗, 如下表所示。
该工厂每生产一件产品Ⅰ可获利2 元, 每生产一件产品Ⅱ可获利3元, 问应如何安排计划使该工厂获利最多? 解：根据题意建立其标准型： max z = 2x1 + 3x2 + 0x3 + 0x4 + 0x5 (1) x1 +2x2 +x3 = 8 4x1 + x4 = 16 (2) 4x2 +x5 = 12 x j ≥0 , j = 1 , 2 , ? , 5 一、建立基本可行解 在标准型中x3 , x4 , x5为转化为标准型时加入的松弛变量，从(2)式中可以看到x3, x4 , x5的系数列向量 1 0 0 P3 = 0 , P4 = 1 , P5 = 0 0 0 1 而这些列向量就可以看做一个初始可行基 1 0 0 B = ( P3 , P4 , P5 ) = 0 1 0 0 0 1
分数: ___________任课教师签字：___________ 课程作业 学年学期：2017——2018学年第二学期 课程名称：优化理论 作业名称：作业三 学生姓名： 学号： 提交时间：
一、问题重述 形如的min (x),x R n f ∈问题称为无约束优化问题，常用下降算法来解决这类问题。下降算法的关键在于步长和搜索方向的选取。步长的求取可以借助前面作业中提到的一维搜索等方法求取，而搜索方向算法可以分为两大类，解析法和直接法。 解析法借助了目标函数的导数进行搜索，这类算法搜索速度快、效率高，但是对目标函数的要求更为严格。常用的方法有最速下降法、Newton 法、共轭梯度法、拟Newton 法等。 直接法不使用导数，也不需要得到目标函数的明确解析式，只需要能够得到某些函数上的点即可。因此直接法的适用范围更广，但相应的收敛速度会较慢，计算量也会随着问题维数的增加而迅速增大。常用的方法有单纯形法、Powell 方向加速法以及Powell 改进算法。 本作业以直接法的Powell 法为例，解决具体的无约束优化问题，并对将Powell 方向加速法和Powell 改进算法解决结果进行对比。 二、算法原理 对于n 维正定二次函数(x)0.5T T f x Gx b x c =++，设011,,...(k n)k p p p -<关于G 共轭，0x 与1x 为任意不同点。分别从0x 与1x 出发，依次沿011,,...k p p p -作一维搜索。如果最后找到两个互不相同的极小点x a 与x b ，则x b a x -与011,,...k p p p -关于G 共轭。 Powell 方向加速法正是基于这一原理，每次迭代过程作n+1次一维搜索。第一次沿给定的n 个线性无关的方向011,,...n p p p -依次作一维搜索，之后沿由这一阶段的起点到第n 次搜索所得到的点的方向P 再做一次一维搜索，并把这次所得点作为下一阶段的起点，下一阶段的n 个搜索方向为011,,...,n p p p p -。以此直到找到最优解。 此算法是在迭代中逐次生成共轭方向，而共轭方向又是较好的搜索方向，所以称之为方向加速法。但是，此算法产生的n 个向量可能线性或近似线性相关，这时张不成n 维空间，可能得不到真正的极小点。因此，Powell 原始算法存在一定的缺陷。 Powell 改进算法虽然不再具有二次终止性，但克服了搜索方向的线性相关的不利情形，是解决无约束优化问题较有效的直接法之一。 本次作业一维搜索的过程是利用函数求导，求得最小值。经过试验发现，α是允许为负数的。否则最终寻优得到的极值点与实际结果存在很大的偏差，
分数: ___________ 任课教师签字：___________ 课程作业 学年学期：2017——2018学年第二学期 课程名称：优化理论 作业名称：作业三 学生姓名： 学号： 提交时间：
一、问题重述 形如的min (x),x R n f ∈问题称为无约束优化问题，常用下降算法来解决这类问题。下降算法的关键在于步长和搜索方向的选取。步长的求取可以借助前面作业中提到的一维搜索等方法求取，而搜索方向算法可以分为两大类，解析法和直接法。 解析法借助了目标函数的导数进行搜索，这类算法搜索速度快、效率高，但是对目标函数的要求更为严格。常用的方法有最速下降法、Newton 法、共轭梯度法、拟Newton 法等。 直接法不使用导数，也不需要得到目标函数的明确解析式，只需要能够得到某些函数上的点即可。因此直接法的适用范围更广，但相应的收敛速度会较慢，计算量也会随着问题维数的增加而迅速增大。常用的方法有单纯形法、Powell 方向加速法以及Powell 改进算法。 本作业以直接法的Powell 法为例，解决具体的无约束优化问题，并对将Powell 方向加速法和Powell 改进算法解决结果进行对比。 二、算法原理 对于n 维正定二次函数(x)0.5T T f x Gx b x c =++，设011,,...(k n)k p p p -<关于G 共轭，0x 与1x 为任意不同点。分别从0x 与1x 出发，依次沿011,,...k p p p -作一维搜索。如果最后找到两个互不相同的极小点x a 与x b ，则x b a x -与011,,...k p p p -关于G 共轭。 Powell 方向加速法正是基于这一原理，每次迭代过程作n+1次一维搜索。第一次沿给定的n 个线性无关的方向011,,...n p p p -依次作一维搜索，之后沿由这一阶段的起点到第n 次搜索所得到的点的方向P 再做一次一维搜索，并把这次所得点作为下一阶段的起点，下一阶段的n 个搜索方向为011,,...,n p p p p -。以此直到找到最优解。 此算法是在迭代中逐次生成共轭方向，而共轭方向又是较好的搜索方向，所以称之为方向加速法。但是，此算法产生的n 个向量可能线性或近似线性相关，这时张不成n 维空间，可能得不到真正的极小点。因此，Powell 原始算法存在一定的缺陷。 Powell 改进算法虽然不再具有二次终止性，但克服了搜索方向的线性相关的不利情形，是解决无约束优化问题较有效的直接法之一。 本次作业一维搜索的过程是利用函数求导，求得最小值。经过试验发现，α是允许为负数的。否则最终寻优得到的极值点与实际结果存在很大的偏差，而且寻优的效率特别低下。
一、 填空题 1.若()()??? ? ??+???? ?????? ??=212121 312112)(x x x x x x x f ， 则=?)(x f ，=?)(2x f . 2.设f 连续可微且0)(≠?x f ，若向量d 满足 ，则它是f 在x 处的一个下降方向。 3.向量T )3,2,1(关于3阶单位方阵的所有线性无关的共轭向量有 . 4. 设R R f n →:二次可微，则f 在x 处的牛顿方向为 . 5.举出一个具有二次终止性的无约束二次规划算法： . 6.以下约束优化问题： )(01)(..)(min 212121 ≥-==+-==x x x g x x x h t s x x f 的K-K-T 条件为： . 7.以下约束优化问题： 1 ..)(min 212 2 21=++=x x t s x x x f 的外点罚函数为（取罚参数为μ） . 二、证明题（7分+8分） 1.设1,2,1,:m i R R g n i =→和m m i R R h n i ,1,:1+=→都是线性函数，证明下 面的约束问题： } ,,1{, 0)(},1{, 0)(..)(min 1112 m m E j x h m I i x g t s x x f j i n k k +=∈==∈≥=∑= 是凸规划问题。
2.设R R f →2 :连续可微，n i R a ∈，R h i ∈，m i ,2,1=，考察如下的约束条件问题： } ,1{,0} 2,1{,0..) (min 11m m E i b x a m I i b x a t s x f i T i i T i +=∈=-=∈≥- 设d 是问题 1 ||||,0,0..)(min ≤∈=∈≥?d E i d a I i d a t s d x f T i T i T 的解，求证：d 是f 在x 处的一个可行方向。 三、计算题（每小题12分） 1.取初始点T x )1,1() 0(=.采用精确线性搜索的最速下降法求解下面的无约束优化问题 （迭代2步）： 2 2212)(m in x x x f += 2.采用精确搜索的BFGS 算法求解下面的无约束问题： 212 2212 1)(min x x x x x f -+= 3.用有效集法求解下面的二次规划问题： . 0,001..42)(min 21212 12 221≥≥≥+----+=x x x x t s x x x x x f 4.用可行方向算法（Zoutendijk 算法或Frank Wolfe 算法）求解下面的问题（初值设为)0,0() 0(=x ,计算到)2(x 即可)： . 0,033..22 1)(min 21211222121≥≥≤+-+-= x x x x t s x x x x x x f
clear clc X=[1 2 3 4 5]; A=[ 1 2 1 0 0; 4 0 0 1 0; 0 4 0 0 1]; C=[2 3 0 0 0 ]; b=[8;16;12]; t=[3 4 5]; B0=A(:,t); while 1 CB0=C(:,t); XN01=X; for i=1:length(t); for j=1:length(X); if XN01(j)==t(i) XN01(j)=0; end end end j=1; for i=1:length(X); if XN01(i)~=0 XN0(j)=XN01(i); j=j+1; end end for j=1:length(XN0); CN0(j)=C(XN0(j)); end N0=[]; for i=1:length(XN0); N0=[N0,A(:,XN0(i))]; end xiN0=CN0-CB0*B0*N0; j=1; z=[]; for i=1:length(xiN0) if xiN0(i)>0 z(j)=i; j=j+1; end end if length(z)+1==1; break; end n=1; for i=1:length(z) if z(i)>z(n) n=i; end end k=XN0(z(n));%换入变量 B=B0*b; P=B0*A(:,k); j=1; for i=1:length(P)
if P(i)>0 x(j)=i; j=j+1; end end y=1; for i=1:length(x) if B(x(y))/P(x(y))>B(x(i))/P(x(i)) y=i; end end y1=x(y); y=t(y1);%换出变量 for i=1:length(t) if t(i)==y m=i; break; end end t(m)=k; P2=B0*A(:,k); q=P2(y1); P2(y1)=-1; P2=-P2./q; E=[1 0 0;0 1 0;0 0 1]; E(:,m)=P2; B0=E*B0; end CB0*B0*b
动态规划方法在计算机专业的应用 科目：最优化方法 姓名：*** 专业：计算机科学与技术 学号：201320405 指导老师：*** 日期：2014/1/9
动态规划方法在计算机专业的应用 摘要：最优化方法是一门很有用的学科，本文结合计算机专业，讨论了用动态规划方法解决计算最长公共子序列、最大字段和、背包问题的过程，并对比其它算法以说明动态规划方法的高效、实用。 关键词：动态规划，最优化，算法分析 Abstract: The optimization method is a useful discipline, this paper, a computer professional, discusses the process used to calculate the dynamic programming method to solve the longest common subsequence, the maximum field and, knapsack problem, and compared to other algorithms to illustrate the dynamic programming method efficient and practical. Keywords: dynamic programming, optimization, algorithm analysis 动态规划（dynamic programming）是通过结合子问题的解而解决整个问题的。（此处“programming”是指一种规划，而不是指写计算机代码。）动态规划适用于子问题不是独立的情况，也就是各子问题包含公共的子子问题。在这种情况下，若用分治法则会做很多不必要的工作，即重复地求解公共的子子问题。动态规划算法对每个公共的子子问题只求解一次，将其结果保存在一张表中，从而避免了每次遇到各个子问题时重新计算答案。 一、算法设计与优化 动态规划通常应用于最优化问题。此类问题可能有很多可行解。
%%%%%%%%%%考虑外部性%%%%%%%%% K=[0.238982596 0.287307802 0.316082138 0.41731 0.44684 0.554375 0.7433476 -0.5]; Ae=[]; be=[]; Au=[-4312.03 -4428.81 -4762.01 -3621 -1742 -1125 -7042 1 0 0 0 1 0 0 0 0 0 0 0 0 1 0 0 0 0 0 0 0 0 1 0 0 16.99234332 15.49032101 16.29521726 0 0 0 0 0 28.69966647 24.77171169 25.46127697 0 0 0 0 0 0.374634341 0.243236446 0.217269563 0 0 0 0 0 3.709548964 3.549331817 3.764874154 0 0 0 0 0 0.519208086 0.439245837 0.453720507 -0.687558374 -0.330772352 -0.213615899 -1.337140588 0 0.800693399 0.626156548 0.637213949 -0.754544082 -0.362998009 -0.234427532 -1.467412158 0 1.389212223 0.956314404 0.910849795 -1.243454189 -0.598204142 -0.386325867 -2.418228224 0 0.02072254 0.007129367 0.003239074 -0.01405806 -0.006763088 -0.004367666 -0.027339646 0 1.481346246 1.260784084 1.304148318 -1.871119181 -0.900162832 -0.581333631 -3.638890162 0 -4070.125117 -4222.427454 -4572.482002 -3578.6343 -1688.3464 -1097.6625 -6592.7204 0 -0.87848773 -0.8804649 -0.87608648 -0.9171424 -0.9362472 -0.95345404 -0.9357319 0]; bu=[0;6.76;2.53;5022.16;300;250;40;36.351;0;0;0;0;0;-59200;-12.3074]; B1=[0;0;0;0;0;0;0;0]; X=linprog(K,Au,bu,Ae,be,B1); X %%%%%%%%%%%%%%%%%%%% %%%%%%不考虑外部性%%%%%%%%%%% K=[0.232622352 0.281860365 0.310653447 0.574625 0.46229 0.56 0.7433476 -0.5]; Ae=[]; be=[]; Au=[-4312.03 -4428.81 -4762.01 -3621 -1742 -1125 -7042 1 0 0 0 1 0 0 0 0
附录5 《最优化方法》复习题 1、设n n A R ?∈是对称矩阵，,n b R c R ∈∈，求1()2 T T f x x Ax b x c =++在任意点x 处的梯度和Hesse 矩阵． 解 2(),()f x Ax b f x A ?=+?=． 2、设()()t f x td ?=+，其中:n f R R →二阶可导，,,n n x R d R t R ∈∈∈，试求()t ?''． 解 2()(),()()T T t f x td d t d f x td d ??'''=?+=?+． 3、设方向n d R ∈是函数()f x 在点x 处的下降方向，令 ()()()()() T T T T dd f x f x H I d f x f x f x ??=--???， 其中I 为单位矩阵，证明方向()p H f x =-?也是函数()f x 在点x 处的下降方向． 证明 由于方向d 是函数()f x 在点x 处的下降方向，因此()0T f x d ?<，从而 ()()()T T f x p f x H f x ?=-?? ()()()()()()()() T T T T T dd f x f x f x I f x d f x f x f x ??=-?--???? ()()()0T T f x f x f x d =-??+?<， 所以，方向p 是函数()f x 在点x 处的下降方向． 4、n S R ?是凸集的充分必要条件是12122,,,,,,,,m m m x x x S x x x ?≥?∈L L 的一切凸组合都属于S ． 证明 充分性显然．下证必要性．设S 是凸集，对m 用归纳法证明．当2m =时，由凸集的定义知结论成立，下面考虑1m k =+时的情形．令1 1k i i i x x λ+==∑， 其中,0,1,2,,1i i x S i k λ∈≥=+L ，且1 1 1k i i λ+==∑．不妨设11k λ+≠（不然1k x x S +=∈， 结论成立），记11 1k i i i k y x λλ=+=-∑ ，有111(1)k k k x y x λλ+++=-+，
大学《最优化方法》复习题（含答案） 第一章 概述(包括凸规划) 一、 判断与填空题 1 )].([arg )(arg min max x f x f n n R x R x -=∈∈ √ 2 {}{} .:)(m in :)(m ax n n R D x x f R D x x f ?∈-=?∈ ? 3 设.:R R D f n →? 若n R x ∈*，对于一切n R x ∈恒有)()(x f x f ≤*，则称*x 为最优化问题 )(min x f D x ∈的全局最优解. ? 4 设.:R R D f n →? 若D x ∈*，存在*x 的某邻域)(*x N ε，使得对一切 )(*∈x N x ε恒有)()(x f x f <*，则称*x 为最优化问题)(min x f D x ∈的严格局部最 优解. ? 5 给定一个最优化问题，那么它的最优值是一个定值. √ 6 非空集合n R D ?为凸集当且仅当D 中任意两点连线段上任一点属于D . √ 7 非空集合n R D ?为凸集当且仅当D 中任意有限个点的凸组合仍属于D . √ 8 任意两个凸集的并集为凸集. ? 9 函数R R D f n →?:为凸集D 上的凸函数当且仅当f -为D 上的凹函数. √ 10 设R R D f n →?:为凸集D 上的可微凸函数，D x ∈*. 则对D x ∈?，有).()()()(***-?≤-x x x f x f x f T ? 11 若)(x c 是凹函数，则}0)( {≥∈=x c R x D n 是凸集。 √ 12 设{}k x 为由求解)(min x f D x ∈的算法A 产生的迭代序列，假设算法A 为下降算法， 则对{} ,2,1,0∈?k ，恒有 )()(1k k x f x f ≤+ .
机械优化设计 课程作业 题目：单纯形程序算法学院：机电工程学院专业：机械工程 姓名：郑璐颖 学号：2015020287 指导老师：王玉林
2016年 4 月 24 日 基于MATLAB 的单纯形算法实现 一.算法简述 为求解下面线性规划问题： ?? ?≥≥≤0 ,0..min b x b Ax t s cx 其中初始可行基为松弛变量对应的列组成. 对于一般标准线性规划问题: ?? ?≥≥=0 ,0..min b x b Ax t s cx １．求解上述一般标准线性规划的单纯形算法步骤如下： 对于一般的标准形式线性规划问题(求极小问题),首先给定一个初始基本可行解。设初始基为B,然后执行如下步骤： (1).解 B Bx b =,求得 1 B x B b -=，0,N B B x f c x ==令计算目标函数值 1(1,2,...,)i m B b i -=i 以b 记的第个分量 (2).计算单纯形乘子w, B wB C =,得到1B w C B -=,对于非基变量，计算判别数1i i i B i i z c c B p c σ-=-=-,可直接计算 σ =1B A c c B --令 max{}k i R σσ∈=,R 为非基变量集合 若判别数0k σ≤ ,则得到一个最优基本可行解，运算结束；否则，转到下一步 (3).解 k k By p =,得到 1k k y B p -=；若0k y ≤,即k y 的每个分量均非正数， 则停止计算，问题不存在有限最优解，否则，进行步骤(4).确定下标r,使 { }:0 min ,0 t r rk tk tk b b tk y y t y y >=>且r B x 为离基变量, ,r k B x p k 为进基变量,用p 替换得到新的基矩阵B,还回步骤(1)