最优化模型(第五讲)
- 格式:pdf
- 大小:349.25 KB
- 文档页数:9
数学建模最优化模型随着科学与技术的不断发展,数学建模已经成为解决复杂实际问题的一种重要方法。
在众多的数学建模方法中,最优化模型是一种常用的方法。
最优化模型的目标是找到最佳解决方案,使得一些目标函数取得最大或最小值。
最优化模型的基本思想是将实际问题抽象为一个数学模型,该模型包含了决策变量、约束条件和目标函数。
决策变量是需要优化的变量,约束条件是对决策变量的限制条件,目标函数是优化的目标。
最优化模型的求解方法可以分为线性规划、非线性规划和整数规划等。
线性规划是最优化模型中最基本的一种方法,其数学模型可以表示为:max/min c^T xs.t.Ax<=bx>=0其中,c是目标函数的系数向量,x是决策变量向量,A是约束条件的系数矩阵,b是约束条件的右边向量。
线性规划的目标是找到最优的决策变量向量x,使得目标函数的值最大或最小。
非线性规划是最优化模型中更为复杂的一种方法,其数学模型可以表示为:max/min f(x)s.t.g_i(x)<=0,i=1,2,...,mh_i(x)=0,i=1,2,...,p其中,f(x)是目标函数,g_i(x)是不等式约束条件,h_i(x)是等式约束条件。
非线性规划的求解过程通常需要使用迭代的方法,如牛顿法、拟牛顿法等。
整数规划是最优化模型中另一种重要的方法,其数学模型在线性规划的基础上增加了决策变量的整数限制。
max/min c^T xs.t.Ax<=bx>=0x是整数整数规划的求解通常更为困难,需要使用特殊的算法,如分支定界法、割平面法等。
最优化模型在实际问题中有着广泛的应用,如资源调度、生产计划、路线选择、金融投资等。
通过建立数学模型并求解,可以得到最优的决策方案,提高效益和效率。
总结起来,最优化模型是数学建模的重要方法之一、通过建立数学模型,将实际问题转化为数学问题,再通过求解方法找到最佳解决方案。
最优化模型包括线性规划、非线性规划和整数规划等方法,应用广泛且效果显著。
数学建模讲义主讲人:穆学文西安电子科技大学数学系Email:xdmuxuewen@ 最优化模型---最优化方法的概念参考书目1. 陈宝林。
最优化理论与算法。
清华大学出版社.2. 谢金星,薛毅。
优化建模与lindo/lingo优化软件. 清华大学出版社. 背景知识基本概念及其应用最优化问题举例最优化方法的概念优化问题的数学模型及其分类 最优解与极值点常用的数学软件§1背景知识•运筹学理论的一部分•最早起源于中国古代¾公元前6世纪孙武所著的《孙子兵法》¾孙膑“斗马术”,田忌与齐王赛马,博弈论¾运筹帷幄之中,决胜千里之外”。
这千古名句也可以说是对张良运筹思想的赞颂和褒奖。
•国外起源与发展¾1896年,V.Pareto首次从数学角度提出多目标优化问题,引进了Pareto最优的概念。
¾1935-38年,英国为了正确地运用新研制的雷达系统来对付德国飞机的空袭,在皇家空军中组织了一批科学家,进行新战术试验和战术效率评价的研究,并取得了满意的效果。
他们把自己从事的这种工作命名为“Operational Research”(背景知识(续)Operational Research(运筹学,或直译为作战研究)。
¾1939年,苏联的Л.В.Канторович总结了他对生产组织的研究,写了《生产组织与计划中的数学方法》一书,是线性规划应用于工业生产问题的经典著作¾1947年,G.B.Dantzig提出了单纯形方法后,线性规划便迅速形成为一个独立的分支。
并逐级发展起来。
¾英国运筹学会1948年成立(1948-53年是运筹学俱乐部,1953年11月起改名为学会)。
¾二次大战胜利后,美英各国不但在军事部门继续保留了运筹学的研究核心,而且在研究人员、组织的配备及研究范围和水平上,都得到了进一步的扩大和发展,同时筹学方法也向政府和业等部门扩展背景知识(续)运筹学方法也向政府和工业等部门扩展。
第五讲 二元函数最优化问题§5.1 问题的引入一、 引例【引例】某厂生产两种型号的钢笔,甲种每支售价为10元,乙种每支售价为9元,而生产甲种笔x 支,乙种笔y 支的总费用为)33(01.032400),(22y xy x y x y x C +++++=元,问两种笔的产量各为多少时,企业利润最大?分析:此题讨论利润最大,属最优化问题,先建立函数关系——因变量为企业利润π由于C R -=π而成本为)33(01.03240022y xy x y x C +++++=——二元函数y x R 910+=——二元函数故C R -=π)]33(01.032400[91022y xy x y x y x +++++-+=40003.001.003.06822----+=y xy x y x ——二元函数故此问题为二元函数求最值问题二、 复习一元函数最值求法一元实际应用问题最值求法(步骤) 1、 建立函数关系式 2、 求最值(1) 求定义域 (2) 求一阶导 (3) 找所有可能极值点① 使一阶导=0的点——驻点 ② 使一阶导不存在的点 实际问题通常可能极值点惟一 (4) 将惟一可能极值点转化为最值点因为实际问题存在最大(小)值 所以惟一可能极值点为最大(小)值点3、 答题显然,一元函数的最值与极值有关,若实际问题存在最值,则惟一可能极值点定是最值点,而可能极值点与一阶导有关二元函数与一元函数相类似,在二元函数中,若实际问题存在最值,则惟一可能极值点定是最值点,故二元实际问题应用,也将惟一可能极值点转化为最值点的一元函数可能极值点与一阶导有关,二元函数与一元函数相类似,只不过在一元函数中,为导数,而在二元函数中,不称为导数,而称为偏导数故二元函数极值的寻找也与一阶偏导数有关,判断仍与二阶偏导数有关故为了解最值,需先了解偏导数的概念及计算,以及如何根据偏导数寻找极值、判断极值§5.2 二元函数的偏导数一、二元函数一阶偏导数 (一) 复习一元函数一阶导数定义一元函数)(x f y =在点0x 处的导数定义为:xx f x x f x yx f x x ∆-∆+=∆∆='→∆→∆)()(lim lim )(00000其中:x ∆表示自变量x 在0x 处的改变量y ∆表示当自变量x 在0x 处有改变量x ∆时,函数相应改变量于是导数定义为:函数改变量比自变量改变量,当自变量改变量趋于0时的极限简称为:差商极限(二) 二元函数一阶偏导概念 1、二元函数改变量概念二元函数),(y x f z =在点),(00y x 处的改变量分为两类——全改变量、偏改变量x 和y 都发生改变——),(),(0000y x f y y x x f z -∆+∆+=∆x 改变量;②偏y 改变量①偏x 改变量——仅x 发生改变(y 不变)——),(),(0000y x f y x x f z x -∆+=∆ ②偏y 改变量——仅y 发生改变(x 不变)——),(),(0000y x f y y x f z y -∆+=∆ 二元函数的导数,用的是偏改变量,因而称为偏导数 2、二元函数在一点处的偏导数值定义函数),(y x f z =在点),(00y x 处对x 的偏导数表示为:),(00y x f x 或),(00y x x z∂∂,其定义如下:xy x f y x x f x z y x f x x x x ∆-∆+=∆∆=→∆→∆),(),(lim lim),(00000000函数),(y x f z =在点),(00y x 处对y 的偏导数表示为:),(00y x f y 或),(00y x yz∂∂,其定义如下:yy x f y y x f yz y x f y y y y ∆-∆+=∆∆=→∆→∆),(),(limlim),(0000000一点处的偏导数),(00y x f x 、),(00y x f y 结果为——数值3、二元函数一阶偏导函数概念函数),(y x f z =在区域D 内每点对x 的偏导数都存在,则称函数在区域D 内对x 可偏导,于是对于区域D 内每一个点),(y x ,都有惟一确定的对x 的偏导函数值相对应,于是在D 内定义了一个新函数,以),(y x 为自变量,而对x 的偏导数值为因变量,称为函数),(y x f z =在区域D 内的对x 的偏导函数,记作:),(y x f x 或xz∂∂,其结果仍为y x ,的二元函数. 同理有函数),(y x f z =在区域D 内的对x 的偏导函数,记作:),(y x f y 或yz∂∂,其结果仍为y x ,的二元函数.4、一点处偏导数与导函数间关系),(0000)),((),(y xx x y x f y x f =, ),(0000)),((),(y x y y y x f y x f =(三) 二元函数一阶偏导的求法 1、 思想——转化为一元函数求导 2、 具体操作方法按照偏导数定义xy x f y x x f y x f x x ∆-∆+=→∆),(),(lim),(0000000——仅x 变,y 不变,故y 暂时看成常数,形成一元函数yy x f y y x f y x f y y ∆-∆+=→∆),(),(lim),(0000000——仅y 变,x 不变,故x 暂时看成常数,形成一元函数故二元函数求偏导的方法——转化为一元函数求导问题——对x 求偏导,将x 看成变量,y 暂时看成常数 ——对y 求偏导,将y 看成变量,y 暂时看成常数 ——对谁求偏导,将谁看成变量,另一变量暂时看成常数【例1】已知函数52332-+-+=y xy y x z ,求x z ∂∂和yz ∂∂. 解:y x y x xz3200302-=-+-+=∂∂【x 变量,y 常数】 2330233022+-=-+-+=∂∂x y x y yz【y 变量,x 常数】 【例2】已知厂商的生产函数为二元函数32316),(K L K L f y ==,其中L 表示劳动投入量,K 表示资本投入量,求L y ∂∂和Ky ∂∂. 解:3232323231322316)(6--=⋅='=∂∂L K L K L K L y L 【L 变量,K 常数】3131313132314326)(6--=⋅='=∂∂K L K L K L K y K 【K 变量,L 常数】 【例3】已知函数xye z =,求)2,1(xf 和)2,1(y f . 解:xy xy x xy ye y e xy e xz=⋅='⋅=∂∂)(【x 变量,y 常数】 xy xy y xy xe x e xy e yz=⋅='⋅=∂∂)(【y 变量,x 常数】 )2,1(x f 2212e ye y x xy==== )2,1(y f 221e xe y x xy====二、二元函数的二阶偏导(数)二元函数的二阶偏导共有四个 1、符号及含义x x xxxx z x zx y x f z x z )()(),(22=∂∂∂∂===∂∂ 偏x 偏x ;先偏x 再偏x y x xy xy z x zy y x f z y x z )()(),(2=∂∂∂∂===∂∂∂ 偏x 偏y ;先偏x 后偏y x y yx yx z yzx y x f z x y z )()(),(2=∂∂∂∂===∂∂∂ 偏y 偏x ;先偏y 后偏x y y yy yy z y zy y x f z yz )()(),(22=∂∂∂∂===∂∂ 偏y 偏y ;先偏y 再偏y 其中y x z ∂∂∂2和xy z∂∂∂2称为二阶混合偏导2、求二阶偏导的方法(1) 先求一阶偏导;(2) 再对二阶偏导,即对一阶偏导结果再求一次偏导 【例4】已知函数52332-+-+=y xy y x z ,求各二阶偏导. 解:y x y x xz3200302-=-+-+=∂∂【x 变量,y 常数】2330233022+-=-+-+=∂∂x y x y yz【y 变量,x 常数】 2)32(22=-=∂∂x y x xz【x 变量,y 常数】 3)32(2-=-=∂∂∂y y x yx z【y 变量,x 常数】 3)233(22-=+-=∂∂∂x x y xy z【x 变量,y 常数】 y x y yz y 6)233(222=+-=∂∂【y 变量,x 常数】 此题中,两个混合偏导相等一般,只要两个混合偏导连续,则一定相等由于幂函数在定义域内一定连续,而幂函数的导数仍为幂函数,故幂函数的两个混合偏导一定相等故今后幂函数不需分别求两个混合偏导,只需求一个即可【例5】已知函数2234x y e z -=,求各二阶偏导.解:222222343422346)6()34(x yx yx x yx xe x e x y e z ----=-⋅=-⋅=【x 变量,y 常数】222222343422348)8()34(x yx yy x yy ye y e x y e z ---=⋅=-⋅=【y 变量,x 常数】x x yx yx x x yxx e x e x xe z ))(6()6()6(222222343434----+-=-= x x yx y x y xe e )34(662234342222-⋅--=--)6(6622223434x xe e x yx y---=--)16(623422-=-x e x y【x 变量,y 常数】y xe x y xe e x xe z x yy x yy x yy x yxy 86)34(6)(6)6(222222223422343434⋅-=--=-=-=----223448x yxye --=【y 变量,x 常数】)6(8)(8)8(222222343434x ye e y ye z x yx x yx x y yx -===---223448x y xye --=【x 变量,y 常数】y x yx yy x yx yy y x yyy x y ye e e y e y ye z )34(88)(8)8()8(2234343434342222222222-+=+==-----)81(88882343434222222y e y ye e x yx yx y+=+=---【y 变量,x 常数】§5.3 二元函数的极值一、 二元函数极值的概念设二元函数),(y x f z =在点),(00y x 的某邻域内有定义,对于该邻域内任何异于),(00y x 的点),(y x (),(y x ),(00y x ≠)① 若恒有),(),(00y x f y x f >,则称),(00y x f 为函数),(y x f z =的极大值并称),(00y x 为函数),(y x f z =的极大值点② 若恒有),(),(00y x f y x f <,则称),(00y x f 为函数),(y x f z =的极小值并称),(00y x 为函数),(y x f z =的极小值点注意:二元函数极值仍为局部概念 二、 二元函数极值的求法 1、 二元函数的驻点使⎪⎪⎩⎪⎪⎨⎧=∂∂=∂∂00yz x z的点),(00y x 称为驻点2、 极值存在必要条件定理:若二元函数),(y x f z =在点),(00y x 处取得极值,则),(00y x 为驻点,或在点),(00y x 处偏导不存在【注意】与一元函数相同,二元函数的驻点只是可能的极值点,是否为真正极值点,必须根据极值存在充分条件做进一步判定3、 极值存在充分条件使用条件——),(00y x 为驻点 使用方法——根据AC B -2的符号其中:),(00y x f A xx =,),(00y x f B xy =,),(00y x f C yy = ➢ 若02>-AC B ,则),(00y x 不是极值点 ➢ 若02<-AC B ,则),(00y x 是极值点,且① 若0>A ,则),(00y x 是极小值点 ② 若0<A ,则),(00y x 是极大值点➢ 若02=-AC B ,则),(00y x 是否为极值点不定 4、 二元函数求极值的步骤(1) 求两个一阶偏导x z ∂∂和yz ∂∂ (2) 令⎪⎪⎩⎪⎪⎨⎧=∂∂=∂∂00yz x z,得驻点),(00y x找使一阶偏导不存在点(一般无,∵若一阶偏导不存在,则二阶更不存在,无法用二阶判断了) (3) 求二阶偏导函数:),(y x f xx ,),(y x f xy ,),(y x f yy(4) 将驻点),(00y x 代入二阶偏导函数求值,得),(00y x f A xx =,),(00y x f B xy =,),(00y x f C yy =(5) 用充分条件(02>-AC B 还是0<)判断驻点是极小值点还是极大值点当有多个驻点时,重复(4)和(5) (6) 写出结论【例1】求函数124),(223+---=y xy x x y x f 的极值解:(1)y x x x z 2832--=∂∂,y x yz 22--=∂∂ (2) 令⎪⎪⎩⎪⎪⎨⎧=∂∂=∂∂00yz xz,即⎩⎨⎧=--=--02202832y x y x x 得驻点)0,0(和)2,2(-无使一阶偏导不存在点(3) 86),(-=x y x f xx ,2),(-=y x f xy ,2),(-=y x f yy 在点)0,0(处:(4) 8)0,0(-==xx f A ,2)0,0(-==xy f B ,2)0,0(-==yy f C (5) ∵012)2()8()2(22<-=-⨯---=-AC B ,∴)0,0(为极值点又∵08<-=A ,∴)0,0(为极大值点,极大值为1)0,0(=f 在点)2,2(-处:(4) 4)2,2(=-=xx f A ,2)2,2(-=-=xy f B ,2)2,2(-=-=yy f C (5) ∵012)2(4)2(22>=-⨯--=-AC B ,∴)2,2(-不是极值点 (6) 函数有极大值1)0,0(=f .【练习】求函数279),(33+-+=xy y x y x f 的极值.解:(1) y x y x f x 93),(2-=,x y y x f y 93),(2-=(2) 令⎩⎨⎧==0),(0),(y x f y x f y x ,即⎪⎩⎪⎨⎧=-=-09309322x y y x ,得驻点)0,0(,)3,3(无使一阶偏导不存在点(3) x y x f xx 6),(=, 9),(-=y x f xy , y y x f yy 6),(= 在点)0,0(处:(4) 0=A ,9-=B ,0=C(5) ∵0812>=-AC B ,∴)0,0(不是极值点 在点)3,3(处:(4) 18=A ,9-=B ,18=c(5) ∵02432<-=-AC B ,∴)3,3(是极值点又由于0>A ,∴)3,3()0,0(为极小值点 极小值为33(3,3)33933270f =+-⨯⨯+= (6) 函数有极小值0)3,3(=f .§5.4 二元函数的最值及其应用一、二元函数最值概念若对于区域D 内的所有),(),(00y x y x ≠,都有),(),(00y x f y x f >,称),(00y x f 为二元函数),(y x f z =在区域D 内的最大值,),(00y x 称为最大值点若对于区域D 内的所有),(),(00y x y x ≠,都有),(),(00y x f y x f <,称),(00y x f 为二元函数),(y x f z =在区域D 内的最小值,),(00y x 称为最小值点最大值、最小值统称为极值,最大值点、最小值点统称为极值点二、实际问题求最值方法1、实际问题通常二元函数有惟一极值,则该惟一极值必为最值2、若实际问题存在最大(小)值,则惟一驻点定为最大(小)值点. 三、二元函数最值应用步骤 1、建立函数关系式 2、求极值(1) 求一阶偏导 (2) 找所有可能极值点① 找驻点② 使一阶偏导不存在的点 实际问题通常可能极值点惟一3、求最值因为实际问题存在最大(小)值 所以惟一可能极值点为最大(小)值点 4、答题四、经济学中二元函数最值应用举例【例1】某厂生产两种型号的钢笔,甲种每支售价为10元,乙种每支售价为9元,而生产甲种笔x 支,乙种笔y 支的总费用为)33(01.032400),(22y xy x y x y x C +++++=元,问两种笔的产量各为多少时,企业利润最大?解:1、建立函数关系——两种产品产量x 和y 为自变量,企业利润π为因变量收益函数为y x y x R 910),(+=总成本函数为)33(01.032400),(22y xy x y x y x C +++++= 利润函数),(),(),(y x C y x R y x -=π)]33(01.032400[91022y xy x y x y x +++++-+= 40003.001.003.06822----+=y xy x y x2、求极值 (1)y x x 01.006.08--=π,y x y 06.001.06--=π(2) 令⎩⎨⎧==00yx ππ,即⎩⎨⎧=--=--006.001.06001.006.08y x y x ,得惟一驻点)80,120(无使一阶偏导不存在点3、求最大值∵实际问题存在最大值∴惟一可能极值点)80,120(为最大值点4、答:甲种型号钢笔生产120支,乙种型号钢笔生产80支,可使企业利润最大.【例2】某商店销售A 、B 两种产品,A 产品的成本为2元/个,B 产品的成本是3元/个.A 产品的需求量为x ,价格为p ,B 产品的需求量为y ,价格为q .两种产品的价格-需求方程分别为:q p x 254075+-=,q p y 302080-+=商店为得到最大利润,应如何对A 、B 两种产品定价?商店最大利润为多少?A 、B 两种产品的需求量各为多少?解:1、建立函数关系——两种产品价格p 和q 为自变量,企业利润π为因变量收益函数为qy px q p R +=),()302080()254075(q p q q p p -+++-= 总成本函数为y x q p C 32),(+=)302080(3)254075(2q p q p -+++-= 利润函数),(),(),(q p C q p R q p -=π)302080)(3()254075)(2(q p q q p p -+-++--=3903040451209522---++=q p pq q p2、求极值 (1)p q p 804595-+=π,q p q 6045120-+=π(2) 令⎪⎩⎪⎨⎧==00qp ππ,即⎩⎨⎧=-+=-+060451200804595q p p q ,得惟一驻点4=p ,5=q无使一阶偏导不存在点3、求最大值∵实际问题存在最大值∴惟一可能极值点4=p ,5=q 为最大值点此时A 产品需求量为:40=x ,B 种产品需求量为:10=y 商店最大利润为100)5,4(=π4、答:A 产品的销售价格为4元、B 产品销售价格为5元时,商店利润最大,最大利润为100元,此时A 产品需求量为40个,B 产品需求量为为10个.§5.5 二元函数条件极值 ——拉格朗日乘数法一、 问题的引入【引例】若某产品的产出函数为4.06.010),(y x y x N =,x 为人工数量,y 为资金数量.如果每个人工的费用30美元,每个单位资金的费用为60美元.如果总预算为300000美元,求:如何分配这个总预算,可以获得最大的生产率?该题目求函数4.06.010),(y x y x N =的最大值 已知变量x 和y 满足条件3000006030=+y x称问题为函数4.06.010),(y x y x N =在条件3000006030=+y x 下的极值——条件极值 二、 解决条件极值的方法——两种(1) 将条件代入函数,使函数减少一个变量,按极值方法计算 (2) 拉格朗日乘数法 三、 条件极值的拉格朗日乘数法以二元函数为例.求函数),(y x f z =在条件0),(=y x g 下的极值(1) 做拉格朗日函数),(),(),,(y x g y x f y x L λλ+=——三元函数(2) 求),,(λy x L 的驻点:即满足⎪⎩⎪⎨⎧===+==+=0),(),,(0),(),(),,(0),(),(),,(y x g y x L y x g y x f y x L y x g y x f y x L y y y x x x λλλλλλ的),(00y x(3) 由实际意义确定是极值【例1】若某产品的产出函数为4.06.010),(y xy x N =,x 为人工数量,y 为资金数量.如果每个人工的费用30美元,每个单位资金的费用为60美元.如果总预算为300000美元,求:如何分配这个总预算,可以获得最大的生产率? 解:(1) 明确问题:极大值:4.06.010),(y xy x N =约束条件:03000006030),(=-+=y x y x g(2) 构造拉格朗日函数:)3000006030(10),(),(),,(4.06.0-++=+=y x y x y x g y x N y x L λλλ(3) 解一阶偏导数组成的方程组,求驻点⎪⎩⎪⎨⎧=-+==+==+=--03000006030060403066.06.04.04.0y x F y x F y x F y x λλλ⇒⎪⎪⎩⎪⎪⎨⎧-=-=--6.06.04.04.015151y x y x λλ ∴6.06.04.04.015151---=-y x y x 则:y x 3=6000=x ,2000=y(4) 因为6000=x ,2000=y 为惟一驻点,故6000=x ,2000=y 为最大值点(5) 最大产出为4.38658)2000,6000(=N 【例2】某消费者购买甲、乙两种商品的价格为2=x p 和5=y p ,消费者用40个单位的费用购买这两种商品,又知当购买量分别为x 和y 时,消费者的效用函数2131),(y x y x =μ,问消费者如何购买,可以得到最大效用?最大效用为多少? 解:(1) 明确问题:极大值:2131),(y x y x =μ约束条件:04052),(=-+=y x y x g(2) 构造拉格朗日函数函数:)4052(),,(2131-++=y x y x x x L λλ(3) 解一阶偏导数组成的方程组,求驻点⎪⎪⎪⎪⎩⎪⎪⎪⎪⎨⎧=-+==+==+=--04052052102312131213221y x F y x F y x F Q Q λλλ⇒8=x ,524=y ,1201-=λ 因为实际问题存在最大值 所以惟一驻点8=x ,524=y 为最小值点 答:§5.6 最小二乘法Method of least squares一、问题的引入我们前面讨论了经济中常用函数,并且讨论了边际、弹性、最优化等问题.而这些问题讨论的前提是——已知一个函数关系式.如果没有这些关系,上述问题都将无法讨论.那么,这些函数关系是如何建立的呢?回归分析是经济分析中常用的一种方法,它是通过最小二乘法的原理将一组数据拟合为初等函数.引例:某种商品价格(x :美元)与销售量(y :件)间的数据如下表试确定销售量与价格间函数关系式.二、最小二乘法 (一) 画(散点)图(二) 根据散点图确定拟合图形形状(函数类型)——此题显然应拟合成直线可拟合为抛物线c bx ax y ++=2可拟合为指数函数bxae y =也可拟合为直线b ax y += 也可拟合为分段函数当不能确定拟合为何种类型函数更合适时,可拟合多个函数,然后比较哪个更好,更贴切 我们只将拟合为直线的方法,其他思想相同,请自学 拟合为直线(线性函数)的方法——线性回归(三) 拟合的最好标准为更能说明问题,采用下面图形1、图中各点依次称为),(11y x ,),(22y x ,……,),(n n y x2、设拟合的直线方程为b ax y +=,其中为待定系数要通过最小二乘法,找到最好的a 和b3、将1x 代入b ax y +=,得b ax y +=1,则),(),(111b ax x y x +=为拟合直线上的点实际点),(11y x 与拟合直线上的点),(11b ax x +间有一个误差——b ax y b ax y --=+-1111)(,该误差可能正,也可能负实际点),(22y x 与拟合直线上的点),(22b ax x +间有一个误差——b ax y b ax y --=+-2222)(,该误差可能正,也可能负……实际点),(n n y x 与拟合直线上的点),(b ax x n n +间有一个误差——b ax y b ax y n n n n --=+-)(,该误差可能正,也可能负每个实际点与拟合直线上的点都有误差,且误差有正有负 4、所谓最好,最贴切指——误差最小5、但不能将这些误差直接相加,因为其中必然有正有负——直接相加将相互抵消——平方之和6、所有点误差平方之和为∑=--=--++--+--ni i i n n b ax y b ax y b ax y b ax y 12222211)()()()( ——使其最小7、将∑=--ni i ib ax y12)(中的a 和b 看成变量——二元函数,问题转化为:——求a 和b 的值——使∑=--=ni i ib ax yb a F 12)(),(最小——二元函数求最小值问题8、a ni i i a ni i ia b ax y b ax yb a F ])[(])([),(1212∑∑==--=--=∑=-⋅--=ni i i i x b ax y 1)()(2∑=-⋅--=ni i i i x b ax y 1)()(2∑=+-=ni i i i i bx y x ax 12)(2][21112∑∑∑===+-=n i i n i i i n i ibx y x ax ][21112∑∑∑===+-=ni i n i i i n i ix b y x x ab ni i i b n i i i b b ax y b ax y b a F ])[(])([),(1212∑∑==--=--=∑=-⋅--=n i i i b ax y 1)1()(2∑=-⋅--=n i i i b ax y 1)1()(2∑=+-=ni i i b y ax 1)(2][2111∑∑∑===+-=n i n i i n i i b y ax ][211nb y x a ni i n i i +-=∑∑==令 ⎩⎨⎧==0),(0),(b a F b a F b a则:⎪⎪⎩⎪⎪⎨⎧=+-=+-∑∑∑∑∑=====0][20][2111112nb y x a x b y x x a ni in i i ni i n i i i n i i即:⎪⎪⎩⎪⎪⎨⎧=+=+∑∑∑∑∑=====n i i n i i n i i i n i i n i i y nb x a y x x b x a 1111129、实际操作时,通常画表列出求a 和b 所需的参数:∑=ni ix 1,∑=ni iy 1,∑=ni ii y x 1,∑=ni ix12三、 用最小二乘法线性回归的步骤【例1】已知某种商品价格(x :美元)与需求量(y :件)间的数据如下表(1) 利用最小二乘法确定价格-需求关系的线性方程.(2) 如果每件产品的成本为3美元,欲取得最大利润的价格应该是多少? 【解】(1) ① 设拟合的价格-需求关系的线性方程b ax y +=② 画表③ 计算a 和b8.16255.12756.12255.585)(22112111-=-⨯⨯-⨯=-⋅-=∑∑∑∑∑=====ni i n i i ni in i i n i i i x x n y x y x n a 92.10525)8.16(6.1211=⨯--=-=∑∑==nx a yb ni ini i④ 所求价格-需求关系为:92.1068.1+-=x y (2) ① 建立利润随价格变化函数关系)(x πx x x x xy x R 92.1068.1)92.1068.1()(2+-=+-==76.3204.5)92.1068.1(33)(+-=+-==x x y x C)76.3204.5(92.1068.1)()()(2+--+-=-=x x x x C x R x π76.3296.1568.12++-=x x② 求极值96.1536.3)(+-='x x π令0)(='x π,得惟一驻点75.4=x 无使)(x π'不存在点 ③ 求最值∵实际问题存在最大值∴惟一可能极值点75.4=x 为最大值点 ④ 答:价格为4.75美元时,利润最大。
数学建模讲义主讲人:穆学文西安电子科技大学数学系Email:xdmuxuewen@ 最优化模型---最优化方法的概念参考书目1. 陈宝林。
最优化理论与算法。
清华大学出版社.2. 谢金星,薛毅。
优化建模与lindo/lingo优化软件. 清华大学出版社. 背景知识基本概念及其应用最优化问题举例最优化方法的概念优化问题的数学模型及其分类 最优解与极值点常用的数学软件§1背景知识•运筹学理论的一部分•最早起源于中国古代¾公元前6世纪孙武所著的《孙子兵法》¾孙膑“斗马术”,田忌与齐王赛马,博弈论¾运筹帷幄之中,决胜千里之外”。
这千古名句也可以说是对张良运筹思想的赞颂和褒奖。
•国外起源与发展¾1896年,V.Pareto首次从数学角度提出多目标优化问题,引进了Pareto最优的概念。
¾1935-38年,英国为了正确地运用新研制的雷达系统来对付德国飞机的空袭,在皇家空军中组织了一批科学家,进行新战术试验和战术效率评价的研究,并取得了满意的效果。
他们把自己从事的这种工作命名为“Operational Research”(背景知识(续)Operational Research(运筹学,或直译为作战研究)。
¾1939年,苏联的Л.В.Канторович总结了他对生产组织的研究,写了《生产组织与计划中的数学方法》一书,是线性规划应用于工业生产问题的经典著作¾1947年,G.B.Dantzig提出了单纯形方法后,线性规划便迅速形成为一个独立的分支。
并逐级发展起来。
¾英国运筹学会1948年成立(1948-53年是运筹学俱乐部,1953年11月起改名为学会)。
¾二次大战胜利后,美英各国不但在军事部门继续保留了运筹学的研究核心,而且在研究人员、组织的配备及研究范围和水平上,都得到了进一步的扩大和发展,同时筹学方法也向政府和业等部门扩展背景知识(续)运筹学方法也向政府和工业等部门扩展。
¾1951年出版了新版(1946年的原版是保密的,1948年才撤销保密)的P.M.Morse 和G.E.Kimball 的《运筹学方法》(Methods of Operations Research ),这是二战结束后,对战时整个运筹学工作做系统的专业叙述的一本著作。
¾1951年,H.W.Kuhn 与A.W.Tucker 提出了Kuhn-Tucker 条件,标志着非线性规划理论的初步形成。
¾1952年5月美国运筹学会成立,并创刊《Operations Research 》。
¾1953年,R.Bellman 提出动态规划的名称,并阐述了最优化原理。
¾1954年,D.R.Dantzig 等研究旅行推销员问题时提出了分解的思想,成为整数规划中两大方法—割平面法与分枝定界法的萌芽背景知识(续)定界法的萌芽。
¾1955年,G.Dantzig 首先考虑出现随机变量的线性规划问题,这是最早提出的随机规划中的有补偿二阶段问题。
¾1956年, L.R.Ford,Jr.与D.R.Fulkerson 提出并解决了网络最大流问题,加强了图论与线性规划的联系,促进了优化理论的研究。
¾1959年1月1日,国际运筹学会联合会(1FORS)正式宣告成立,当时的联合会只包括英、美、法三个国家的运筹学会,首任(1959-61年)主席(当时称为秘书,到1968年第四届时才改称主席)为英国的Charles Goodeve 。
背景知识(续)运筹学理论在中国的研究与发展¾1957年,经中国科学院力学研究所所长钱学森的倡导,在该所成立了由许国志领导的国内第一个运筹学研究组(后成室)。
刘源张、周华章、桂湘云等是该组最早的一批研究人员,从此在我国开始了现代运筹学的研究。
当年秋季,又有大学毕业生顾基发、董泽清、徐映波、陈背景知识(续)锡康、郭绍僖、李秉全等分配进入该组。
¾1958年,中国科学院数学研究所所长华罗庚率领广大研究人员,包括吴文俊、越民义、万哲先、王元等在内,也开展了运筹学应用课题的研究,并影响和带动了全国范围内各部门、各高校的运筹学应用和推广工作。
运输和农业等部门的“图上作业法”、“打麦场设计”、“中国邮递员问题”是典型的成果。
¾1959年2月,山东大学在数学系中设置了国内最早的一个运筹学专门化,由谢力同与郑汉鼎执教。
自当年暑假开始,每年都有运筹学方向的学生毕业,为我国运筹学事业的发展作出了重要贡献。
¾1959年,中国科学院数学研究所成立了运筹学研究室,研究人员都由所内其它室组调入。
孙克定任研究室主任,该室最早的一批研究人员有排队论组的越民义、吴方、背景知识(续)徐光煇、韩继业;对策论组的吴文俊、江加禾、施闺芳;数学规划组的朱永津、应玫茜、马仲蕃、凌开诚等。
与此同时,全国范围内很多高校也有大批教师转入运筹学领域。
¾1965年起,华罗庚和他的小分队在全国工业部门开始普及推广统筹法的群众运动。
在此后的二十年中,为普及推广双法(统筹法与从1970年开始普及推广的优选法),他们走访了全国23个省市中几百个城市的几千个工厂,并向数百万人开设讲座开展工作,取得了巨大的社会效益和经济效益。
¾1965年华罗庚《统筹方法平话及其补充》一书由中国工业出版社出版背景知识(续)业出版社出版。
¾1970年起,华罗庚和他的小分队开始在全国范围内普及推广优选法的群众运动。
从此,统筹与优选双法变得家喻户晓,双法的普及推广也取得了极为可观的社会、经济效益。
¾1971年华罗庚《优选法平话及其补充》一书由国防工业出版社出版。
¾1980年4月22-26日在山东济南,召开了中国数学会运筹学会成立暨第一届代表大会。
中国运筹学倡导者之一,中国科学院副院长华罗庚主持了会议,有来自各地科研机构、高等院校、军事部门、工交企业等有关单位的82名代表出席。
华罗庚在大会开幕式与闭幕式上均发表了讲话,回顾了他在全国范围普及推广“双法”的经验和成果,勉励大家以克敌攻坚的进取精神积极开展运筹学研究会议作了背景知识(续)研究。
会议作了12个专题学术报告和个人成果的几十个分组报告。
中国数学会理事长华罗庚被推选兼任运筹学会理事长,越民义、许国志、余潜修为副理事长,桂湘云为秘书长,推选常务理事11名,理事42名。
会议决定学会挂靠在中科院应用数学所§2基本概念及其应用最优化技术是一门较新的学科分支。
它是在本世纪五十年代初在电子计算机广泛应用的推动下才得到迅速发展,并成为一门直到目前仍然十分活跃的新兴学科的新兴学科。
最优化所研究的问题是在众多的可行方案中怎样选择最合理的一种以达到最优目标。
将达到最优目标的方案称为最优方案或最优决策,搜寻最优方案的方法称为最优化方法,关于最优化方法的数学理论称为最优化理论。
最优化问题至少有两要素:一是可能的方案;二是要追求的目标。
后者是前者的函数。
如果第一要素与时间无关就称为静态最优化问题,否则称为动态最优化问题。
最优化技术应用范围十分广泛,在我们日常生活中,在工农业生产、社会经济、国防、航空航天工业中处处可见其用途。
如结构最优设计、电子器件最优设计、光学仪器最优设计、化工工程最优设计、标腔最优配方、运输方案、机器最优配备、油田开发、水库调度、饲料最优配方、食品结构优化等等。
最优化技术工作被分成两个方面,一是由实际生产或科技问题形成最优化的数学模型,二是对所形成的数学问题进行数学加工和求解。
对于第二方面的工作,目前已有一些较系统成熟的资料,但对于第一方面工作即如何由实际问题抽象料,但对于第方面工作即如何由实际问题抽象出数学模型,目前很少有系统的资料,而这一工作在应用最优化技术解决实际问题时是十分关键的基础,没有这一工作,最优化技术将成为无水之源,难以健康发展。
建立数学模型时要尽可能简单,而且要能完整地描述所研究的系统,但要注意到过于简单的数学模型所得到的结果可能不符合实际情况,而过于详细复杂的模型又给分析计算带来困难。
因此,具体建立怎样的数学模型需要丰富的经验和熟练的技巧。
即使在建立了问题的数学模型之后,通常也必须对模型进行必要的数学简化以便于分析、计算。
建立最优化问题数学模型的三要素:(1)决策变量和参数。
决策变量是由数学模型的解确定的未知数。
参数表示系统的控制变量,有确定性的也有随机性的。
(2)约束或限制条件。
由于现实系统的客观物质条件限制,模型必须包括把决策变量限制在它们可行值之内的约束条件,而这通常是用约束的数学函数形式来表示的。
一般的模型简化工作包括以下几类:(3)目标函数。
这是作为系统决策变量的一个数学函数来衡量系统的效率,即系统追求的目标。
(1)将离散变量转化为连续变量。
(2)将非线性函数线性化。
(3)删除一些非主要约束条件。
§2 最优化问题举例最优化在运输、自动控制、机械设计、采矿冶金、经济管理等科学技术各领域中有广泛应用。
下面举几个实例。
例1:把半径为1的实心金属球熔化后,铸成一个实心圆柱体,问圆柱体取什么尺寸才能使它的表面积最小?解:(1) 决定圆柱体表面积大小有两个决策变量:圆柱体底面半径r 、高h 。
(2) 问题的约束条件是所铸圆柱体重量与球重相等。
即2343r h R πρπρ⋅⋅=⋅即2403r h −=问题追求的目标是圆柱体表面积最小。
即222rh r ππ+2minimize (min )则得原问题的数学模型:2min 224..03rh r s t r ππ+−=s.t.Subject to.固定.利用在高等数学中所学的Lagrange 乘子法可求解本问题, 分别对r, h,λ求偏导数,并令其等于零.有:()224..22()3L r h rh r r h λππλ=+−−2420Lh r rh ππλ∂⎧=+−=⎪2h r =⇒2220403r L r r h L r h πλλ∂⎪∂⎪=−=⎨∂⎪∂⎪=−+=⎪∂⎩3322,233r h ⇒==此时圆柱体的表面积为23263π⎛⎞⎜⎟⎝⎠例2: 多参数曲线拟合问题已知两个物理量x 和y 之间的依赖关系为:214351ln 1exp a y a x a a a =+⎛⎞−++⎜⎟⎝⎠其中和是待定参数,为确定这些参数, 对x, y 测得m 个实验点:试将确定参数的问题表示成最优化问题.1234,,,a a a a 5a ()()()1,12,2,,,.mm x y x y xy "将测量点沿垂线方向到曲线的距离的平方和作为这种“偏差”的度量.即解: 很显然对参数和任意给定的一组数值, 就由上式确定了y 关于x 的一个函数关系式, 在几何上它对应一条曲线, 这条曲线不一定通过那m 个测量点, 而要产生“偏差”.1234,,,a a a a 5a xy22114351ln 1exp mi i i a S y a x a a a =⎡⎤⎛⎞⎢⎥⎜⎟⎢⎥⎜⎟=−+⎢⎥⎜⎟⎛⎞−++⎢⎥⎜⎟⎜⎟⎜⎟⎢⎥⎝⎠⎝⎠⎣⎦∑显然偏差S 越小,曲线就拟合得越好,说明参数值就选择得越好,从而我们的问题就转化为5维无约束最优化问题。