当前位置：文档之家 › 实验七_无约束优化

实验七_无约束优化

  • 格式：pdf
  • 大小：446.83 KB
  • 文档页数：5

资金/万亿元 0.0910 0.2543 0.3121 0.3792 0.4754 0.4410 0.4517 0.5595 0.8080 1.3072 1.7042 2.0019 2.2914 2.4941 2.8406 2.9854 3.2918 3.7314 4.3500
劳动力/亿人 4.8179 4.9873 5.1282 5.2783 5.4334 5.5329 6.4749 6.5491 6.6152 6.6808 6.7455 6.8065 6.8950 6.9820 7.0637 7.1394 7.2085 7.3025 7.3740
则服务中心的位置坐标应为(3.6010,6.5142)。 2. 经济学中著名的 Cobb-Douglas 生产函数的一般形式为
Q K , L aK L ,0 , 1
其中 Q, K , L 分别表示产值、资金、劳动力，式中 , , a 要由经济统计数据确定。 现有《中国统计年鉴(2003)》给出的统计数据如下表所示，请分别用线性和非线性 最小二乘拟合求出式中的 , , a ，并解释 , 的含义。
可写作 Φβ y ，在约束条件 0 , 1 下求解该超定方程组。 编写程序 b=[log(Q)]'; A1=ones(19,1); A2=[log(K)]'; A3=[log(L)]'; A=[A1,A2,A3]; x=lsqlin(A,b,[],[],[],[],[,0,0]',[,1,1]'); a=exp(x(1)) alpha=x(2) beta=x(3) 得到如下结果 a= 1.0014 alpha = 0.7352 beta = 0.6395 线性最小二乘拟合的结果为 a 1.0014 ， 0.7352 ， 0.6395 。 2) 非线性最小二乘拟合 编写 M 文件 cobbdouglas.m function Q=cobbdouglas(x,A) Q=x(1).*(A(1,:).^x(2)).*(A(2,:).^x(3)); 编写程序 x=lsqcurvefit(@cobbdouglas,[0.5,0.5,0.5],[K;L],Q,[0,0,0],[1,1,1]) 得到如下结果 x= 0.8337 0.7735
0.7317
非线性最小二乘拟合的结果为 a 0.8337 ， 0.7735 ， 0.7317 。 Cobb-Douglas 生产函数中的 是资本产出弹性系数， 是劳动力产出弹性系数。根 据 和 的组合情况，有三种类型：

+ 1 ：递增报酬型，表明按技术用扩大生产规模来增加产出是有利的。
确定 k1 , k , b 。
t
0.083 10.9 2.25 24.2
0.167 21.1 3.0 23.6
0.25 27.3 4.0 15.7
0.50 36.4 6.0 8.2
0.75 35.5 8.0 8.3
1.0 38.4 10.0 2.2
1.5 34.8 12.0 1.8
c t
t
c t
1. 某海岛上有 12 个主要的居民点，每个居民点的位置（用平面坐标 x, y 表示，距离
居民点
1 0 0 600
2 8.20 0.50 1000
3 0.50 4.90 800
4 5.70 5.00 1400
5 0.77 6.49 1200
6 2.87 8.76 700
7 4.43 3.26 600
2
2
考虑到不同居民点居住的人数，加权后的距离之和为
W Ri
i 1
12
xi x yi y
2
2
问题化为求解 min W x, y 时的坐标 x, y 。 编写 M 文件 wsumdistance.m function y=wsumdistance(x,n,d) y=0; for i=1:n y=y+d(3,i)*sqrt((x(1)-d(1,i))^2+(x(2)-d(2,i))^2); end 编写程序 d=[0,0,600;8.20,0.50,1000;0.50,4.90,800;5.70,5.00,1400;0.77,6.49,1200;2.87,8.76,700;4 .43,3.26,600;2.58,9.32,800;0.72,9.96,1000;9.76,3.16,1200;3.19,7.20,1000;5.55,7.88,110 0]'; [x]=fminunc(@wsumdistance,[5,5],[],12,d) 得到如下结果 x= 3.6010 6.5142
其中总产值取自“国内生产总值” ，资金取自“固定资产投资” ，劳动力取自“就业 人员” 。 编写程序录入数据 Q=[0.7171,0.8964,1.0202,1.1962,1.4928,1.6909,1.8548,2.1618,2.6638,3.4634,4.6759,5. 8478,6.7885,7.4463,7.8345,8.2068,9.9468,9.7315,10.4791]; K=[0.0910,0.2543,0.3121,0.3792,0.4754,0.4410,0.4517,0.5595,0.8080,1.3072,1.7042,2. 0019,2.2914,2.4941,2.8406,2.9854,3.2918,3.7314,4.3500]; L=[4.8179,4.9873,5.1282,5.2783,5.4334,5.5329,6.4749,6.5491,6.6152,6.6808,6.7455,6.8 065,6.8950,6.9820,7.0637,7.1394,7.2085,7.3025,7.3740]; 1) 线性最小二乘拟合 对于 Cobb-Douglas 生产函数等式两边取对数得
实验七 无约束优化
材料系 材 93 2009011976 邓陟
一．
实验目的Biblioteka 1. 掌握 MATLAB 优化工具箱的基本用法，对不同算法进行初步分析、比较。 2. 练习用无约束优化方法建立和求解实际问题的模型（包括线性和非线性最小二乘拟 合） 。
二．
实验内容
单位：km）和居住的人数 R 如下表所示。现在准备在岛上建一个服务中心为居民 提供各种服务，那么服务中心应建在何处？
编写 M 文件 meddense.m function c=meddense(x,t) c=x(3)*x(2)/(x(2)-x(1))*(exp(-x(1)*t)-exp(-x(2)*t)); 编写程序 t=[0.083,0.167,0.25,0.50,0.75,1.0,1.5,2.25,3.0,4.0,6.0,8.0,10.0,12.0]; c=[10.9,21.1,27.3,36.4,35.5,38.4,34.8,24.2,23.6,15.7,8.2,8.3,2.2,1.8]; x=lsqcurvefit(@meddense,[1,2,10],t,c) 得到如下结果 x= 0.2803 3.6212 46.8275 则 k 0.2083 ， k1 3.6212 ， b 46.8275 。
8 2.58 9.32 800
9 0.72 9.96 1000
10 9.76 3.16 1200
11 3.19 7.20 1000
12 5.55 7.88 1100
x y
R
设服务中心位置的平面坐标为 x, y ，服务中心到各个居民点的距离之和为
D
i 1
12
xi x yi y
dc1 k1c1 dt c1 0 d V1
中心室血药浓度 c t 的变化率由两部分组成：与 c 成正比的排除（比例系数 k ） ， 与 c1 成正比的吸收（比例系数 k1 ） 。 再考虑到中心室和吸收室的容积分比为 V , V1 ，得到 c t 的微分方程为
递减报酬型， 表明按技术用扩大生产规模来增加产出是得不偿失的。 + 1 ：
+ 1 ：不变报酬型，表明生产效率并不会随着生产规模的扩大而提高，只
有提高技术水平，才会提高经济效益。
3. 给药方案设计需要依据药物吸收与排除过程的原理。药物进入机体后随血液输送到 全身，不断地被吸收、分布、代谢，最终排出体外。药物在血液中的浓度，即单位 体积血液中的药物含量，称血药浓度。在最简单的一室模型中，将整个机体看做一 个房室，称中心室，室内的血药浓度时均匀的。这里我们用一室模型，讨论在口服 给药方式下血药浓度的变化规律，及根据实验数据拟合参数的方法。 口服给药方式相当于先有一个将药物从肠胃吸收入血液的过程，这个过程可简化为 在药物进入中心室之前有一个吸收室，记中心室和吸收室的容积分别为 V , V1 ，而 t 时刻的血药浓度分别为 c t , c1 t ；中心室的排除速率为 k ，吸收速率为 k1 （这里 。设 t 0 时 k 和 k1 分别是中心室和吸收室血药浓度变化率与浓度本身的比例系数） 刻口服剂量为 d 的药物，容易写出吸收室的血药浓度 c1 t 的微分方程为
V1 dc kc k1c1 V dt c 0 0
由以上两个微分方程不难解出中心室血药浓度
c t
d k1 ekt ek1t V k1 k
在制定给药方案时必须知道这种药物的三个参数 k1 , k , b ( d V )，实际中通常通过 实验数据确定。设 t 0 时刻口服一定剂量的药物，下表是实验数据 c t ，请由此
年份 1984 1985 1986 1987 1988 1989 1990 1991 1992 1993 1994 1995 1996 1997 1998 1999 2000 2001 2002
总产值/万亿元 0.7171 0.8964 1.0202 1.1962 1.4928 1.6909 1.8548 2.1618 2.6638 3.4634 4.6759 5.8478 6.7885 7.4463 7.8345 8.2068 9.9468 9.7315 10.4791

合集下载

无约束优化方法

无约束优化方法

无约束优化方法1. 最速下降法（Gradient Descent Method）最速下降法是一种基于梯度信息的迭代优化算法。

其基本思想是从任意初始点开始，沿着目标函数的梯度方向进行迭代，直到达到收敛条件。

最速下降法的迭代更新公式如下：x_{k+1}=x_k-t_k*∇f(x_k)其中，x_k是第k次迭代的解向量，t_k是第k次迭代的步长（也称为学习率），∇f(x_k)是目标函数在x_k处的梯度向量。

最速下降法的步骤如下：1）选取初始点x_0。

2）计算目标函数的梯度∇f(x_k)。

3）计算步长t_k。

4）更新解向量x_{k+1}。

5）判断迭代终止条件，如果满足则停止迭代；否则返回第2步。

最速下降法的优点是易于实现和理解，收敛性较好。

然而，最速下降法存在的问题是收敛速度较慢，特别是对于目标函数呈现狭长或弯曲形状的情况下。

这导致了在高维优化问题中，最速下降法的性能较差。

2. 牛顿法（Newton's Method）牛顿法是一种基于二阶导数信息的迭代优化算法。

它使用目标函数的一阶和二阶导数信息构造一个二次近似模型，然后求解该模型的最小值。

牛顿法的迭代更新公式如下：x_{k+1}=x_k-H_k^{-1}*∇f(x_k)其中，H_k是目标函数在x_k处的海森矩阵，∇f(x_k)是目标函数在x_k处的梯度向量。

牛顿法的步骤如下：1）选取初始点x_0。

2)计算目标函数的梯度∇f(x_k)和海森矩阵H_k。

3）计算更新方向H_k^{-1}*∇f(x_k)。

4）更新解向量x_{k+1}。

5）判断迭代终止条件，如果满足则停止迭代；否则返回第2步。

牛顿法的优点是收敛速度快，尤其是在目标函数曲率大的地方。

然而，牛顿法也存在一些问题。

首先，计算海森矩阵需要大量的计算资源，特别是在高维空间中。

其次，当海森矩阵不可逆或近似不可逆时，牛顿法可能会失效。

综上所述，最速下降法和牛顿法是两种常用的无约束优化方法。

最速下降法简单易实现，但收敛速度较慢；牛顿法收敛速度快，但计算量大且可能遇到海森矩阵不可逆的问题。

第7讲无约束优化方法

第7讲无约束优化方法

第七讲无约束优化一阶方法1.最速下降法的由来最速下降法考虑无约束问题其中，函数具有一阶连续偏导数.),(min x f ,n R x 人们在处理这类问题是，总希望从某一点出发，选择一个目标函数值下降最快的方法，以利于尽快达到极小点. 基于此愿望，1847年法国数学家Cauchy 提出了最速下降法. 后来，Curry 等人作了进一步的研究，得到现在众所周知的一种最基本的方法.最速下降法利用负梯度为方向作为搜索方向.设在附近连续可微，为搜索方向向量，，由泰勒展开式得那么目标函数在处沿着方向下降的变化率如下所示：)(k k x f d -∇=)(x f k x k d )(k k x f g ∇=,0),()()(>++=+ααααo d g x f d x f k Tk k k k )(x f k x k d其中为与夹角. 要使得变化率最小，只有当值为时才能达到，也就是取得负梯度方向.ααα)()(lim 0k k k x f d x f -+→αααα)(lim 0o d g k Tk +=→θcos k T k k T k d gd g ==θk g k d k d 1-)(x f ∇)(x f ∇-cos事实上，最速下降方向也可以这样来考虑。

因为目标函数在处沿方向的变化率为，故最速下降的单位方向是如下非线性规划问题的解.根据Schwartz 不等式，有去掉绝对值符号，可以得到.由上式知，当时等号成立. 因此负梯度方向为最速下降方向.d g T k )(x f k x d d dmin d g T k ..t s 1≤d kk T k g d g d g ≤≤k T kg d g -≥k k g g d -=3.最速下降法计算步骤1.给定初始点，容许误差，令2. 计算搜索方向;3. 若，则停止计算，输出作为近似最优解；否则从出发，沿进行一维线搜索，确定步长因子，使得4. 令，令，转步骤2.n R x ∈00>ε1:=k )(k k x f d -∇=ε≤k d k x k x k d k αk k k k d x x α+=+11:+=k k 0()min ()k k k k k k k f x d f x d ααα≥+=+4.最速下降法的锯齿现象由步骤3，为求出从出发沿方向的极小点，令由此得出.即方向与正交.这表明迭代产生的序列所循路径是“之”字形的。

数学实验——无约束优化

数学实验——无约束优化

实验6无约束优化分1黄浩43实验目的1. 掌握用MATLAB优化工具箱的基本用法，对不同算法进行初步分析、比较2. 练习用无约束优化方法建立和求解实际问题模型（包括非线性最小二乘拟合）。

二、实验内容1. 《数学实验》第二版（问题2.1）问题叙述：取不同的初值计算非线性规划：尽可能求出所有局部极小点，进而找出全局极小点，并对不同算法（搜索方向、步长搜索、数值梯度与分析梯度等）的结果进行分析、比较。

实验过程：首先绘制这个函数的三维图形以及等高线（程序见四.1），结果如下:s M tn0-”19 A8 A1G \ 5 -14 -13 \ 2 A1通过观察这两幅图，可以得到，x2确定时，x1越负，函数值越大，x1确定时，x2绝对值越大，函数值越大。

但对于x1正向偏离0的情况，并没有很好的反映，于是扩大绘图范围，做出下图（程序见四.2）：-1 -10由上面两幅图可见，方程像是一个四角被捏起的花布，而且z的最小值为0< 因此只要求解该方程的零点，即得到了方程的局部极小点，且若将原方程变形为:我们容易发现，该方程的零点为：x2=0或x1=0或x1=1或在求解零点之前，先针对一个零点，不妨用x1=1, x2=1，分析不同算法的优劣。

在matlab的无约束优化中，可以使用fminumc和fminsearch两种函数，搜索方向的算法有BFGS 公式、DFP公式和最速下降法三种（书中还提到的Gill-Murray 公式在matlab中已经不再使用），步长的一维搜索有混合二次三次多项式插值和三次多项式插值两种方法，另外，在求解函数梯度是也有数值方法和分析方法两种。

在对上述四类算法因素进行分析时，我们采用控制变量法，每次只保持一种或两种算法因素改变，分析它的精度及效率。

（一）分析fminumc与fminsearch两种方法的精度及效率选择初值为x1=0.8,x2=0.8，使用fminunc和fminsearch的默认算法及控制参数，输出结果如下（程序见四.3、四.4）：因为精确解为x1=1, z=0,我们便可以比较出不同算法的精度。

无约束优化

无约束优化

无约束优化一、实验目的1、了解无约束优化的基本算法；2、掌握Matlab优化工具箱的基本用法；3、掌握用Matlab求解无约束优化实际问题。

二、实验要求能够掌握Matlab优化工具箱中fminunc，fminearch，lqnonlin，lqcurvefit的基本用法，能够对控制参数进行设置，能够对不同算法进行选择和比较。

fminunc为无约束优化提供了大型优化和中型优化算法.由option中的参数LargeScale控制：LargeScale=’on’(默认值),使用大型算法LargeScale=’off’,使用中型算法fminunc为中型优化算法的搜索方向提供了3种算法，由option中的参数HeUpdate控制：HeUpdate=’bfg’（默认值），拟牛顿法的BFGS公式；HeUpdate=’dfp’，拟牛顿法的DFP公式；HeUpdate=’teepdec’，最速下降法fminunc为中型优化算法的步长一维搜索提供了两种算法，由option 中参数LineSearchType控制：LineSearchType=’quadcubic’(缺省值)，混合的二次和三次多项式插值；LineSearchType=’cubicpoly’，三次多项式插搜索步长的算法选择（lqnonlin，lqcurvefit）LevenbergMarquardt=‘off’(GN法)LevenbergMarquardt=‘on’(LM法，缺省值)22+2某2+4某1某2+2某2+1)e某1例minf(某)=(4某11、编写M-文件fun1.m:functionf=fun1(某)f=e某p(某(1))某(4某某(1)^2+2某某(2)^2+4某某(1)某某(2)+2某某(2)+1);2、输入M文件myprg3.m如下:某0=[-1,1];某=fminunc('fun1',某0)y=fun1(某)三、实验内容1.求下列函数的极小值点：222f(某)=某1+4某2+9某3-2某1+18某22g(某)=某1+32某2-2某1某2+某1-2某22某2y22、求解min(+)对(a,b)的不同取值如(1,1)和(9,1)，及不同算法(搜索方ab向、步长搜索、数值梯度与分析梯度等)的结果进行分析、比较。