经典最优化方法优秀课件
- 格式:ppt
- 大小:1.73 MB
- 文档页数:34
一、数学建模的理解例子:二、经典最优化方法1、微分与极值2、无约束极值问题3、约束极值问题三、无约束优化问题数值解法(向量)1、最优梯度法(梯度下降法)2、牛顿法3、共轭梯度法4、阻尼牛顿法5、变尺度法1.1 无约束优化的一般形式无约束非线性规划问题为其最优解通常都是局部最优解,寻找全局最优解需要对局部最优解进行比较以后得到(如果能够求出所有局部最优解的话)。
1.2 最优性条件是最优解的必要条件为;充分条件为,且正定。
1.3 下降法的基本思想在迭代的第k步,确定一个搜索方向和一个步长,使沿此方向、按此步长走一步到达下一点时,函数值下降。
其基本步骤为1)选初始解;2)对于第次迭代解,确定搜索方向并在此方向确定搜索步长令,使<;3)若符合给定的迭代终止原则,停止迭代,最优解;否则,转2。
搜索方向的选择(不同方向产生不同的算法):1)最速下降法(梯度法)2)牛顿法3)拟牛顿法:利用第和步得到的,用BFGS公式,DFP公式,GM公式等迭代公式构造正定矩阵近似代替,或直接构造近似代替,从而由,或得到下降方向d k+1。
搜索步长的确定——线性搜索:用二分法、黄金分割法(即0.618法)、Fibonacci 法,牛顿切线法和割线法,插值方法等近似方法求一维优化问题:来确定步长。
2.1 非线性最小二乘拟合问题有一组数据要拟合一个已知函数y=f(x, t), x=(x1,x2,…,xm),, x为待定系数。
记误差,,拟合误差定义为的平方和,于是问题表示为如下的优化模型:当对(的某些分量)是非线性函数时,称非线性最小二乘拟合。
四线性规划1、线性规划的数学模型某工厂安排生产1、2两种产品,2、线性规划的图解法单纯形及其求解法1.1 线性规划的图解法线性规划的图解法只能用于求解两个决策变量(2维)的情形。
由于线性规划的约束条件和目标函数均为线性函数,所以对于2维情形,可以在平面坐标系下画出可行域和目标函数的等值线。