下载文档原格式
最优化理论一维搜索:1精确一维搜索精确一维搜索可以分为三类：区间收缩法、函数逼近法（插值法）、以及求根法。
区间收缩法：用某种分割技术缩小最优解所在的区间(称为搜索区间)。
包括：黄金分割法、成功失败法、斐波那契法、对分搜索法以及三点等间隔搜索法等。
优化算法通常具有局部性质，通常的迭代需要在单峰区间进行操作以保证算法收敛。
确定初始区间的方法：进退法①已知搜索起点和初始步长；②然后从起点开始以初始步长向前试探，如果函数值变大，则改变步长方向；③如果函数值下降，则维持原来的试探方向，并将步长加倍。
1.1黄金分割法：黄金分割法是一种区间收缩方法(或分割方法)，其基本思想是通过取试探点和进行函数值比较，使包含极小点的搜索区间不断缩短以逼近极小值点。
具有对称性以及保持缩减比原则。
优点：不要求函数可微，除过第一次外，每次迭代只需计算一个函数值，计算量小，程序简单；缺点：收敛速度慢；函数逼近法（插值法）：用比较简单函数的极小值点近似代替原函数的极小值点。
从几何上看是用比较简单的曲线近似代替原的曲线，用简单曲线的极小值点代替原曲线的极小点。
1.2牛顿法：将目标函数二阶泰勒展开，略去高阶项后近似的替代目标函数，然后用二次函数的极小点作为目标函数的近似极小点。
牛顿法的优点是收敛速度快，缺点是需要计算二阶导数，要求初始点选的好，否则可能不收敛。
1.2抛物线法：抛物线法的基本思想就是用二次函数抛物线来近似的代替目标函数，并以它的极小点作为目标函数的近似极小点。
在一定条件下，抛物线法是超线性收敛的。
1.3三次插值法：三次插值法是用两点处的函数值和导数值来构造差值多项式，以该曲线的极小点来逼近目标函数的极小点。
一般来说，三次插值法比抛物线法的收敛速度要快。
精确一维搜索的方法选择：1如目标函数能求二阶导数：用Newton法，收敛快。
2如目标函数能求一阶导数：1如果导数容易求出，考虑用三次插值法，收敛较快；2对分法、收敛速度慢，但可靠；3只需计算函数值的方法：1二次插值法, 收敛快，但对函数单峰依赖较强；2黄金分割法收敛速度较慢，但实用性强，可靠；4减少总体计算时间：非精确一维搜索方法更加有效。
最优化理论与算法（数学专业研究生）第一章 引论§1.1引言一、历史与现状最优化理论最早可追溯到古老的极值问题，但成为一门独立的学科则是在20世纪四十年代末至五十年代初。
其奠基性工作包括FritzJohn 最优性条件（1948），Kuhn-Tucker 最优性条件（1951），和Karush 最优性条件(1939)。
近几十年来最优化理论与算法发展十分迅速，应用也越来越广泛。
现在已形成一个相当庞大的研究领域。
关于最优化理论与方法，狭义的主要指非线性规划的相关内容，而广义的则涵盖：线性规划、非线性规划、动态规划、整数规划、几何规划、多目标规划、随机规划甚至还包括变分、最优控制等动态优化内容。
本课程所涉及的内容属于前者。
二、最优化问题的一般形式 1、无约束最优化问题min ()nx Rf x ∈ （1.1） 2、约束最优化问题min ()()0, ..()0, i i f x c x i E s t c x i I=∈⎧⎨≥∈⎩ （1.2）这里E 和I 均为指标集。
§1.2数学基础一、范数 1.向量范数max i xx ∞=（l ∞范数） （1.3）11ni i x x ==∑（1l 范数） （1.4）12221()ni i x x ==∑（2l 范数） （1.5）11()np pi pi x x ==∑（p l 范数） （1.6）12()TAxx Ax =（A 正定） （椭球范数） （1.7）事实上1－范数、2－范数与∞-范数分别是 p －范数当 p ＝1、2和p →∞时情形。
2．矩阵范数定义1.1方阵A 的范数是指与A 相关联并记做A 的一个非负数，它具有下列性质： ①对于0A ≠都有0A >，而0A =时0A =； ②对于任意k R ∈，都有kA k A =； ③A B A B +≤+； ④AB A B ≤； 若还进一步满足： ⑤pp AxA x ≤则称之为与向量范数p 相协调（相容）的方阵范数。
课程报告题目最优化理论与方法学生姓名学号院系专业二Ｏ一二年十一月十日最优化理论与方法综述最优化方法是近几十年形成的，它主要运用数学方法研究各种系统的优化途径及方案，为决策者提供科学决策的依据。
最优化方法的主要研究对象是各种管理问题及其生产经营活动。
最优化方法的目的在于针对所研究的系统，求得一个合理运用人力、物力和财力的最佳方案，发挥和提高系统的效能及效益，最终达到系统的最优目标。
实践表明，随着科学技术的日益进步和生产经营的日益发展，最优化方法已成为管理科学的重要理论基础和不可缺少的方法，被人们广泛地应用到公共管理、经济管理、工程建设、国防等各个领域，发挥着越来越重要的作用。
这就是我理解的整个课程的流程。
在这整个学习的过程当中，当然也会遇到很多的问题，不论是从理论上的还是从实际将算法编写出程序来解决一些问题。
下面给出学习该课程的必要性及结合老师讲解以及在作业过程中遇到的问题来阐述自己对该课程的理解。
20世纪40年代以来，由于生产和科学研究突飞猛进地发展，特别是电子计算机日益广泛应用，使最优化问题的研究不仅成为一种迫切需要，而且有了求解的有力工具。
因此最优化理论和算法迅速发展起来，形成一个新的学科。
至今已出现线性规划、整数规划、非线性规划、几何规划、动态规划、随机规划、网络流等许多分文。
最优化理论与算法包括线性规划单纯形方法、对偶理论、灵敏度分析、运输问题、内点算法、非线性规划K-T条件、无约束最优化方法、约束最优化方法、参数线性规划、运输问题、线性规划路径跟踪法、信赖域方法、二次规划路径跟踪法、整数规划和动态规划等内容。
最优化理论所研究的问题是讨论在众多的方案中什么样的方案最优以及怎样找出最优方案。
这类问题普遍存在。
例如，工程设计中怎样选择设计参数，使得设计方案满足设计要求，又能降低成本；资源分配中，怎样分配有限资源，使得分配方案既能满足各方面的基本要求，又能获得好的经济效益；生产评价安排中，选择怎样的计划方案才能提高产值和利润；原料配比问题中，怎样确定各种成分的比例，才能提高质量，降低成本；城建规划中，怎样安排基本单位的合理布局，才能方便群众，有利于城市各行各业的发展；农田规划中，怎样安排各种农作物的合理布局，才能保持高产稳产，发挥地区优势；军事指挥中，怎样确定最佳作战方案，才能有效地消灭敌人，保存自己，有利于战争的全局；在人类活动的各个领域中，诸如此类，不胜枚举。
最优化理论与方法最优化理论是一种用于解决实际问题的有效方法。
它可以帮助我们找到解决实际问题的最佳解决方案。
本文将介绍最优化理论的基本概念，以及它的特点和应用。
最优化理论的基本概念是：最优化理论旨在求解一个或多个变量的最优解，使得系统的某种目标函数的值达到最优。
最优化理论的目标函数可以是最大化或最小化函数。
最优化理论具有非常强大的表达能力，可以通过不同的方式来求解最优解。
最优化理论具有三个主要特点：第一，它拥有解决问题的高效率和精确性；第二，它可以有效地处理多变量优化问题；第三，它可以通过数学模型有效地实现最优解的有效求解。
最优化理论应用非常广泛，它可以应用于工程，金融，计算机，经济，生物技术，社会科学等。
在工程领域，最优化理论可以用来解决资源分配问题，能源分配问题，分布式计算问题和工程优化问题；在金融领域，它可以用来解决财务优化问题，保险业绩优化问题和金融模拟优化问题；在计算机领域，它可以用于解决计算机视觉问题和搜索算法等；在经济领域，它可以用于解决交易问题，价格优化问题，风险优化问题，以及经济模型优化问题；在生物技术领域，它可以用于研究蛋白质结构及其疾病发病机制；在社会科学领域，它可以用于研究社会现象及其规律。
在任何领域，最优化理论都拥有以上优势，可以提高系统性能和精确度，特别是在现代计算机技术竞争激烈的时代，最优化理论的应用更加广泛。
最优化理论可以有效地满足多个变量的最佳解，以提高系统性能。
综上所述，最优化理论是一种有效的求解多变量优化问题的理论，能够有效地提高系统性能和精确度。
它具有高效率，准确性，可扩展性，应用范围广泛等优点。
最优化理论是一种在许多领域，尤其是工程，金融，经济，计算机，生物技术和社会科学领域都有广泛应用的理论和方法。
它的应用已经使系统的性能和精确度得到了极大的提升，为解决实际问题提供了有效的理论和方法。
