Constrained Nonlinear Programming

Nonlinear Programming without a pena Ley er University of Dundee Numerical Analysis Report, NA/171 22 September 1997 Revised 22 December 1998
1 Introduction
This paper is concerned with the development of an algorithm for nding a local solution of a Nonlinear Programming (NLP) problem. For ease of explanation, we assume that the problem is of the form minimize f (x) x (P ) subject to c(x) 0; although we evolve to a more general formulation later in the paper. In problem (P ) we assume that f : IRn ! IR and c : IRn ! IRm are twice continuously di erentiable, and that expressions for rst and second derivatives are available, although much of what we have to say is applicable to algorithms that approximate second derivatives in some way. However, given the ready availability of e ective software for automatic di erentiation, we currently regard the exact second derivatives format as being the most important for use in practical applications. Our motivation in this work has been to dispense with the idea of a penalty function, with a view to providing an algorithm that does not require di cult decisions from the user in regard to the choice of penalty parameters. Within this constraint

课程名称：最优化方法（双语）课程编码：7121101课程学分：3学分课程学时：48学时适用专业：信息与计算科学《最优化方法》(双语)Optimization Method (Bilingual)教学大纲1．课程性质与任务（1）本课程是信息与计算科学专业学生的专业选修课。

最优化方法是从众多可能方案中选择出最佳者，从而达到最优目标的科学。

作为一门新兴的应用数学分支，最优化方法在近二、三十年来随着计算机的应用而迅猛发展，已经应用于国民经济各个部门和科学技术的各个领域中。

（2）通过本课程的学习，使学生掌握数学规划，主要指线性规划、整数规划、运输问题、目标规划、非线性规划的基本理论和方法，为在该领域的深入学习和研究打下良好的基础。

培养学生分析和解决实际问题的能力，使学生通过最优化方法的学习，能够将实际问题抽象为数学的问题，分析和解释最优结果，并将结果应用到实际中去。

2．课程教学基本内容及要求本课程主要介绍线性规划、整数规划、运输问题、目标规划、非线性规划的基本理论和方法。

通过对最优化方法的教学活动，对学生的要求按了解、理解、掌握三个层面给出，具体要求如下：(1)引言掌握最优化模型及分类。

掌握凸集和凸函数、凸规划的基本概念，理解其性质。

(2)线性规划的基本性质掌握线性规划的标准型，掌握图解法。

(3)单纯形方法掌握单纯形方法的原理、单纯形表、两阶段法和大M法。

了解退化情形和修正单纯形方法。

(4)对偶原理及灵敏度分析理解线性规划的对偶理论，掌握对偶单纯形算法。

(5)运输问题掌握运输问题的数学模型、掌握表上作业法。

(6)整数规划掌握典型整数规划的数学模型，掌握割平面法、分枝定界法，了解0-1规划的隐数法。

(7)无约束问题掌握一维搜索的概念，掌握非线性规划的模型建立，以及凸集、凸函数，最优性条件等基本概念，掌握最速下降法、牛顿法。

理解直接搜索法，可行方向法等最优化方法。

(8)有约束问题掌握非线性规划的模型建立，以及最优性条件等基本概念。

Sculptor体网格变形和Pointer混合优化策略在气道性能优化中的应用研究段加全1李伟1 陈海娥1赖宇阳2（1、一汽技术中心发动机部；2、北京树优信息技术有限公司）摘要发动机进排气系统的气体流动特性复杂，影响发动机的充气效率和换气损失，对发动机的动力性和经济性有重要影响。

本文以某汽油发动机进气道为优化对象，基于Sculptor高阶体网格变形和Isight集成优化平台，自动驱动两个气门升程工况下的气道稳态CFD流程，通过Pointer混合优化策略获得合理的气道截面尺寸参数，在满足流量系数和加工约束前提下实现滚流比最大化。

Sculptor基于B样条技术实现体网格变形，能够避免优化迭代过程中重新进行几何建模和网格划分的制约，实现优化过程自动化，同时保证附面层和流动敏感区的网格3阶光顺性。

Isight的 Pointer混合优化策略基于启发式的规则有效组合遗传算法、Nelder-Mead下山单纯型法、序列二次规划算法和线性搜索算法，具有很好的全局搜索能力和鲁棒性，其简洁的输入界面降低了工程师使用优化算法的门槛。

结果表明，本文提出的优化策略可以显著提高气道性能优化的效率，获得全局优化结果。

关键词优化，网格变形， 气道优化， Isight， Pointer，Sculptor引言随着国内汽车研发水平的提升，优化设计已经逐步应用到发动机开发过程当中。

但众多优化设计方法如何在工程中合理的应用并没有一个明确的结论。

同时，在涉及三维CFD流体性能的优化问题中，如何在优化过程中自动生成网格同时保证网格质量，是决定优化迭代自动化能否有效实现的关键技术瓶颈。

本文重点研究基于Sculptor的高阶体网格变形技术和Isight中Pointer混合优化策略在气道性能优化设计中的应用和效果，总结了三维体网格高精度变形控制、气道三维CFD数值模拟程序集成和全局优化中的工程实践经验，对发动机开发中的优化应用具有有一定指导意义。

1. Sculptor体网格变形技术Sculptor是基于B样条技术的体网格变形技术[1]，能够对已有的网格模型建立普适变形控制体ASD(Arbitrary Shape Deformer)实现一个控制点与一组网格节点的映射。

拉格朗日神经网络解决带等式和不等式约束的非光滑非凸优化问题喻昕;许治健;陈昭蓉;徐辰华【摘要】Nonconvex nonsmooth optimization problems are related to many fields of science and engineering applications, which are research hotspots. For the lack of neural network based on early penalty function for nonsmooth optimization problems, a recurrent neural network model is proposed using Lagrange multiplier penalty function to solve the nonconvex nonsmooth optimization problems with equality and inequality constrains. Since the penalty factor in this network model is variable, without calculating initial penalty factor value, the network can still guarantee convergence to the optimal solution, which is more convenient for network computing. Compared with the traditional Lagrange method, the network model adds an equality constraint penalty term, which can improve the convergence ability of the network. Through the detailed analysis, it is proved that the trajectory of the network model can reach the feasible region in finite time and finally converge to the critical point set. In the end, numerical experiments are given to verify the effectiveness of the theoretic results.%非凸非光滑优化问题涉及科学与工程应用的诸多领域,是目前国际上的研究热点.该文针对已有基于早期罚函数神经网络解决非光滑优化问题的不足,借鉴Lagrange乘子罚函数的思想提出一种有效解决带等式和不等式约束的非凸非光滑优化问题的递归神经网络模型.由于该网络模型的罚因子是变量,无需计算罚因子的初始值仍能保证神经网络收敛到优化问题的最优解,因此更加便于网络计算.此外,与传统Lagrange方法不同,该网络模型增加了一个等式约束惩罚项,可以提高网络的收敛能力.通过详细的分析证明了该网络模型的轨迹在有限时间内必进入可行域,且最终收敛于关键点集.最后通过数值实验验证了所提出理论的有效性.【期刊名称】《电子与信息学报》【年(卷),期】2017(039)008【总页数】6页(P1950-1955)【关键词】拉格朗日神经网络;收敛;非凸非光滑优化【作者】喻昕;许治健;陈昭蓉;徐辰华【作者单位】广西大学计算机与电子信息学院南宁 530004;广西大学计算机与电子信息学院南宁 530004;广西大学计算机与电子信息学院南宁 530004;广西大学电气工程学院南宁 530004【正文语种】中文【中图分类】TP183作为解决优化问题的并行计算模型，递归神经网络在过去的几十年里受到了极大的关注，不少神经网络模型被提出。