非线性方程组数值解法
n个变量n个方程(n >1)的方程组表示为
(1)
式中?i(x1,x2,…,x n)是定义在n维欧氏空间R n的开域D上的实函数。若?i中至少有一个非
线性函数，则称(1)为非线性方程组。在R n中记?＝
则(1)简写为?(尣)=0。若存在尣*∈D，使?(尣*)＝0，则称尣*为非线性方程组的解。方程组(1)可能有一个解或多个解，也可能有无穷多解或无解。对非线性方程组解的存在性的研究远不如线性方程组那样成熟，现有的解法也不象线性方程组那样有效。除极特殊的方程外，一般不能用直接方法求得精确解，目前主要采用迭代法求近似解。根据不同思想构造收敛于解尣*的迭代序列{尣k}(k=0，1，…)，即可得到求解非线性方程组的各种迭代法，其中最著名的是牛顿法。
牛顿法及其变形牛顿法基本思想是将非线性问题逐步线性化而形成如下迭代程序：
(2)
式中
是?(尣k)的雅可比矩阵,尣0是方程(1)的解尣*的初始近似。
这个程序至少具有2阶收敛速度。由尣k算到尣k+的步骤为:①由尣k算出?(尣k)及
;②用直接法求线性方程组的解Δ尣k；③求
。
由此看到迭代一次需计算n个分量函数值和n2个分量偏导数值，并求解一次n阶线性方程组。
为了评价非线性方程组不同迭代法的优劣，通常用效率作为衡量标准,其中P 为迭代法的收敛阶,W为每迭代步计算函数值?i及偏导数值的总个数（每迭代步中求一次逆的工作量相同,均不算在W内）。效率e越大表示此迭代法花费代价越小,根据效率定
义，牛顿法(2)的效率为。
牛顿法有很多变形,如当奇异或严重病态时，可引进阻尼因子λk，得到阻尼牛顿法，即
式中I是单位矩阵。牛顿法是局部收敛方法,因而对初始近似尣0限制较严，为放宽对尣0的要求,扩大收敛范围,通常可引进松弛因子ωk，得到牛顿下降法：
(3)
式中ωk的选择应使成立。
为减少解线性方程组次数，提高效率，可使用修正牛顿程序
(4)
这种算法也称为萨马斯基技巧，它的收敛阶为 p =m+1，由尣k计算的工作量为W =n2 +mn，于是该法的效率。当n=10,m＝7时,当n＝1 00,m＝37时,，由此看到修正牛顿法(4)比牛顿法效率高，且m越大效果越明显。
在计算机上往往采用不计算偏导数的离散牛顿法，即
(5)
式中
，
其中e j为基向量,,若取，则(5)仍具有2阶收敛速度。其效率与牛顿法相同。
若在牛顿法(2)中解线性方程组不用直接法,而采用迭代法则得到一类解非线性方程组的双重迭代法。按解线性方程组采用的方法不同就得到不同名称的迭代法，如牛顿－赛德尔迭代法，牛顿－SOR迭代法，牛顿－ADI迭代法，等等。这些方法都具有超线性收敛速度，工作量也比牛顿法大，除了对某些特殊稀疏方程组外，通常用得校少。若将解线性方程组迭代法的思想直接用于非线性方程组(1)，然后把(1)化为一维方程求解，可得到另一类双重迭代法，由于采用的迭代法与解一维非线性方程的方法不同，则得到不同的双重迭代法。如果利用SOR迭代法后再用牛顿法解一维方程则得SOR－牛顿迭代法，在牛顿法中只计算一步而不进行迭代，则得一步的SOR－牛顿迭代，其计算公式可表示为
式中记号嬠i?i表示；ω为迭代参数，当ω=1时就是赛德尔-牛顿迭代法,这类方法对解维数高的稀疏的非线性方程组是有效的。
割线法若对方程组 (1)线性化时使用插值方法确定线性方程组
(6)
中的A k和b k,则可得到一类称为割线法的迭代序列。假定已知第k步近似尣k，为确定A k和
b k,可在尣k附近取n个辅助点у忋(j=1,2,…,n),使n个向量线性无关，由插值条件可知
由此可求得
由(6)解得以此作为方程 (1)的新近似，记作，于是得到
(7)
(7)称为解非线性方程组的割线法。辅助点у忋取得不同就得到不同的割线法程序，例如
取为常数(j=1,2,…,n)，就得到与(5)相同的程序，由于它只依赖于尣k点的信息，故也称一点割线法,若取它依赖于点尣k及, 称为两点割线法。其他多点割线法由于稳定性差，使用较少。
布朗方法布朗采用对每个分量方程?i(尣)=0逐个进行线性化并逐个消元的步骤，即在每迭代步中用三角分解求线性方程组的解，得到了一个效率比牛顿法提高近一倍的迭代法，即
式中
(8)中当i=n时求得x n记作,再逐次回代,求出(i=n-1,n-2,…, 1)就完成了一个迭代步。布朗迭代程序的敛速仍保持p＝2，而每一迭代步的工作量
，故效率对这方法还可与牛顿法一样进行改进，得到一些效率更高的算法。这类方法是70年代以来数值软件包中常用的求解非线性方程组的算法。
拟牛顿法为减少牛顿法的计算量，避免计算雅可比矩阵及其逆，60年代中期出现了一类称为拟牛顿法的新算法,它有不同的形式，常用的一类是秩1的拟牛顿法，其中不求逆的程序为
式中,,，称为逆拟牛顿公式。计算时先给出尣0及B0，由(9)逐步迭代到满足精度要求为止。每步只算n个分量函数值及O(n2)的计算量,比牛顿法一步计算量少得多。理论上已证明，当尣0及B0选得合适时,它具有超线性收敛速度,但实践表明效率并不高于牛顿法，理论上尚无严格证明。
最优化方法求方程组 (1)的问题等价于求目标函数为的极小问题,因此可用无约束最优化方法求问题(1)的解（见无约束优化方法）。
连续法又称嵌入法，它可以从任意初值出发求得方程组(1)的一个足够好的近似解,
是一种求出好的迭代初值的方法。连续法的基本思想是引入参数t∈【0,b】，构造算子H(尣, t)，使它满足条件：H(尣,0)=?0(尣),H(尣,b)=?(尣)，其中?0(尣)=0的解尣0是已知，方程：
(10)
在t∈【0,b】上有解尣=尣(t)，则尣(b)=尣*就是方程(1)的解。当b有限时，通常取b=1，例如可构造。
(11)
这里尣0是任意初值,显然H(尣0,0)=0,H(尣,1)=?(尣)。为了求得(10)在t=1的解尣*=尣(1),可取分点0=t0 H(尣,t i)=0 (i=1,2,…,N) (12) 的解尣i，如果取尣i-1为初值，只要足够小，牛顿迭代就收敛，但这样做工作量较大。已经证明，如果方程组(12)只用一步牛顿法，当t=t N=1时，再用牛顿迭代，结果仍具有2阶收敛速度。以(11)为例,得到连续法的程序为： 若H(尣,t)的偏导数H t(尣,t)及在D×【0,1】嶅R上连续。且非奇异，则由(10)对t求导可得到等价的微分方程初值问题: (13) 于是求方程(10)的解就等价于求常微初值问题(13)的解，求(13)的解可用数值方法由t=0计算到t=t N=b得到数值解。已经证明只要N足够大,以尣N为初值再进行牛顿迭代可收敛到方程(1)的解x*，这种算法称为参数微分法。 20世纪60年代中期以后，发展了两种求解非线性方程组(1)的新方法。一种称为区间迭代法或称区间牛顿法，它用区间变量代替点变量进行区间迭代，每迭代一步都可判断在所给区间解的存在惟一性或者是无解。这是区间迭代法的主要优点，其缺点是计算量大。另一种方法称为不动点算法或称单纯形法，它对求解域进行单纯形剖分，对剖分的顶点给一种恰当标号，并用一种有规则的搜索方法找到全标号单纯形,从而得到方程(1)的近似解。这种方法优点是，不要求?(尣)的导数存在,也不用求逆，且具有大范围收敛性，缺点是计算量大。 参考书目 J.M.Ortega and W.G.Rheinboldt,Iterative Solution of Nonlinear Equations in Several variables,Academic Press,New York,1970. 第二章 线性方程组的数值解法 在科技、工程技术、社会经济等各个领域中很多问题常常归结到求解线性方程组。例如电学中的网络问题，样条函数问题，构造求解微分方程的差分格式和工程力学中用有限元方法解连续介质力学问题，以及经济学中求解投入产出模型等都导致求解线性方程组。 n 阶线性方程组的一般形式为 ?? ???? ?=+++=+++=+++n n nn n n n n n n b x a x a x a b x a x a x a b x a x a x a L K K K K L L 22112 222212********* （1.1） 其矩阵形式为 b Ax = （1.2） 其中 ????? ???????=??? ?????????=? ? ????? ?????= n n nn n n n n b b b b x x x x a a a a a a a a a A M M L K K K K L L 2121212222111211 ),,2,1,(n j i a ij L =，),,2,1(n i b i L =均为实数，i b 不全为0，且A 为非奇异。 关于线性方程组的数值解法一般分为两类： 1．直接法 就是不考虑计算机过程中的舍入误差时，经有限次的四则运算得到方程组准确解的方法。 而实际中由于计算机字长的限制，舍入误差的存在和影响，这种算法也只能求得线性方程组的近似解。本章将阐述这类算法中最基本的消去法及其某些变形。这些方法主要用于求解低阶稠密系数矩阵方程组。 2．迭代法 从某个解的近似值出发，通过构造一个无穷序列，用某种极限过程去逐步逼近线性方程组的精确解的方法。本章主要介绍迭代法与迭代法。迭代法是解大型稀疏矩阵（矩阵阶数高而且零元素较多）的线性方程组的重要方法。 §1 高斯)(Gauss 消去法 1.1 Gauss 消去法 Gauss 消去法是将线性方程组化成等价的三角形方程组求解。首先举例说明Gauss 非线性方程数值解法及其应用 摘要:数值计算方法主要研究如何运用计算机去获得数学问题的数值解的理论和算法。 本文主要介绍非线性方程的数值解法以及它在各个领域的应用。是直接从方程出发，逐步缩小根的存在区间，或逐步将根的近似值精确化，直到满足问题对精度的要求。我将从二分法、Steffensen 加速收敛法、Newton 迭代法、弦截法来分析非线性方程的解法及应用。 关键字：非线性方程;二分法；Steffensen 加速收敛法；代数Newton 法；弦截法 一、前言 随着科技技术的飞速发展，科学计算越来越显示出其重要性。科学计算的应用之广已遍及各行各业，例如气象资料的分析图像，飞机、汽车及轮船的外形设计，高科技研究等都离不开科学计算。因此经常需要求非线性方程 f(x) = O 的根。方程f(x) = O 的根叫做函数f(x)的零点。由连续函数的特性知：若f(x)在闭区间[a ，b]上连续，且f(a)·f(b) 线性方程组的数值解法 实验 题目 用Gauss消元法和Seidel迭代法求线性方程组的解。 实验目的 通过本次实验了解Gauss消元法和Seidel迭代法的基本原理，掌握其算法,学会用Matlab编程进行计算，并能用这些方法解决实际问题。 Gauss 顺序消元法的基本原理算法： （1）输入：,. A b （2）对1,2,,1 k n =???-做 1）if0 kk a=then输出算法失败信息，停机； 2）对1,, i k n =+???做 1/; ik ik ik kk a l a a ←= 2; i i ik k b b l b =- 3对1,, j k n =+???做; ij ij ik kj a a l a =- （3）if0 nn a=then输出算法失败信息，并停机else做 1）/; n n n nn b x b a ←= 2）对1,,2,1 i n =-???做 1 ()/; n i i i ij j ii j i b x b a x a =+ ←=-∑ （4）输出方程组的解.X 流程图见附页 Seidel 迭代法的基本原理算法： （1）输入：,; A b （2）输入：初始解向量 ;x （3）对1,2,, i n =???做 1） 1 ()/; n i i ij j ii j j i y b a x a = ≠ =-∑ 2）; i i i e y x =- 3）; i i x y = （4）if 1 {||} max i i n eε ≤≤ 线性方程组的解法 1 引言 在科学研究和大型工程设计中出现了越来越多的数学问题，而这些问题往往需要求数值解。在进行数值求解时，经离散后，常常归结为求解形如Ax= b的大型线性方程组。而如插值公式，拟合公式等的建立，微分方程差分格式的构造等，均可归结为求解线性方程组的问题．在工程技术的科学计算中，线性方程组的求解也是最基本的工作之一．因此，线性方程组的解法一直是科学和工程计算中研究最为普遍的问题，它在数值分析中占有极其重要的地位。20世纪50年代至70年代，由于电子计算机的发展，人们开始考虑和研究在计算机上用迭代法求线性方程组Ax =b的近似解，用某种极限过程去逐渐逼近精确解，并发展了许多非常有效的迭代方法，迭代法具有需要计算机存储单元少、程序设计简单、原始系数矩阵在计算过程中始终不变等优点。例如Jacobi方法、Gauss—Seidel 方法、SOR方法、SSOR 方法，这几种迭代方法是最常用的一阶线性定常迭代法。 2 主要算法 20世纪50年代至70年代，人们开始考虑和研究用迭代法求解线性方程组。 Ax = b (1) 的近似解，发展了许多有效的方法，其中有Jacobi方法、Gauss—Seidel方法，SOR方法、SSOR方法，这几种迭代方法均属一阶线性定常迭代法，即若系数矩阵A的一个分裂：A =M-N ；M 为可逆矩阵，线性方程组(1)化为： (M－N)X =b； →M X = NX + b； →X= M -1NX+ M-1b 得到迭代方法的一般公式： X（k+1）=HX（k）+d （2） 其中：H =MN-1，d=M-1b，对任意初始向量X（0） 一阶定常迭代法收敛的充分必要条件是: 迭代矩H的谱半径小于1，即ρ(H) < 1；又因为对于任何矩阵范数恒有ρ(H)≤‖H‖，故又可得到收敛的一个充分条件为：‖H‖< 1。 2.1 Jacobi迭代法 若D为A的对角素构成的对角矩阵，且对角线元素全不为零。系数矩阵A的一个分解：A = M a a b求解线性方程组非 线性方程组 The latest revision on November 22, 2020 求解线性方程组solve，linsolve例：A=[5 0 4 2;1 -1 2 1;4 1 2 0;1 1 1 1];%矩阵的行之间用分号隔开，元素之间用逗号或空格B=[3;1;1;0]X=zeros(4,1);%建立一个4元列向量 X=linsolve(A,B)diff（fun，var，n）：对表达式fun中的变量var求n阶导数。 例如：F=sym（'u(x,y)*v(x,y)'）; %sym（）用来定义一个符号表达式diff(F); %matlab区分大小写pretty(ans) %pretty（）：用习惯书写方式显示变量；ans是答案表达式 非线性方程求解 fsolve(fun,x0,options) 其中fun为待解方程或方程组的文件名； x0位求解方程的初始向量或矩阵； option为设置命令参数 建立文件： function y=fun(x) y=[x(1)*sin(x(1))*cos(x(2)), ... x(2) - *cos(x(1))+*sin(x(2))]; >>clear;x0=[,];fsolve(@fun,x0,optimset('fsolve'))注：...为续行符m文件必须以function 为文件头，调用符为@；文件名必须与定义的函数名相同；fsolve（）主要求解复杂非线性方程和方程组，求解过程是一个逼近过程。 Matlab求解线性方程组AX=B或XA=B在MATLAB中，求解线性方程组时，主要采用前面章节介绍的除法运算符“/”和“\”。如：X=A\B表示求矩阵方程AX＝B的解；X＝B/A表示矩阵方程XA=B 的解。对方程组X＝A\B，要求A和B用相同的行数，X和B有相同的列数，它的行数等于矩阵A 的列数，方程X＝B/A同理。 如果矩阵A不是方阵，其维数是m×n，则有：m＝n 恰定方程，求解精确解；m>n 超定方程，寻求最小二乘解；m 线性方程组的解法及其应用 The solution of linear equation and its application 专业：测控技术与仪器 班级： 2010-1班 作者：刘颖 学号： 20100310110105 摘要 线性方程组是线性代数的一个重要组成部分，也在现实生产生活中有着广泛的运用，在电子工程、软件开发、人员管理、交通运输等领域都起着重要的作用。在一些学科领域的研究中，线性方程组也有着不可撼动的辅助性作用，在实验和调查后期利用线性方程组对大量的数据进行处理是很方便简捷的选择。本文主要围绕如何解线性方程组来进行讲解，对于不同类型的线性方程组的不同方法，并简述线性方程组的一些实际应用。 关键词： 齐次线性方程组，非齐次线性方程组，克莱姆法则，消元法，矩阵，矩阵的秩，特解，通解。 Abstract Linear equations linear algebra is one of the important component parts, and in real life has extensive production use，and it plays an important role in electronic engineering, software development, personnel management, transportation, etc. In some discipline study, it also has the reigns of linear equations of the auxiliary function.In experiment and survey using the linear equations of the late on the data processing is very convenient simple choice. This article, focusing on how to solve linear equations to explain, for different types of linear equations of different methods, and briefly introduces some of the practical application of linear equations. Keywords: Homogeneous linear equations, Non homogeneous linear equation,Clem’s law,Elimination method,Matrix,Rank of matrix,Special solution,General solution. 非线性方程组数值解法 n个变量n个方程(n >1)的方程组表示为 (1) 式中?i(x1,x2,…,x n)是定义在n维欧氏空间R n的开域D上的实函数。若?i中至少有一个非 线性函数，则称(1)为非线性方程组。在R n中记?＝ 则(1)简写为?(尣)=0。若存在尣*∈D，使?(尣*)＝0，则称尣*为非线性方程组的解。方程组(1)可能有一个解或多个解，也可能有无穷多解或无解。对非线性方程组解的存在性的研究远不如线性方程组那样成熟，现有的解法也不象线性方程组那样有效。除极特殊的方程外，一般不能用直接方法求得精确解，目前主要采用迭代法求近似解。根据不同思想构造收敛于解尣*的迭代序列{尣k}(k=0，1，…)，即可得到求解非线性方程组的各种迭代法，其中最著名的是牛顿法。 牛顿法及其变形牛顿法基本思想是将非线性问题逐步线性化而形成如下迭代程序： (2) 式中 是?(尣k)的雅可比矩阵,尣0是方程(1)的解尣*的初始近似。 这个程序至少具有2阶收敛速度。由尣k算到尣k+的步骤为:①由尣k算出?(尣k)及 ;②用直接法求线性方程组的解Δ尣k；③求 。 由此看到迭代一次需计算n个分量函数值和n2个分量偏导数值，并求解一次n阶线性方程组。 为了评价非线性方程组不同迭代法的优劣，通常用效率作为衡量标准,其中P 为迭代法的收敛阶,W为每迭代步计算函数值?i及偏导数值的总个数（每迭代步中求一次逆的工作量相同,均不算在W内）。效率e越大表示此迭代法花费代价越小,根据效率定 义，牛顿法(2)的效率为。 牛顿法有很多变形,如当奇异或严重病态时，可引进阻尼因子λk，得到阻尼牛顿法，即 第三章 非线性方程(组)的数值解法 一．取步长1h =，试用搜索法确立3()25f x x x =--含正根的区间，然后用二分法求这个正根，使误差小于310-。 【详解】 因为是要寻找正根，因此，可选含根区间的左端点为0。(0)5f =-， (1)5f =-，(2)1f =-，(3)16f =，因此，(2,3)中有一个正根。这就确立 了含根区间。 接下来，我们用二分法求这个正根，使误差小于310-，计算结果如下表 迭代次数 k a k b k x 0 2 3 2.5 1 2 2.5000 2.250 0 2 2 2.2500 2.125 0 3 2 2.1250 2.062 5 4 2.0625 2.1250 2.093 8 5 2.0938 2.1250 2.109 4 6 2.0938 2.1094 2.101 6 7 2.0938 2.1016 2.097 7 8 2.0938 2.0977 2.095 7 9 2.0938 2.0957 2.094 7 二．对方程2()2sin 20f x x x =--=，用二分法求其在区间[]1.5,2内的根，要求误差小于0.01。 【详解】 用二分法求解方程在[]1.5,2内的根，要求误差小于0.01，计算结果如下表： 迭代次数 k a k b k x 0 1.5 2 1.75 1 1.7500 2.0000 1.8750 2 1.8750 2.0000 1.9375 3 1.9375 2.0000 1.9688 4 1.9375 1.9688 1.9531 5 1.9531 1.9688 1.9609 三．用不动点迭代法，建立适当的迭代格式，求方程 3()10f x x x =--= 在0 1.5x =附近的根，要求误差小于610-。 【详解】 310x x --=，等价于x =。这样，可以建立不动点迭代格式 1k x +=当0x ≥时，总有2311 0(1)133 x -'<=+≤<，因此，迭代 格式对于任意初始值00x ≥总是收敛的。 取0 1.5x =，用所建立的不动点迭代格式求解近似根，要求误差小于610-，计算结果如下表： 迭代次数 k x 1.5 非线性方程组的求解 摘要：非线性方程组求解是数学教学中，数值分析课程的一个重要组成部分，作为一门学科，其研究对象是非线性方程组。求解非线性方程组主要有两种方法：一种是传统的数学方法，如牛顿法、梯度法、共轭方向法、混沌法、BFGS 法、单纯形法等。传统数值方法的优点是计算精度高，缺点是对初始迭代值具有敏感性，同时传统数值方法还会遇到计算函数的导数和矩阵求逆的问题，对于某些导数不存在或是导数难求的方程，传统数值方法具有一定局限性。另一种方法是进化算法，如遗传算法、粒子群算法、人工鱼群算法、差分进化算法等。进化算法的优点是对函数本身没有要求，不需求导，计算速度快，但是精度不高。 关键字：非线性方程组、牛顿法、BFGS 法、记忆梯度法、Memetic 算法 1： 三种牛顿法：Newton 法、简化Newton 法、修改的Newton 法【1-3】 求解非线性方程组的Newton 法是一个最基本而且十分重要的方法, 目前使用的很多有效的迭代法都是以Newton 法为基础, 或由它派生而来。 n 个变量n 个方程的非线性方程组, 其一般形式如下: ???????===0),...,(... 0),...,(0),...,(21212211n n n n x x x f x x x f x x x f （1） 式(1)中,),...,(21n i x x x f ( i=1, ?, n) 是定义在n 维Euclid 空间Rn 中开域 D 上 的实值函数。若用向量记号，令： ????????????=n x x x ...X 21,????????????=??????????????====)(...)()(0),...,(...0),..,(0)...,()(2121212,211X f X f X f x x x f x x x f x x x f X F n n n n n 好久没来论坛，刚刚发现以前的帖子现在那么火很欣慰，谢谢大家支持！ 今天趁着不想做其他事情，把线性方程组的数值解法总结下，有不足的地方希望大神指教！数学建模中也会用到线性方程组的解法，你会发现上10个的方程手动解得话把你累个半死，而且不一定有结果，直接用matlab的函数，可以，关键是你不理解用着你安心吗？你怎么知道解得对不对？ 我打算开个长久帖子，直到讲完为止！这是第一讲，如有纰漏请多多直接，大家一起交流！线性方程组解法有两大类：直接法和迭代法 直接法是解精确解，这里主要讲一下Gauss消去法，目前求解中小型线性方程组（阶数不超过1000），它是常用的方法，一般用于系数矩阵稠密，而有没有特殊结构的线性方程组。 首先，有三角形方程组的解法引入Gauss消去法，下三角方程组用前代法求解， 这个很简单，就是通过第一个解第二个，然后一直这样直到解出最后一个未知数，代码如下：前代法： function [b]= qiandai_method(L,b) n=size(L,1); %n 矩阵L的行数 for j=1:n-1 %前代法求解结果存放在b中 b(j)=b(j)/L(j,j); b(j+1:n)=b(j+1:n)-b(j)*L(j+1:n,j); end b(n)=b(n)/L(n,n); 上三角方程组用回代法，和前面一样就是从下面开始解x，代码： 后代法： function [y]=houdai_method(U,y) n=size(U,1); %n 矩阵L的行数 for j=n:-1:2 %后代法求解结果存放在y中 y(j)=y(j)/U(j,j); y(1:j-1)=y(1:j-1)-y(j)*U(1:j-1,j); end y(1)=y(1)/U(1,1); Gauss消去的前提就是这两个算法： 具体思想是把任何一个线性方程组的系数矩阵A，分解为一个上三角和一个下三角的乘积，即A=LU，其中L为下三角，U为上三角。 那么具体怎么做呢？ 有高斯变换，什么是高斯变换？由于时间有限我不可能去输入公式，所以我用最平白的话把它描述出来。 你先想一下怎么把一个矩阵的某一列的从第j个分量后全部变0？ 高斯变换就是通过每次一个矩阵Li把A的第i列对角线元素以下的都变为0，最后把这么多Li一次左乘起来就是一个矩阵L’=L(n-1)L(n-2)…L2L1，而L’A=U, 那么L=L’的转置，这样就得到了A得分解。 我们要求Ax=b A=LU 目录 摘要................................................................................... I Abstract. ............................................................................. II 第一章绪论............................................................................ I 1.1引言 (1) 1.2线性方程组解的求解方法的研究现状 (1) 1.3本文对线性方程组解法的研究结构 (1) 第二章线性方程组理论基础 (2) 2.1 线性方程组概念 (2) 2.2 线性方程组的解的情况分析 (2) 2.3 齐次线性方程组解的结构 (4) 2.4非齐次线性方程组解的结构 (4) 第三章线性方程组的数值解 (5) 3.1 迭代法 (5) 3.1.1 Jacobi方法 (6) 3.2.2 高斯-赛德尔方法 (8) 第四章全文总结和展望 (10) 4.1 全文总结 (10) 4.2 未来展望 (10) 参考文献 (11) 致谢................................................................. 错误！未定义书签。 线性方程组的求解方法 学生：指导教师： 摘要：本文在对线性方程组解的结构的研究背景与意义分析的基础上，对线性方程组的求解方法的研究现状进行了介绍，之后针对线性方程组展开了研究，包括线性方程组的概念、线性方程组的求解方法以及线性方程组的作用等，在对线性方程组有了全面的认识后，基于线性方程组解的结构展开了研究，包括线性方程组解的基本定理，齐次和非齐次线性方程组解的结构形式，以及齐次和非齐次线性方程组解的结构，我们用迭代法中最常用的Jacobi方法中的相似上三角矩阵定理和迭代法中的收敛性讨论线性方程组的数值解法，并用高斯-赛德尔方法进行验证。得到线性方程组的数值解的一般方法。最后，对全文进行了总结和展望。 关键词：线性方程组;数值解；迭代法；Jacobi方法；高斯-赛德尔方法 第2章线性方程组的直接解法 2.1实验目的 理解线性方程组计算机解法中的直接解法的求解过程和特点，学习科学计算的方法和简单的编程技术。 2.2概念与结论 1. n阶线性方程组 如果未知量的个数为 n ,而且关于这些未知量x1,x2, …,x n的幂次都是一次的(线性的)那末, n 个方程 a11x1+a12x2+ … +a1n x n=b1 ┆┆┆ (1) a n1x1+a n2x2+ … +a nn x n= b n 构成一个含n个未知量的线性方程组,称为n阶线性方程组。其中,系数a11,…,a1n,a21, …,a2n, …,a n1, …,a nn 和b1, …,b n都是给定的常数。 方程组(1)也常用矩阵的形式表示,写为 Ax=b 其中,A是由系数按次序排列构成的一个n阶矩阵,称为方程组的系数矩阵,x和b都是n维向量,b称为方程组的右端向量。 2. n阶线性方程组的解 使方程组(1)中每一个方程都成立的一组数x1*,x2*, …,x n*称为式(1)的解,把它记为向量的形式,称为解向量. 3.一些特殊的线性方程组 1) 上三角方程组 2) 三对角方程组 ? ? ? ? ? ? ? ? ? ? ? ? = ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? - - - - - n n nn n n n n n n n n b b b x x x a a a a a a a a a a a a 2 1 2 1 1 1 1 2 1 2 23 22 1 1 1 13 12 11 4.矩阵的Doolittle 分解 5.Doolittle 分解的紧凑格式 6．矩阵的Crout 分解 ????????? ? ??=?????????? ???????????? ? ?--n n n n n n d d d x x x b a c b c b a c b a c b 21 2111333 22211???? ?? ? ? ???????? ??=??????? ??nn n n n n nn n n n n u u u u u u l l l a a a a a a a a a 222 11211 2 1 21 2 1 2222111211111 ???? ?? ? ? ???????? ??=??????? ??11 1 21122 1 2221 11 2 1 2222111211 n n nn n n nn n n n n u u u l l l l l l a a a a a a a a a ????? ?? ? ??nn n n n n n n u l l l u u l l u u u l u u u u 3 2 1 333323122322211131211 第三章线性方程组地数值解法 范数 (1> 常用范数 ① 向量 1- 范数: ② 向量 2- 范数: ③ 向量∞- 范数: ④ 向量 p- 范数: 向量1- 范数,向量2- 范数,向量∞- 范数实际上为任意 p- 范数地特例. (2> 矩阵范数 设,则 (1>,A地行范数 (2>,A地列范数 (3>,A地 2- 范数,也称谱范数 (4>, F- 范数 其中指矩阵地最大特征值 (3>谱半径(用于判断迭代法地收敛值> 设为矩阵A地特征值,则 称为A地谱半径 谱半径小于任何半径,若,则 (4>设A为非奇异矩阵,称 为A地条件数 矩阵地条件数与范数选取有关,通常有 显然当A对称时 直接法 Gauss消去法 ①Gauss顺序消去法 对线性方程组Ax=b,设,按顺序消元法,写出增广矩阵(A┆b>第一步,写出,将2～n行中地变为0 第k步,写出,将k+1～n行中地变为0 具体步骤可参照下面地例题 例5:用Gauss消去法解方程组 解: Guass列主元消去法 消去过程与Guass消元法基本相同,不同地是每一步消元时,都要将所选到地绝对值最大元素作为主元. 具体分析参见习题详解1 ②矩阵三角(LU>分解法 基本思想:将Ax=b化为LUx=b,令Ux=y 可得Ly=b,Ux=y,相当于先求出y,再求出x 其中,L,U分别为下三角矩阵和上三角矩阵 若L为单位下三角矩阵,则称为Doolittle分解。若U为单位上三角矩阵,则称为Crout分解. ③矩阵Doolittle分解法 计算公式 具体解题见习题详解2 注意计算顺序,先行再列,用简图表示为 虚线上地元素为对角元,划为行元. ④ 分解法 计算公式 线性方程组的几种解法 线性方程组形式如下： 常记为矩阵形式 其中 一、高斯消元法 高斯（Gauss)消元法的基本思想是：通过一系列的加减消元运算，也就是代数中的加减消去法，将方程组化为上三角矩阵；然后，再逐一回代求解出x 向量。现举例说明如下： （一）消元过程 第一步：将(1)/3使x 1的系数化为1 得 再将(2)、(3)式中x 1的系数都化为零，即由(2)-2×(1)(1) 得 )1(32)2( (03) 4 32=+x x )1(321)1(......23132=++ x x x 由(3)-4×(1)(1) 得 第二步：将(2)(1) 除以2/3，使x 2系数化为1，得 再将(3)(1) 式中x 2系数化为零，即 由(3)(1) -(-14/3)*(2)(2) ，得 第三步：将(3)(2) 除以18/3，使x 3系数化为1，得 经消元后，得到如下三角代数方程组： （二）回代过程 由(3)(3) 得 x 3=1, 将x 3代入(2)(2) 得x 2=-2, 将x 2 、x 3代入(1)(1) 得x 2=1 所以，本题解为[x]=[1,2,-1]T （三）、用矩阵演示进行消元过程 第一步： 先将方程写成增广矩阵的形式 第二步：然后对矩阵进行初等行变换 初等行变换包含如下操作 （1） 将某行同乘或同除一个非零实数 ) 3(3)3(......1-=x )2(3)3( (63) 18-=x ) 2(32) 2(......02=+x x ) 1(32)3( (63) 10 314-=-- x x （2）将某行加入到另一行 （3）将任意两行互换 第三步：将增广矩阵变换成上三角矩阵，即主对角线全为1，左下三角矩阵全为0，形式如下： 示例： （四）高斯消元的公式 综合以上讨论，不难看出，高斯消元法解方程组的公式为 1．消元 （1）令 a ij(1) = a ij , （i,j=1,2,3,…,n） b i(1) =b i , （i=1,2,3,…,n） （2）对k=1到n-1，若a kk(k)≠0，进行 l ik = a ik(k) / a kk(k) , （i=k+1,k+2,…,n） a ij(k+1) = a ij(k) - l ik * a kj(k), （i,j= k+1,k+2,…,n） b i(k+1) = b i(k) - l ik * b k(k), （i= k+1,k+2,…,n） 2．回代 若a nn(n) ≠0 x n = b n(n) / a nn(n) x i = (b i(i) – sgm(a ij(i) * x j)/- a ii(i),（i = n-1,n-2,…,1）,( j = i+1,i+2,…,n ) （五）高斯消元法的条件 消元过程要求a ii(i) ≠0 (i=1,2,…,n),回代过程则进一步要求a nn(n) ≠0,但就方程组Ax=b 讲，a ii(i)是否等于0时无法事先看出来的。 注意A的顺序主子式D i（i=1,2,…,n）,在消元的过程中不变，这是因为消元所作的变换是“将某行的若干倍加到另一行”。若高斯消元法的过程进行了k-1步(a ii(i) ≠0,i 重庆大学 学生实验报告实验课程名称计算方法 开课实验室DS1421 学院年级专业 学生姓名学号 开课时间至学年第学期 1．实验目的 （1）高斯列主元消去法求解线性方程组的过程 （2）熟悉用迭代法求解线性方程组的过程 （3）设计出相应的算法，编制相应的函数子程序 2．实验内容 分别用高斯列主元消去法 ,Jacobi 迭代法,Gauss--Saidel 迭代法,超松弛迭代法求解线性方程组 ????? ???????-=????????????????????????------725101391444321131243301024321x x x x 3.实验过程 解：（1）高斯列主元消去法 编制高斯列主元消去法的M 文件程序如下： %高斯列主元消元法求解线性方程组Ax=b %A 为输入矩阵系数,b 为方程组右端系数 %方程组的解保存在x 变量中 format long;%设置为长格式显示,显示15位小数 A=[2,10,0,-3;-3,-4,-12,13;1,2,3,-4;4,14,9,-13] b=[10,5,-2,7]' [m,n]=size(A); %先检查系数正确性 if m~=n error('矩阵A 的行数和列数必须相同'); return; end if m~=size(b) error('b 的大小必须和A 的行数或A 的列数相同'); return; end %再检查方程是否存在唯一解 if rank(A)~=rank([A,b]) error('A 矩阵的秩和增广矩阵的秩不相同,方程不存在唯一解'); return; end c=n+1; A(:,c)=b; %(增广) for k=1:n-1 第六章非线性方程组的迭代解法6.4 非线性方程组的数值解法 6.4.1 非线性方程组的不动点迭代法 6.4.2 非线性方程组的Newton法 6.4.3非线性方程组的Newton法 第六章非线性方程组的迭代解法 T n x f x f x f x F )) (),(),(()(21L =设含有n 个未知数的n 个方程的非线性方程组为 (6,4,1)其中为n 维列向量， 0)(=x F T n x x x x ),,(21L =6.4.1 非线性方程组的不动点迭代法 ),,2,1)((n i x f i L =中至少有一个是x 的非线性函数， 并假设自变量和函数值都是实数。多元非线性方程组 (6.4.1)与一元非线性方程f(x)=0具有相同的形式，可以与一元非线性方程并行地讨论它的迭代解法。例如不动点迭代法和Newton 型迭代法。但是，这里某些定理的证明较为复杂，我们将略去其证明。 第六章非线性方程组的迭代解法 T n x x x x x )) (,),(),(()(21???L =Φ=(6.4.2) 并构造不动点迭代法 L ,1,0),()()1(=Φ=+k x x k k (6.4.3) 把方程组(6.4.1)改写成下面便于迭代的等价形式： 的解。是方程组 从而的不动点，是迭代函数即满足连续函数.则的是自变量 是连续的,即且收敛， 若由此生成的序列对于给定的初始点)1.4.6()(),(,,,)(,),(),()(,*****2121)0(x x x x x x x x x x x x x x n n φφ???φ=L K {}k x *)(lim x x k k =∞ → 数值分析讲义 第三章线性方程组的解法 §3.0 引言 §3.1 雅可比(Jacobi)迭代法 §3.2 高斯-塞德尔(Gauss-Seidel)迭代法 §3.3 超松驰迭代法§3.7 三角分解法 §3.4 迭代法的收敛性§3.8 追赶法 §3.5 高斯消去法§3.9 其它应用 §3.6 高斯主元素消去法§3.10 误差分析 §3 作业讲评3 §3.11 总结 §3.0 引言 重要性：解线性代数方程组的有效方法在计算数学和科学计算中具有特殊的地位和作用.如弹性力学、电路分析、热传导和振动、以及社会科学及定量分析商业经济中的各种问题. 分类：线性方程组的解法可分为直接法和迭代法两种方法. (a) 直接法：对于给定的方程组，在没有舍入误差的假设下，能在预定的运算次数内求得精确解.最基本的直接法是Gauss消去法，重要的直接法全都受到Gauss消去法的启发.计算代价高. (b) 迭代法：基于一定的递推格式，产生逼近方程组精确解的近似序列.收敛性是其为迭代法的前提，此外，存在收敛速度与误差估计问题.简单实用,诱人. §3.1 雅可比Jacobi 迭代法 (AX =b ) 1 基本思想: 与解f (x )=0 的不动点迭代相类似,将AX =b 改写为X =BX +f 的形式,建立雅可比方法的迭代格式：X k +1=BX (k )+f ,其中，B 称为迭代矩阵.其计算精度可控,特别适用于求解系数为大型稀疏矩阵(sparse matrices)的方程组. 2 问题: (a) 如何建立迭代格式？ (b) 向量序列{X k }是否收敛以及收敛条件? 3 例题分析: 考虑解方程组??? ??=+--=-+-=--2.453.82102 .72103 21321321x x x x x x x x x (1) 其准确解为X *={1, 1.2, 1.3}. 建立与式(1)相等价的形式： ??? ??++=++=++=84.02.01.083.02.01.072 .02.01.02 13312321x x x x x x x x x (2) 据此建立迭代公式： ?????++=++=++=+++84 .02.01.083.02.01.072.02.01.0)(2)(1)1(3 )(3 )(1)1(23)(2)1(1k k k k k k k k k x x x x x x x x x (3) 取迭代初值0) 0(3 )0(2)0(1===x x x ,迭代结果如下表. JocabiMethodP31.cpp 非线性方程的数值解法 《计算方法》 期末论文 论文题目非线性方程的数值解法 学院 专业 班级 姓名 学号 指导教师 日期 目录 摘要 第1 章绪论 1.1 问题的提出和研究目的和意义 1.2 国内外相关研究综述 1.3 论文的结构与研究方法 第2 章非线性方程的数值解法 2.1 二分法 2.2 迭代法 2.3 迭代法的局部收敛性及收敛的阶 2.4 牛顿迭代法 2.5 牛顿法的改进 2.6 插值 摘要 数值计算方法，是一种研究解决数学问题的数值近似解方法，它的计算对象是那些。 在理论上有解而又无法用手工计算的数学问题。在科学研究和工程技术中都要用到各种计算方法。例如 在地质勘探、汽车制造、桥梁设计、天气预报和汉字设计中都有计算方法的踪影。本文讨论了非线 性方程的数值解法：非线性方程的二分法、迭代法原理、牛顿迭代法，迭代法的收敛性条件及适合非线性方程的插值法等等。 第1 章绪论 可以证明插值多项式L (x) n 存在并唯一。拉格朗日插值多项式的算法 step1.输入 插值节点控制数n 插值点序列 i i x , y i=0,1,…,n 要计算的函数点x。step2. FOR i =0,1,…,n i 制拉格朗日基函数序列问题的提出和研究目的和意义非线性方程的问题在工程实践中有很多用途 研究其数值解法是当前一个研究方向。目前已有相当一部分算法在广泛使用于工程实践中。非线性方程组和无约束最优化的数值解法 一直是数值优化领域中热门的研究课题。本文对传统的方法进行改进和提出新的算法 该算法不仅有重要的论价值，而且有很高的实用价值。例如在天体力学中，有如下Kepler 开普勒方程 x-t- sin x=0,0< <1,其中t 表示时间 x 表示弧度，行星运动的轨道x 是t 的函数。也就是说，对每个时刻i t 上述方程有唯一解i x ，运动轨道位置。 国内外相关研究综述随着科学技术的高速发展和计算机的广泛应用 求解形如F(x)=0 的非线性方程组问题越来越多的被提出来了 其中F 是的连续可微函数。例如非线性有限元问题、非线性断裂问题、弹塑性问题、电路问题、电子系统计算以及经济与非线性规划问题等都可转化为非线性方程组的求解问题。只要包含有未知函数及其导函数的非线性项的微分方程，无论是用差分方法或有限元方法，离散化 线性方程组的数值解法及其应用 一、问题描述 现实中的问题大多数是连续的，例如工程中求解结构受力后的变形，空气动力学中计算机翼周围的流场，气象预报中计算大气的流动。这些现象大多是用若干个微分方程描述。用数值方法求解微分方程（组），不论是差分方法还是有限元方法，通常都是通过对微分方程（连续的问题，未知数的维数是无限的）进行离散，得到线性方程组（离散问题，因为未知数的维数是有限的）。因此线性方程组的求解在科学与工程中的应用非常广泛。 经典的求解线性方程组的方法一般分为两类：直接法和迭代法。 二、基本要求 1）掌握用MATLAB软件求线性方程初值问题数值解的方法； 2）通过实例学习用线性方程组模型解决简化的实际问题； 3）了解用高斯赛德尔列主元消去法和雅可比迭代法解线性方程组。 三、测试数据 1） 直接法：A=[0.002 52.88;4.573 -7.290]; b=[52.90;38.44]; 2） 迭代法：A=[10 -1 -2;-1 10 -2;-1 -1 5]; b=[7.2;8.3;4.2]; 四、算法程序及结果 1） function[RA,RB,n,x]=liezy1(A,b) B=[A b];n=length(b);RA=rank(A); RB=rank(B);zhica=RB-RA; if zhica>0, disp('因为RA~=RB,所以此方程组无解.') return if RA==RB if RA==n disp('因为RA=RB=n,所以此方程组有唯一解.') x=zeros(n,1);C=zeros(1,n+1); for p=1:n-1 [Y,j]=max(abs(B(p:n,p)));C=B(p,:); B(p,:)=B(j+p-1,:);B(j+p-1,:)=C; for k=p+1:n m=B(k,p)/B(p,p); B(k,p:n+1)=B(k,p:n+1)-m*B(p,p:n+1); end end b=B(1:n,n+1);A=B(1:n,1:n);x(n)=b(n)/A(n,n); for q=n-1:-1:1 x(q)=(b(q)- sum(A(q,q+1:n)*x(q+1:n)))/A(q,q); end else disp('因为RA=RB第二章 线性方程组的数值解法
非线性方程数值解法及其应用
线性方程组的数值解法实验
线性方程组的解法
Maab求解线性方程组非线性方程组
线性方程组的解法及其应用
非线性方程组数值解法
非线性方程(组)的数值解法
非线性方程组的求解
线性方程组数值解法总结
浅析线性方程组的解法
线性方程组的直接解法
线性方程组的数值解法
线性方程组的几种求解方法
计算方法实验报告-线性方程组的数值解法
第六章非线性方程组的迭代解法
数值分析讲义——线性方程组的解法
非线性方程的数值解法
线性方程组的数值解法及其应用
相关主题
文本预览