线性方程组的迭代解法
- 格式:doc
- 大小:299.00 KB
- 文档页数:9
计算方法3_线性方程组迭代解法线性方程组的迭代解法是解决线性方程组的一种常见方法,常用于大规模的线性方程组求解。
该方法通过不断迭代更新解的近似值,直到满足一定的收敛准则为止。
线性方程组的迭代解法有很多种,其中最经典的是雅可比迭代法、高斯-赛德尔迭代法和超松弛迭代法。
本文将分别介绍这三种迭代解法及其计算方法。
雅可比迭代法是一种比较简单的线性方程组迭代解法,它的基本思想是先将线性方程组转化为对角占优的形式,然后通过迭代求解逐渐接近精确解。
雅可比迭代法的迭代公式为:其中,x^(k+1)是第k+1次迭代的近似解,n是未知数的个数,a_ij 是系数矩阵A的元素,f_i是方程组的右端向量的元素。
雅可比迭代法的计算步骤如下:1.将线性方程组转化为对角占优的形式,即保证矩阵A的对角元素绝对值大于其它元素的绝对值。
2.初始化向量x^(0),设定迭代终止准则。
3.根据雅可比迭代公式,计算x^(k+1)。
4.判断迭代终止准则是否满足,如果满足,则停止迭代,返回近似解x^(k+1);否则,继续进行下一次迭代。
高斯-赛德尔迭代法是雅可比迭代法的改进方法,它的基本思想是在每次迭代计算x^(k+1)时,利用已经计算出的近似解作为x的一部分。
高斯-赛德尔迭代法的迭代公式为:其中,x^(k+1)_i是第k+1次迭代的近似解中第i个未知数的值,x^(k)_i是第k次迭代的近似解中第i个未知数的值。
高斯-赛德尔迭代法的计算步骤如下:1.将线性方程组转化为对角占优的形式。
2.初始化向量x^(0),设定迭代终止准则。
3.根据高斯-赛德尔迭代公式,计算x^(k+1)。
4.判断迭代终止准则是否满足,如果满足,则停止迭代,返回近似解x^(k+1);否则,继续进行下一次迭代。
超松弛迭代法是对高斯-赛德尔迭代法的一种改进方法,它引入了松弛因子ω,通过调整参数ω的值,可以加快迭代的收敛速度。
超松弛迭代法的迭代公式为:其中,0<ω<2,x^(k+1)_i是第k+1次迭代的近似解中第i个未知数的值,x^(k)_i是第k次迭代的近似解中第i个未知数的值。
线性方程组的迭代式求解方法迭代法解方程的基本原理1.概述把 Ax=b 改写成 x=Bx+f ,如果这一迭代格式收敛,对这个式子不断迭代计算就可以得到方程组的解。
道理很简单:对 x^{(k+1)}=bx^{(k)}+f 两边取极限,显然如果收敛,则最终得到的解满足 \lim_{k\rightarrow\infty } x^{(k)}=x^*=Bx^*+f ,从而必然满足原方程 Ax^*=b 。
迭代方法的本质在于这一次的输出可以当作下一次的输入,从而能够实现循环往复的求解,方法收敛时,计算次数越多越接近真实值。
2.收敛条件充要条件:迭代格式 x=Bx+f 收敛的充要条件是 \rho (B)<1充分条件: \Vert B\Vert <1即 \Vert B\Vert <1 \Rightarrow \rho(B)<1\Leftrightarrow 迭代收敛一、Jacobi迭代法怎样改写Ax=b ,从而进行迭代求解呢?一种最简单的迭代方法就是把第i行的 x_i 分离出来(假定 a_{ii} \ne 0 ):\sum_{j=1}^{n}a_{ij}x_j=b_i\Rightarrow x_i=\frac{b_i-\sum_{j=1,j\ne i}^{n}a_{ij}x_j}{a_{ii}}\quad \\这就是Jacobi(雅可比)迭代法。
迭代格式给定x^{(0)}=\left[x_1^{(0)},x_2^{(0)},\cdots,x_n^{(0)}\rig ht]^T ,则Jacobi法的迭代格式(也称分量形式)为x_i^{(k+1)}=\frac{1}{a_{ii}}\left ( {b_i-\sum_{j=1,j\ne i}^{n}a_{ij}x_j^{(k)}}\right),\quadi=1,2,\cdots,n\\矩阵形式设 A=D-L-U。
Jacobi法的矩阵形式(也称向量形式)为x^{(k+1)}=B_Jx^{(k)}+D^{-1}b\\其中迭代矩阵 B_J=D^{-1}(L+U)收敛条件\begin{eqnarray} \left. \begin{array}{lll} \VertB_J\Vert <1 \\ A 严格对角占优\\ A, 2D-A对称正定\end{array} \right \} \end{eqnarray} \Rightarrow \rho (B_J)<1\Leftrightarrow 迭代收敛特别地,若 A 对称正定且为三对角,则 \rho^2(B_J)=\rho (B_G)<1 。
线性方程组迭代法
线性方程组迭代法,又称坐标下降法,是一种用于解线性方程组的迭代求解方法,常用于线性规划以及单纯形法等技术。
早在上世纪50年代,此方法就在解决
线性规划问题中得到了广泛应用,到目前为止,这种技术仍然广泛使用。
线性方程组迭代法是一种基于不断迭代调整变量,使目标函数达到最优结果的
迭代求解法。
其基本步骤是:
(1) 初始化目标函数变量:首先,初始化线性方程组的目标函数的变量;
(2) 评估梯度:选择合适的算法计算目标函数的梯度;
(3) 根据该梯度更新变量:更新目标函数变量的值,使得在此次更新之后的值
更加有利于满足线性方程组的要求;
(4) 重复上述步骤,直到目标函数足够接近最优值为止;
线性方程组迭代法能够快速地求解出线性规划问题的最优解,因此,它在计算
机上经常被用来优化问题,进而提高系统运行效率。
随着网络技术的发展,线性方程组迭代法在互联网领域得到了广泛应用,这在大大缩短了计算机程序的运行时间,提高了互联网的效率。
同时,线性方程组迭代法也有助于提高系统的性能,改善用户的体验,提升企业的品牌形象。
目录摘要 (1)关键词 (1)Abstract (1)Keywords (1)前言 (1)1.基本迭代法 (1)1.1 雅可比迭代法 (2)1.2 高斯-塞德尔迭代法 (3)1.3 超松弛迭代法 (4)2.迭代法的收敛性 (5)2.1 迭代法基本定理 (6)2.2 迭代法收敛的充分条件 (7)参考文献 (8)学生姓名:贾亚鹏 学号:20085031177 数学与信息科学学院 数学与应用数学 指导教师:李景杰 职称:副教授摘 要:本文介绍了线性方程组的迭代解法,并依次进行收敛性分析。
关键词:线性方程组;迭代法;收敛性Iterative method of linear equationsAbstract: In this paper, we mainly introduce some iterative methods of linear equations, and make analysis about algorithm convergence. Key words: linear equations; iterative method; convergence前言:考虑线性方程组Ax b =,其中A 为非奇异矩阵,当A 为低阶稠密矩阵时,选主元消去法是有效方法。
但是,对于工程技术中产生的大型稀疏矩阵方程组(A的阶数很n 大,但零元素较多),迭代法求解更为合适。
1. 基本迭代法设有Ax b =,()n nij A a R ⨯=∈为非奇异矩阵.将A 分裂为A M N =-,M 为可选择的非奇异矩阵,且使Mx d =容易求解,称M 为分裂矩阵。
11Ax b x M Nx M b --=⇔=+可构造一阶定常迭代法(0)(1)()()(0,1,...,)k k x xBx f k +⎧⎨=+=⎩初始向量其中111()B M N M M A I M A---==-=-1f M b-=称1B I M A -=-为迭代法的迭代矩阵。
设0,(1,2,...,)ii a i n ≠=并将A 写为三部分121,1111212,12221,11,21,12,100000000n n n n n n n n nn n n n n a a a a a a a a A D L U a a a a a a a ---------⎡⎤⎡⎤⎡⎤⎢⎥⎢⎥---⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥=--≡--⎢⎥⎢⎥⎢⎥---⎢⎥⎢⎥⎢⎥⎣⎦⎢⎥⎢⎥---⎣⎦⎣⎦1.1雅可比迭代法 由0,(1,2,...,)ii a i n ≠=取,M D A D N ==-则解Ax b =的雅可比迭代法(0)(1)()()(0,1,...,)k k x xBx f k +⎧⎨=+=⎩初始向量其中111(),B I D A D L U J f D b---=-=+≡=记()()()()12(,,,)k k k k n x x x x =由雅可比迭代公式有(1)()()k k Dx L U x b+=++或1(1)()()11,(1,2,,)i nk k k ii iij jijji j j i a xa xa xb i n -+==+=--+=∑∑于是解的雅可比迭代法的计算公式为(0)(0)(0)(0)121(1)(1)()11(,,,)()(1,2,,;0,1,)Tn i n k k k ii ij j ij j ii j j i x x x x x b a x a x a i n k -++==+⎧=⎪⎪=--⎨⎪⎪==⎩∑∑ 表示迭代次数雅可比迭代计算公式简单,每迭代一次只需计算一次矩阵和向量的乘法,且计算过程中原始矩阵A 始终不变。
1.2高斯—赛德尔迭代法 取()M D L A M N=-=-下三角阵,则解得Ax b =的高斯—赛德尔迭代法为(0)(1)()(),(0,1,)k k x x bx f k +⎧⎨=+=⎩初始向量其中11()()B I D L A D L U G--=--=-=1()f D L b-=-称1()G D L U-=-为解Ax b =的高斯-赛德尔迭代法的迭代矩阵。
记()()()()12(,,,)k k k k Tn x x x x =则由迭代公式得(1)()()k k D L x Ux b+-=+即1(1)(1)()11,(1,2,,)i nk k k ii ii ij jijjj j i a xb a xa xi n -++==+=--=∑∑于是解Ax b =的高斯-赛德尔迭代法的迭代计算公式为(0)(0)(0)(0)121(1)(1)()11(,,,)()(1,2,,;0,1,)Tn i n k k k ii ij j ij j ii j j i x x x x x b a x a x a i n k -++==+⎧=⎪⎪=--⎨⎪⎪==⎩∑∑高斯-赛德尔迭代法可以看作为雅可比迭代法的一种改进,由计算公式可知,高斯-赛德尔迭代法每迭代一次只需计算一次矩阵与向量的乘积。
1.3超松弛迭代法取分裂矩阵M 为带参数的下三角阵,1()M D L ωω=-其中0ω>为可选择的松弛因子,构造迭代法使其迭代矩阵为11()((1))L I M A D L D U ωωωω--≡-=--+从而得到解的逐次超松弛迭代法(0)(1)(),(0,1,)k k x x L x f k ω+⎧⎨=+=⎩其中1()((1))L D L D U ωωωω-=--+1()f D L bωω-=-下面给出解Ax b =的SOR 迭代法分量计算公式 记()()()()12(,,,)k k k k T nxx x x =则公式可得(1)()()((1))k k D L x D U x bωωωω+-=-++由此得到Ax b =的SOR 方法计算公式为(0)(0)(0)(0)121(1)()(1)()1(,,,)()(1,2,,;0,1,)Tn i n k k k k ii i ij j ij j ii j j i x x x x x x b a x a x a i n k ωω-++==⎧=⎪⎪=+--⎨⎪⎪==⎩∑∑ ,为松弛因子2.迭代法的收敛性 设Ax b = (3.1)其中n n A R ⨯∈为非奇异矩阵,记*x 为的精确解,且设有等价的方程组Ax b x Bx f =⇔=+于是**x Bx f=+ (3.2)设有解Ax b =的一阶定常迭代法(1)()k k x Bx f+=+ (3.3)引入误差向量()()*(0,1,2,)k k x x k ε=-=由(3.3)式减(3.2)式得到的误差向量递推公式定义1 设有矩阵序列()()k n n k ij A a R ⨯=∈ 及()n nij A a R⨯=∈如果2n 个数列极限存在且有()lim (,1,2,,)k ijij k aa i j n →∞==则称{}k A 收敛于A ,记为lim k k A A→∞=定理1lim lim 0k k k k A A A A →∞→∞=⇔-=其中⋅为矩阵的任意一种算子范数证明:显然有lim lim 0k k k k A A A A ∞→∞→∞=⇔-=在利用矩阵范数的定价性,可证明定理对其他算子范数亦对。
定理2lim lim n nk k k k A A x R A x Ax⨯→∞→∞=⇔∈=对任何向量都有定理3 设()n nij B b R⨯=∈则lim 0k k B →∞=的充分条件是矩阵的谱半径()1B ρ< 2.1迭代法基本定理:设有方程组x Bx f =+及一阶定常迭代法(1)()k k x Bx f+=+对任意选取初始向量(0)x ,迭代法收敛的冲要条件是矩阵B 的谱半径()1B ρ<证明:(充分性)设()1B ρ<易知()Ax f A I B ==-其中有唯一解,记为*x 则**x Bx f=+误差向量()*(0)k k k x x B εε=-= (0)(0)*x x ε=-由设()1B ρ<,应用定理3,有lim 0kk B →∞=于是对任意(0)x 有lim 0kk ε→∞=则()*lim k k xx→∞=(必要性)设对任意(0)x 有()*lim k k xx→∞=其中(1)()k k x Bx f+=+显然,极限*x 是方程组的解,且对任意(0)x 有()*(0)0()k k k x x B k εε=-=→→∞由定理2知lim 0kk B →∞=再由定理3,即得()1B ρ<2.2迭代法收敛的充分性条件: 设有方程组x Bx f =+ n nB R ⨯∈即一阶定常迭代法(1)()k k x Bx f+=+如果有某种算子范数1B q =<则(1) 迭代法收敛,即对任取(0)x 有()*lim k k xx →∞=**x Bx f =+(2)*()*(0)k k x xq x x-≤-(3)*()()(1)1k k k qx x x x q--≤--(4) *()(1)(0)1k k q x xx x q-≤--参考文献[1]李庆扬,王能超,易大义.数值分析(第四版)[M],北京:清华大学出版社,2001 [2]傅凯新,黄云清,舒 适.数值计算方法[M],长沙:湖南科学技术出版社,2002 [3]冯果忱,刘经伦.数值代数基础[M],长春:吉林大学出版社,1991。