下载文档原格式
线性方程组的迭代式求解方法迭代法解方程的基本原理1.概述把 Ax=b 改写成 x=Bx+f ，如果这一迭代格式收敛，对这个式子不断迭代计算就可以得到方程组的解。
道理很简单：对 x^{(k+1)}=bx^{(k)}+f 两边取极限，显然如果收敛，则最终得到的解满足 \lim_{k\rightarrow\infty } x^{(k)}=x^*=Bx^*+f ，从而必然满足原方程 Ax^*=b 。
迭代方法的本质在于这一次的输出可以当作下一次的输入，从而能够实现循环往复的求解，方法收敛时，计算次数越多越接近真实值。
2.收敛条件充要条件：迭代格式 x=Bx+f 收敛的充要条件是 \rho (B)<1充分条件： \Vert B\Vert <1即 \Vert B\Vert <1 \Rightarrow \rho(B)<1\Leftrightarrow 迭代收敛一、Jacobi迭代法怎样改写Ax=b ，从而进行迭代求解呢？一种最简单的迭代方法就是把第i行的 x_i 分离出来(假定 a_{ii} \ne 0 )：\sum_{j=1}^{n}a_{ij}x_j=b_i\Rightarrow x_i=\frac{b_i-\sum_{j=1,j\ne i}^{n}a_{ij}x_j}{a_{ii}}\quad \\这就是Jacobi(雅可比)迭代法。
迭代格式给定x^{(0)}=\left[x_1^{(0)},x_2^{(0)},\cdots,x_n^{(0)}\rig ht]^T ，则Jacobi法的迭代格式（也称分量形式）为x_i^{(k+1)}=\frac{1}{a_{ii}}\left ( {b_i-\sum_{j=1,j\ne i}^{n}a_{ij}x_j^{(k)}}\right),\quadi=1,2,\cdots,n\\矩阵形式设 A=D-L-U。
Jacobi法的矩阵形式（也称向量形式）为x^{(k+1)}=B_Jx^{(k)}+D^{-1}b\\其中迭代矩阵 B_J=D^{-1}(L+U)收敛条件\begin{eqnarray} \left. \begin{array}{lll} \VertB_J\Vert <1 \\ A 严格对角占优\\ A, 2D-A对称正定\end{array} \right \} \end{eqnarray} \Rightarrow \rho (B_J)<1\Leftrightarrow 迭代收敛特别地，若 A 对称正定且为三对角，则 \rho^2(B_J)=\rho (B_G)<1 。
线性方程组迭代法
线性方程组迭代法，又称坐标下降法，是一种用于解线性方程组的迭代求解方法，常用于线性规划以及单纯形法等技术。
早在上世纪50年代，此方法就在解决
线性规划问题中得到了广泛应用，到目前为止，这种技术仍然广泛使用。
线性方程组迭代法是一种基于不断迭代调整变量，使目标函数达到最优结果的
迭代求解法。
其基本步骤是：
(1) 初始化目标函数变量：首先，初始化线性方程组的目标函数的变量；
(2) 评估梯度：选择合适的算法计算目标函数的梯度；
(3) 根据该梯度更新变量：更新目标函数变量的值，使得在此次更新之后的值
更加有利于满足线性方程组的要求；
(4) 重复上述步骤，直到目标函数足够接近最优值为止；
线性方程组迭代法能够快速地求解出线性规划问题的最优解，因此，它在计算
机上经常被用来优化问题，进而提高系统运行效率。
随着网络技术的发展，线性方程组迭代法在互联网领域得到了广泛应用，这在大大缩短了计算机程序的运行时间，提高了互联网的效率。
同时，线性方程组迭代法也有助于提高系统的性能，改善用户的体验，提升企业的品牌形象。
第3章 解线性方程组的迭代法§1 Jacobi 迭代法和Gauss-Seidel 迭代法（I ）迭代概念（1） A x b = ， n n A R ⨯∈， nb R ∈A M N =- ， n n M R ⨯∈ ， n n N R ⨯∈ ，M 非奇异M x N x b-= Mx Nx b =+11x M Nx M b --=+如果令 11,B M N f M b --==，那么上式写成（2） x B x f =+ 此方程组等价于A x b= 任给(0)n xR ∈，(1)(0)x B x f =+(2)(1)xB x f =+（3） (1)()k k xBx f +=+由（3）可以确定{}()k x ，当()*k n xx R →∈，即()*0k x x -→ 时，有**x Bx f =+*x 同样满足 *Ax b =定义 式（3） (1)()k k xBx f +=+称为求解 （1）Ax b = 的简单形式迭代法，B 称为迭代矩阵。
（II ）Jacobi 迭代法Ax b =写成分量形式有1,1,2,,nij ji j a xb i n ===∑111,1,2,,i nii i ij j ijji j j i a x a x a xb i n -==+++==∑∑假定 0ii a ≠ ，那么有1111(),1,2,,i ni i ij j ij j j j i ii x b a x a x i n a -==+=--=∑∑迭代法为任给 (0)(0)(0)(0)12(,,,)T n n x x x x R =∈1(1)()()111(),1,2,,;0,1,i nk k k ii ij j ij j j j i ii xb a x a x i n k a -+==+=--==∑∑即：{}{}{}(1)()()()11122133111(1)()()()22211233222(1)()()()1122,111(1(1(k k k k n n k k k k n n k k k k n n n n n n n nnx b a x a x a x a x b a x a x a x a x b a x a x a x a +++--⎧=----⎪⎪⎪=----⎪⎨⎪⎪⎪=----⎪⎩上式迭代方法称为Jacobi 迭代 例1.1用Jacobi 迭代法解方程组123123123522142241x x x x x x x x x +-=⎧⎪++=⎨⎪-+=-⎩解 Jacobi 迭代方法为(1)()()()()123231(122)0.20.40.45k k k k k x x x x x +=-+=-+ (1)()()()()213131(2)0.50.250.254k k k k k x x x x x +=--=-- (1)()()()()312121(12)0.250.250.54k k k k k x x x x x +=--+=--+取 (0)3(0,0,0)T xR =∈()()()123000010.20.50.2520.10.51250.05110.0000080.4998820.000039120.0000340.4999880.000025130.0000150.5000020.000003k k k k x x x ------方程组 Ax b =的准确解为*3(0,0.5,0)Tx R =∈。
