6.5 迭代法的加速
一、教学目标及基本要求
通过对本节的学习，使学生掌握方程求根迭代法的加速。
二、教学内容及学时分配
本章主要介绍线性方程求根的迭代法的加速方法。要求
1．了解数值分析的研究对象、掌握误差及有关概念。
2．正确理解使用数值方法求方程的解的基本思想、数学原理、算法设计。
3．了解插值是数值逼近的重要方法之一，正确理解每一种算法的基本思想、计算公式、算法设计、程序框图设计和源程序。
4．掌握数值积分的数学原理和程序设计方法。
5．能够使用数值方法解决一阶常微分方程的初值问题。
6．理解和掌握使用数值方法对线性方程组求解的算法设计。
三、教学重点难点
1．教学重点：非线性方程迭代收敛性与迭代加速、牛顿法。
2. 教学难点：迭代的收敛性。
四、教学中应注意的问题
多媒体课堂教学为主。适当提问，加深学生对概念的理解，迭代加速的算法实现。
五、教案正文
6.1 迭代公式的加工
迭代过程收敛缓慢，计算量将很大，需要进行加速。
设k x 是根*x 的某个近似值，用迭代公式校正一次得()k k x x ?=+1，假设)
('x ?
在所考察得范围内变化不大，其估计值为L ，则有：
k k k k x L
L x L x x x L x x ---≈?-≈-++111)(1**1* 有迭代公式k k k x L L x L x ---=++11111
，是比1+k x 更好的近似根。这样加工后的计算过程为： 迭代()k k x x ?=+1 改进k k k x L
L x L x ---=
++11111 合并的])([111k k k Lx x L x --=+? 例3 P133
6.2 埃特金算法
上述加速方法含有导数()x '?，不便于计算。设将迭代值()k k x x ?=+1再迭代一次，又得()
11~++=k k x x ?，由于)(~1*1*++-≈-k k x x L x x 又)(*1*k k x x L x x -≈-+，消去L 得 k
k k k k k k k k k x x x x x x x x x x x x x x x +---≈?--≈--++++++++112
111*1**1*1*2~)~(~~ 计算过程如下： 迭代()k k x x ?=+1 迭代()11~++=k k x x ? 改进k
k k k k k k x x x x x x x +---=++++++11211112~)~(~ 小结：这节课我们主要介绍了线性方程组迭代法加速的基本思想及其常用的几种迭代方法。要求大家掌握埃特金算法及其收敛速度，收敛的阶。
作业：课后作业10-13
“牛顿迭代法”最新进展文献综述牛顿法是一种重要的迭代法，它是逐步线性化的方法的典型代表。牛顿迭代法又称为牛顿-拉夫逊方法，它是牛顿在17世纪提出的一种在实数域和复数域上近似求解方程的方法。多数方程不存在求根公式，因此求精确根非常困难，甚至不可能，从而寻找方程的近似根就显得特别重要。方法使用函数f(x)的泰勒级数的前面几项来寻找方程f(x) = 0的根。牛顿迭代法是求方程根的重要方法之一，其最大优点是在方程f(x) = 0的单根附近具有平方收敛，而且该法还可以用来求方程的重根、复根。另外该方法广泛用于计算机编程中。 介绍一下牛顿迭代法研究的前沿进展，1992年南京邮电学院基础课部的夏又生写的一篇题名一类代数方程组反问题的牛顿迭代法，对一类代数方程组反问题提出了一个可行的迭代解法。从算法上看,它是一种解正问题—迭代—解正问题迭代改善的求解过程。湖南师范大学的吴专保;徐大发表的题名堆浸工艺中浸润面的非线性问题牛顿迭代方法，为了研究堆浸工艺的机理,用牛顿迭代公式寻求浸润面的非线性方程的数值解,经过14次迭代的误差达到了,说明此算法收敛有效。浙江大学电机系的林友仰发表的牛顿迭代法在非线性电磁场解算中的限制对非线性电磁场解算中的限制做了分析，求解非线性方程组时迭代法是不可避免的。牛顿—拉斐森迭代法由于它的收敛速度快常被优先考虑。应用这个方法的主要问题是求雅可比矩阵。因为雅可比矩阵元素的计算非常费时。然而,本文要说明的是当利用以三角形为单元的有限元法求解非线性方程组时,应用牛顿法其雅可比矩阵容易求得,并且它保持了原系数的对称性和稀疏性,因而节省了时间。与此相反,若在差分法中应用牛顿迭代,并且按习惯用矩形网格进行剖分,则雅可比阵的计算很费时,而且不再保持原有对称性,这就使得存贮量和计算时间大为增加。南株洲工学院信息与计算科学系的吕勇;刘兴国发表的题名为牛顿迭代法加速收敛的一种修正格式，主要内容牛顿迭代法是求解非线性方程的一种重要的数值计算方法,在通常情况下,它具有至少平方收敛。本文利用文献[4]所建立的迭代格式xn+1=xn-αf(xfn)(x+n)f′(xn),对迭代格式中的参数α的讨论,实现了牛顿迭代法加速收敛的一种修正格式。
第二章 迭代法的一般原理 非线性方程组无论从理论上还是计算方法上，都比线性方程组复杂得多。一般的非线性方程组很难求出解析解，往往只能求出其数值解，且往往只能借助于迭代法。本章我们将讨论迭代法的一般原理、迭代法的一般构造及迭代收敛速度的衡量标准。 2-1 迭代法与不动点定理 设n n R R D →?:f ，考虑方程 ()0=x f (2-1) 若存在D *∈x ，使()0=*x f ，则称*x 为方程(2-1) 的解。 用迭代法求解(2-1) ，先将(2-1)化为等价的方程 ()x g x = (2-2) 这里映象n n R R D →?:g 。 方程(2-2)的解*x (即()**x g x =)称为映象g 的不动点。因此用迭代法解方程(2-1)，就是求(2-2)中映象g 的不动点。这样以及g 是否存在不动点自然就是我们关心的问题。 定理2-1 若n n R R D →?:g 为有界闭集D D ?0上的严格非膨胀映象，()00D D ?g ，则g 在0D 内有唯一不动点。 证 唯一性 设g 在0D 内至少有两个不动点1x ，2x ，则 ()() 2121x x x g x g x x 21-≤-=-α 因1<α，所以由上式推得21x x =。唯一性得证。 记()()x g x x -=?，由g 及泛数的连续性可知1:R R D n →??连续。因0D 为有界闭集，故?在0D 上有最小值。设0D *∈x 为最小点，即
()()x g x x -=∈min 0 D x *? 则*x 为g 的不动点。因为若不然，则有()**x g x ≠，再由g 严格非膨胀，可得 ()()()()()***x g g x g x g -=?()()***x x g x ?=-< 这与*x 为?的最小点相矛盾，故*x 为g 的不动点。 注 定理中0D 的有界闭性、g 的压缩性和g 映0D 入自身，此3个条件缺一不可。例如，()x x x g 1+=在[)+∞=,D 10上严格非膨胀，但它在0D 中却没有不动点。 下面我们介绍在应用上非常广泛的不动点定理。 定理2-2 (Brouwer 不动点定理) 设n n R R D →?:g 在有解闭凸集D D ?0上连续，且()00D D G ?，则g 在0D 至少有一个不动点。 本定理在一维情形下叙述为：[]b a f ,: []b a ,→则f 在[]b a ,中至少有一个不动点。几何解释见图2-1。 x b a 图2-1 一维Brouwer 定理
习题二 3、证明：当X 0=1.5时，迭代法X k+1=Xk +410和X k+1=21k X 310-都收敛于方程f(x)=x 3+4x 2-10=0在区间[1,2]内唯一实根x *，并分别用上述迭代法求满足于精度要求︱X k+1-X k ︱≤10-5的近似根。 解：证明：{先用迭代法求f(x)=x 3+4x 2-10=0的根。 （a ）对x 3+4x 2-10=0变形有：4x 2=10-x 3 所以：X=21310X - 则相应的迭代公式为：X k+1=21k X 310- 取：X 0=1.5，根据计算可以看出看，我们认为得到的迭代序列是 收敛的。}（此行可忽略） { 由 f(x)=x 3+4x 2-10=0得迭代方程：X=21310X -=g （x ） 先证明在区间【1,2】上x=g （x ）有实根。由于[1,2]上g ‘（x ）存在，所以g （x ）连续。作Q （x ）=x-g(x),则Q(x)在[1,2]上也连续。由定理1条件2有：Q （1）=1-g （1）≤0，Q （,2）=1-g （2）≥0 故存在x *∈[1,2]使Q *（x ）=0，即x *= Q *（x ） 又因为，x *是方程f(x)=x 3+4x 2-10=0在区间[1,2]内的唯一实根，（由定理一条件 2）对任意的x 0∈[1,2]时，X k ∈[1,2]（k=0,1,2,3…） 因为：x *- X k+1=g （x *）-g （X k ）=g ‘（h k ）（x *- X k ）故由条件1知： ︱X *-X k+1︱≤L ︱X *-X k ︱（k=0,1,2,3…）于是有：0≤︱X *-X k ︱≤L k ︱X *-X 0︱,0＜L ＜1，立即可知：lim （k 趋于无穷）︱X *-X k ︱=0,从而lim （k 趋于无穷）X k= X *。所以当X 0=1.5时，迭代法X k+1=Xk +410和X k+1=21k X 310-都是由迭代法X k+1=g （X k ）产生的迭代序列{ X k }收敛于方程f(x)=x 3+4x 2-10=0在区间[1,2]内唯一实 根x *。 正解如下： (1) （牛顿迭代法）： 证明：对方程f(x)=x 3+4x 2-10=0在区间[1,2]内， （a ） f ‘(x)=3x 2+8x ，f ’‘(x)=6x+8，f ’‘(x)在区间[1,2]内连续； （b ） f （1）=-5，f （2）=14，f （1）f （2）＜0； （c ） 对于任意的x ∈[1,2]，都有f ‘(x)=/(不等于)0； （d ） f ’‘(x)在[1,2]上保号； 综上所述，当X 0=1.5时，迭代法X k+1=Xk +410和X k+1=21k X 310-都收敛于方程f(x)=x 3+4x 2-10=0在区间[1,2]内唯一实根x *。 （2）用牛顿迭代法求近似根。 方程f(x)=x 3+4x 2-10=0有唯一实根x *∈[1,2]，容易验证，f(x)=x 3+4x 2-10在[1,2]
ICA用牛顿迭代法改进的FastICA算法 ICA算法原理： 独立分量分析（ICA）的过程如下图所示：在信源()st中各分量相互独立的假设下，由观察xt通过结婚系统B把他们分离开来，使输出yt逼近st。 图1-ICA的一般过程 ICA算法的研究可分为基于信息论准则的迭代估计方法和基于统计学的代数方法两大类，从原理上来说，它们都是利用了源信号的独立性和非高斯性。基于信息论的方法研究中，各国学者从最大熵、最小互信息、最大似然和负熵最大化等角度提出了一系列估计算法。如FastICA算法, Infomax算法，最大似然估计算法等。基于统计学的方法主要有二阶累积量、四阶累积量等高阶累积量方法。本实验主要讨论FastICA算法。 1. 数据的预处理 一般情况下，所获得的数据都具有相关性，所以通常都要求对数据进行初步的白化或球化处理，因为白化处理可去除各观测信号之间的相关性，从而简化了后续独立分量的提取过程，而且，通常情况下，数据进行白化处理与不对数据进行白化处理相比，算法的收敛性较好。 若一零均值的随机向量 满足 ， 其中：I为单位矩阵，我们称这个向量为白化向量。白化的本质在于去相关，这同主分量分析的目标是一样的。在ICA中，对于为零均值的独立源信号 ， 有： ， 且协方差矩阵是单位阵cov( S ) = I，因此，源信号 S( t )是白色的。对观测信号X( t )，我们应该寻找一个线性变换，使X( t )投影到新的子空间后变成白化向量，即：
其中，W0为白化矩阵，Z为白化向量。 利用主分量分析，我们通过计算样本向量得到一个变换 其中U和 分别代表协方差矩阵XC的特征向量矩阵和特征值矩阵。可以证明，线性变换W0满足白化变换的要求。通过正交变换，可以保证 因此，协方差矩阵： 再将 代入 且令 有 由于线性变换A~连接的是两个白色随机矢量Z( t )和S( t )，可以得出A~ 一定是一个正交变换。如果把上式中的Z( t )看作新的观测信号，那么可以说，白化使原来的混合矩阵A简化成一个新的正交矩阵A~。证明也是简单的： 其实正交变换相当于对多维矢量所在的坐标系进行一个旋转。 在多维情况下，混合矩阵A是N*N 的，白化后新的混合矩阵A~ 由于是正交矩阵，其自由度降为N*(N-1)/2，所以说白化使得ICA问题的工作量几乎减少了一半。 白化这种常规的方法作为ICA的预处理可以有效地降低问题的复杂度，而且算法简单，用传统的PCA就可完成。用PCA对观测信号进行白化的预处理使得原来所求的解混合矩阵退化成一个正交阵，减少了ICA的工作量。此外，PCA本身具有降维功能，当观测信号的个数大于源信号个数时，经过白化可以自动将观测信号数目降到与源信号维数相同。
改进的牛顿迭代法求解非线性方程 摘要：牛顿法思想是将非线性方程线性化，以线性方程的解逐步逼近非线性方程的解，但是其对初值、波动和可能出现的不收敛等缺点，而牛顿下山法克服了可能出现的发散的缺点。 关键词：牛顿法、牛顿下山法、非线性方程 一、牛顿法的迭代公式 设)(x f 在其零点*x 附近一阶连续可微，且0)(≠'x f ，当*0x x →时，由Taylor 公式有： ))(()()(000x x x f x f x f -'+≈ 以方程 0))(()(000=-'+x x x f x f 近似方程0)(=x f ，其解 ) ()(0001x f x f x x '-= 可作为方程的近似解，重复上述过程，得迭代公式 ),1,0(,) ()(1 ='-=+n x f x f x x n n n n 该方法称为牛顿迭代法。 二、牛顿法的改进 由于牛顿法缺点对牛顿法进行改进，使其计算简单，无需每次迭代都去计算)(x f '，且能够更好的收敛。 2.1简化的牛顿法 牛顿法的缺点之一是每次迭代都得去计算)(k x f '。为回避该问题，常用一个固定 )(k x f '迭代若干步后再求)(k x f '。这就是简化牛顿法的基本思想。 简化牛顿法的公式为： )(1k k k x cf x x -=+
迭代函数 )()(x cf x x -=? 若 2)(0,1)(1)(<'<<'-='x f c x f c x 即?，在根*x 附近成立，则迭代法局部收敛。 显然此法简化了计算量，却降低了收敛速度。 2.2牛顿下山法 牛顿法的缺点二是其收敛依赖与初值0x 的选取，若0x 偏离所求根*x 较远，则牛顿法可能发散。为防止迭代发散，我们对迭代过程再附加一项条件，即具有单调性： )()(1k k x f x f <+ 保证函数值稳定下降，然后结合牛顿法加快收敛速度，即可达目的。将牛顿法的计算结果 ) ()(1k k k k x f x f x x '-=+ 与前一步的近似值k x 适当加权平均作为新的改进值 k k k x x x )1(11λλ-+=++ 其中，称 )10(≤<λλ为下山因子，即为： ) ()(1k k k k x f x f x x '-=+λ 称为牛顿下山法。选择下山因子λ时，从 1=λ开始逐次将λ减半进行试算，直到条件成立为止。 三 举例说明 例1 求方程013=--x x 的根 （1）取5.10=x ，用牛顿法公式： 1 32131---=-+k k k k x x x x x 计算得：32472.1,32520.1,34783.1321===x x x
6.5 迭代法的加速 一、教学目标及基本要求 通过对本节的学习，使学生掌握方程求根迭代法的加速。 二、教学内容及学时分配 本章主要介绍线性方程求根的迭代法的加速方法。要求 1．了解数值分析的研究对象、掌握误差及有关概念。 2．正确理解使用数值方法求方程的解的基本思想、数学原理、算法设计。 3．了解插值是数值逼近的重要方法之一，正确理解每一种算法的基本思想、计算公式、算法设计、程序框图设计和源程序。 4．掌握数值积分的数学原理和程序设计方法。 5．能够使用数值方法解决一阶常微分方程的初值问题。 6．理解和掌握使用数值方法对线性方程组求解的算法设计。 三、教学重点难点 1．教学重点：非线性方程迭代收敛性与迭代加速、牛顿法。 2. 教学难点：迭代的收敛性。 四、教学中应注意的问题 多媒体课堂教学为主。适当提问，加深学生对概念的理解，迭代加速的算法实现。 五、教案正文 6.1 迭代公式的加工 迭代过程收敛缓慢，计算量将很大，需要进行加速。 设k x 是根*x 的某个近似值，用迭代公式校正一次得()k k x x ?=+1，假设) ('x ?
在所考察得范围内变化不大，其估计值为L ，则有： k k k k x L L x L x x x L x x ---≈?-≈-++111)(1**1* 有迭代公式k k k x L L x L x ---=++11111 ，是比1+k x 更好的近似根。这样加工后的计算过程为： 迭代()k k x x ?=+1 改进k k k x L L x L x ---= ++11111 合并的])([111k k k Lx x L x --=+? 例3 P133 6.2 埃特金算法 上述加速方法含有导数()x '?，不便于计算。设将迭代值()k k x x ?=+1再迭代一次，又得() 11~++=k k x x ?，由于)(~1*1*++-≈-k k x x L x x 又)(*1*k k x x L x x -≈-+，消去L 得 k k k k k k k k k k x x x x x x x x x x x x x x x +---≈?--≈--++++++++112 111*1**1*1*2~)~(~~ 计算过程如下： 迭代()k k x x ?=+1 迭代()11~++=k k x x ? 改进k k k k k k k x x x x x x x +---=++++++11211112~)~(~ 小结：这节课我们主要介绍了线性方程组迭代法加速的基本思想及其常用的几种迭代方法。要求大家掌握埃特金算法及其收敛速度，收敛的阶。 作业：课后作业10-13
牛顿迭代法 李保洋 数学科学学院信息与计算科学学号：060424067 指导老师：苏孟龙 摘要：牛顿在17世纪提出的一种在实数域和复数域上近似求解方程的方法，即牛顿迭代法.迭代法是一种不断用变量的旧值递推新值的过程?跟迭代法相对应的是 直接法或者称为一次解法，即一次性解决问题?迭代法又分为精确迭代和近似迭代 “牛顿迭代法”属于近似迭代法，本文主要讨论的是牛顿迭代法，方法本身的发现和演变和修正过程，避免二阶导数计算的Newton迭代法的一个改进，并与中国古代的算法，即盈不足术，与牛顿迭代算法的比较? 关键词：Newton迭代算法；近似求解；收敛阶；数值试验；中国古代数学; 九章算术；Duffing方程；非线性方程；收敛速度；渐进性 0引言： 迭代法也称辗转法，是一种不断用变量的旧值递推新值的过程，跟迭代法相对应的是直接法或者称为一次解法，即一次性解决问题?迭代法又分为精确迭代和近似迭代?“二分法”和“牛顿迭代法”属于近似迭代法? 迭代算法是用计算机解决问题的一种基本方法?它利用计算机运算速度快、适合做重复性操作的特点，让计算机对一组指令（或一定步骤）进行重复执行，在每次执行这组指令（或这些步骤）时，都从变量的原值推出它的一个新值?具体使用迭代法求根时应注意以下两种可能发生的情况： （1）如果方程无解，算法求出的近似根序列就不会收敛，迭代过程会变成死循环，因此在使用迭代算法前应先考察方程是否有解，并在程序中对迭代的次数给予限制? （2）方程虽然有解，但迭代公式选择不当，或迭代的初始近似根选择不合理，也会导致迭代失败? 所以利用迭代算法解决问题，需要做好以下三个方面的工作： 1、确定迭代变量?在可以用迭代算法解决的问题中，至少存在一个直接或间接地不断由旧值递推出新值的变量，这个变量就是迭代变量 2、建立迭代关系式.所谓迭代关系式，指如何从变量的前一个值推出其下一个值的公式（或关系）.迭代关系式的建立是解决迭代问题的关键，通常可以使用递推或倒推的方法来完成. 3、对迭代过程进行控制，在什么时候结束迭代过程？这是编写迭代程序必须 考虑的问题.不能让迭代过程无休止地重复执行下去.迭代过程的控制通常可分为两种情况：一种是所需的迭代次数是个确定的值，可以计算出来；另一种是所需的迭代次数无法确定.对于前一种情况，可以构建一个固定次数的循环来实现对迭代过程的控制；对于后一种情况，需要进一步分析出用来结束迭代过程的条件.
一、一般迭代法求解非线性方程组。 function [k,piancha,xdpiancha,xk]=diedai1(x0,k) x(1)=x0; for i=1:k x(i+1)=fun1(x(i)); piancha=abs(x(i+1)-x(i)); xdpiancha=piancha/(abs(x(i+1))+eps); i=i+1;xk=x(i); [(i-1) piancha xdpiancha xk] end if (piancha>1)&(xdpiancha>0.5)&(k>3) disp('此迭代序列发散，请重新输入新的迭代公式') return; end if (piancha<0.001)&(xdpiancha<0.0000005)&(k>3) disp('此迭代序列收敛，且收敛速度较快') return; end p=[(i-1) piancha xdpiancha xk]'; 1、function y=fun1(x) y=(10-x.^2)./2 >> [k,piancha,xdpiancha,xk]=diedai1(5,10) 此迭代序列发散，请重新输入新的迭代公式 k = 10 piancha = 2.4484e+271 xdpiancha = 1 xk = -2.4484e+271 2、function y=fun1(x) y=10./(x+2) >> [k,piancha,xdpiancha,xk]=diedai1(5,25) 此迭代序列收敛，且收敛速度较快 k = 25 piancha = 9.5676e-007 xdpiancha = 4.1300e-007 xk = 2.3166 二、第二种迭代法。
姓名 实验报告成绩 评语： 指导教师（签名） 年 月 日 说明：指导教师评分后，实验报告交院（系）办公室保存。 实验一 方程求根 一、 实验目的 用各种方法求任意实函数方程0)(=x f 在自变量区间[a ，b]上，或某一点附近的实根。并比较方法的优劣。 二、 实验原理 (1)、二分法 对方程0)(=x f 在[a ，b]内求根。将所给区间二分，在分点 2a b x -=判断是否0)(=x f ；若是，则有根2a b x -=。否则，继续判断是否0)()(
+)(0x f 0))(('0=-x x x f 设0)('0≠x f ,则=x -0x )(') (00x f x f 。取x 作为原方程新的近似根1x ，然后将1x 作为0x 代入上式。迭代公式为：=+1 k x -0x )(')(k k x f x f 。 三、 实验设备：MATLAB 软件 四、 结果预测 （1）11x = （2）5x = （3）2x =0,09052 五、 实验内容 （1）、在区间[0,1]上用二分法求方程0210=-+x e x 的近似根，要求误差不超 过3105.0-?。 （2）、取初值00=x ，用迭代公式=+1 k x -0x )(') (k k x f x f ，求方程0210=-+x e x 的近似根。要求误差不超过3105.0-?。 （3）、取初值00=x ，用牛顿迭代法求方程0210=-+x e x 的近似根。要求误差 不超过3105.0-?。 六、 实验步骤与实验程序 （1） 二分法 第一步：在MATLAB 软件，建立一个实现二分法的MATLAB 函数文件如下： function x=agui_bisect(fname,a,b,e) %fname 为函数名，a,b 为区间端点，e 为精度 fa=feval(fname,a); %把a 端点代入函数，求fa fb=feval(fname,b); %把b 端点代入函数，求fb if fa*fb>0 error('两端函数值为同号'); end
线性方程组的迭代法应用及牛顿迭代法的改进 摘要: 迭代解法就是通过逐次迭代逼近来得到近似解的方法。由于从不同 的问题而导出的线性代数方程组的系数矩阵不同，因此对于大型稀疏矩阵所对应线性代数方程组，用迭代法求解。本文论述了Jacobi 法，Gauss-Seidel 法，逐次超松弛法这三种迭代法，并在此基础上对牛顿型的方法进行了改进，从而使算法更为精确方便。 关键词:线性方程组，牛顿迭代法，Jacobi 法，Gauss-Seidel 法，逐次超松弛 法 1.线性方程组迭代法 1.1线性方程组的迭代解法的基本思想 迭代法求解基本思想:从某一初始向量X （0）=[x 1(0) ,x 2(0) ,……………x n (0) ]出发，按某种迭代规则，不断地对前一次近似值进行修改，形成近似解的向量{X (k)}。当近似解X (k) =[x 1(k) ,x 2(k) ,……………x n (k) ]收敛于方程组的精确解向量X* =[x 1*,x 2*,……………x n *]时，满足给定精度要求的近似解向量X (k)可作为X*的数值解。 1.2 线性方程组的迭代法主要研究的三个问题 (1) 如何构造迭代公式 (2) 向量数列{X (k)}的收敛条件 (3) 迭代的结束和误差估计 解线性方程组的迭代解法主要有简单迭代法、 Gauss-Seidel 法和SOR 法。简单迭代法又称同时代换法或Jacobi 法，是最简单的解线性方程组的迭代解法也是其他解法的基础。 1.3Jacobi 迭代法 设方程组点系数矩阵n n j A ai R ???=∈??满足条件0ii a ≠，i=0,1,2, …n 。把A 分解为 A=D+L+U
线性方程组的迭代法及程序实现 学校代码:11517 学号:200810111217 HENAN INSTITUTE OF ENGINEERING 毕业论文 题目线性方程组的迭代法及程序实现 学生姓名 专业班级 学号 系 (部)数理科学系 指导教师职称 完成时间 2012年5月20日河南工程学院 毕业设计(论文)任务书 题目:线性方程组的迭代法及程序实现专业:信息与计算科学学号 : 姓名一、主要内容: 通过本课题的研究,学会如何运用有限元方法来解决线性代数方程组问题,特别是Gaussie-Seidel迭代法和Jacobi迭代法来求解线性方程组。进一步学会迭代方法的数学思想,并对程序代码进行解析与改进,这对于我们以后学习和研究实际问题具有重要的意义。本课题运用所学的数学专业知识来研究,有助于我们进一步掌握大学数学方面的知识,特别是迭代方法。通过这个课题的研究,我进一步掌握了迭代方法的思想,以及程序的解析与改进,对于今后类似实际问题的解决具有重要的意义。
二、基本要求: 学会编写规范论文,独立自主完成。 运用所学知识发现问题并分析、解决。 3.通过对相关资料的收集、整理,最终形成一篇具有自己观点的学术论文,以期能对线性方程组迭代法的研究发展有一定的实践指导意义。 4.在毕业论文工作中强化英语、计算机应用能力。 完成期限: 2012年月指导教师签名:专业负责人签名: 年月日 目录 中文摘要....................................................................................Ⅰ英文摘要 (Ⅱ) 1 综述 1 2 经典迭代法概述 3 2.1 Jacobi迭代法 3 2.2 Gauss?Seidel迭代法 4 2.3 SOR(successive over relaxation)迭代法 4 2.4 SSOR迭代法 5 2.5 收敛性分析5 2. 6 数值试验 6 3 matlab实现的两个例题8 3.1 例1 迭代法的收敛速度8 3.2 例 2 SOR迭代法松弛因子的选取 12致谢16参考文献17附录19
实习题六：用简单迭代法，艾特肯加速迭代法，牛顿法弦割法求解方程1-x-sin(x) = 0在[0,1]上的根。 简单迭代法和艾特肯加速法求解方程1-x-sin(x) = 0在[0,1]上的根。 主程序： %利用简单迭代法求解方程1-x-sin(x) = 0在[0,1]上的根 clear clc format long f = @f1; a = 0; b = 1; eps = 0.5*10^(-4); [x,time] = iteration(f,a,b,eps); disp('利用简单迭代法求解方程1-x-sin(x) = 0在[0,1]上的根') disp('方程1-x-sinx = 0的根是 x = ') disp(x) disp('迭代次数') disp (time) %% %利用艾特肯加速法求解方程1-x-sin(x) = 0在[0,1]上的根 [x,time] = iteration_aitken(f,a,b,eps); disp('利用艾特肯加速法求解方程1-x-sin(x) = 0的[0,1]上的根') disp('方程1-x-sinx = 0的根是 x = ') disp(x) disp('迭代次数') disp (time) 简单迭代法函数： function [y,time] = iteration(f,a,b,eps) x0 = (a+b)/2; D = 1; time = 0; while abs(D)>=eps x1 = feval(f,x0); D = x1-x0; x0 = x1; time = time+1; end y = x0; 艾特肯加速法函数 function [y,time] = iteration_aitken(f,a,b,eps) x0 = (a+b)/2; D = 1; t = 0; while abs(D)>=eps
第4章解线性方程组的迭代法 用迭代法求解线性方程组与第4章非线性方程求根的方法相似，对方程组进行等价变换，构造同解方程组(对可构造各种等价方程组， 如分解，可逆，则由得到)，以此构造迭代关系式 （4.1） 任取初始向量，代入迭代式中，经计算得到迭代序列。 若迭代序列收敛，设的极限为，对迭代式两边取极限 即是方程组的解，此时称迭代法收敛，否则称迭代法发散。我们将看到，不同于非线性方程的迭代方法，解线性方程组的迭代收敛与否完全决定于迭代矩阵的性质，与迭代初始值的选取无关。迭代法的优点是占有存储空间少，程序实现简单，尤其适用于大型稀疏矩阵；不尽人意之处是要面对判断迭代是否收敛和收敛速度的问题。 可以证明迭代矩阵的与谱半径是迭代收敛的充分必要条件，其中是矩阵的特征根。事实上，若为方程组的解，则有 再由迭代式可得到
由线性代数定理，的充分必要条件。 因此对迭代法(4.1)的收敛性有以下两个定理成立。 定理4.1迭代法收敛的充要条件是。 定理4.2迭代法收敛的充要条件是迭代矩阵的谱半径 因此，称谱半径小于1的矩阵为收敛矩阵。计算矩阵的谱半径，需要求解矩阵的特征值才能得到，通常这是较为繁重的工作。但是可以通过计算矩阵的范数等方法简化判断收敛的 工作。前面已经提到过，若||A||p矩阵的范数，则总有。因此，若，则必为收敛矩阵。计算矩阵的1范数和范数的方法比较简单，其中 于是，只要迭代矩阵满足或，就可以判断迭代序列 是收敛的。 要注意的是，当或时，可以有，因此不能判断迭代序列发散。
在计算中当相邻两次的向量误差的某种范数小于给定精度时，则停止迭代计算，视为方程组的近似解（有关范数的详细定义请看3.3节。） 4.1雅可比（Jacobi）迭代法 4.1.1 雅可比迭代格式 雅可比迭代计算 元线性方程组 （4.2） 写成矩阵形式为。若将式（4.2）中每个方程的留在方程左边，其余各项移到方程右边；方程两边除以则得到下列同解方程组： 记，构造迭代形式
第二章迭代法得一般原理 非线性方程组无论从理论上还就是计算方法上,都比线性方程组复杂得多。一般得非线性方程组很难求出解析解,往往只能求出其数值解,且往往只能借助于迭代法。本章我们将讨论迭代法得一般原理、迭代法得一般构造及迭代收敛速度得衡量标准。 2-1 迭代法与不动点定理 设,考虑方程 (2-1) 若存在,使,则称为方程(2-1) 得解。 用迭代法求解(2-1) ,先将(2-1)化为等价得方程 (2-2) 这里映象。 方程(2-2)得解(即)称为映象g得不动点。因此用迭代法解方程(2-1),就就是求(2-2)中映象g得不动点。这样以及g就是否存在不动点自然就就是我们关心得问题。 定理2-1若为有界闭集上得严格非膨胀映象,,则g在内有唯一不动点。 证唯一性设g在内至少有两个不动点,,则 因,所以由上式推得。唯一性得证。 记,由g及泛数得连续性可知连续。因为有界闭集,故?在上有最小值。设为最小点,即 则为g得不动点。因为若不然,则有,再由g严格非膨胀,可得 这与为?得最小点相矛盾,故为g得不动点。 注定理中得有界闭性、g得压缩性与g映入自身,此3个条件缺一不可。例如,在上严格非膨胀,但它在中却没有不动点。 下面我们介绍在应用上非常广泛得不动点定理。 定理2-2 (Brouwer不动点定理)设在有解闭凸集上连续,且,则g在至少有一个不动点。 本定理在一维情形下叙述为: 则f在中至少有一个不动点。几何解释见图2-1。
2-2 迭代格式得构造 前一节我们谈到,用迭代法求解方程(2-1),就是先将这个方程化为等价得方程(2-2),然后求映象g 得不动点,通常(也就是最简单得情形)构造如下迭代序列: , (2-3) 我们希望这个迭代序列收敛到g 得不动点,亦即方程得解。如果g 就是压缩得,可望迭代序列收敛。图2-2展示了一维迭代收敛得一种情形。 对于(2-3) f 与。如果 g 不依赖于迭代步k 只依赖于,k ,则迭代形式可表示为 (2-4) 并称之为,这时得迭代为多步迭代。例如,则迭代可写为 (2-5) 称这种迭代为m 步迭代。类似地有m 步非定常迭代。 通常称g 或为迭代函数。用不同得方法构造得迭代函数可得到不同得得到法。设,如果一个迭代法得到得序列则称得到序列就是适定得,适定性就是迭代法得起码要求。 若就是方程(2-1)得解,且序列满足 则称迭代序列收敛于。 定义2-1 设,就是方程得一个解。若存在得一个邻域,使对任何初始值(对于m 步迭代法,初值为 ),迭代序列总就是适定得且收敛于,则称就是迭代序列得吸引点。 不少迭代法都就是设法使迭代函数g 就是压缩得,这时迭代序列得吸引点恰就是g 得不动点。有时候也可使g 具有某种单调性,构成单调单调法。 2-3 迭代法得收敛性与收敛阶 前面谈到,一个迭代法,当其产生得迭代序列在适定与收敛时才有意义。单步迭代格式(2-3)在实际中被采用得最多,这里,我们不加证明地给出三个与(2-3)格式有关得收敛性定理。 定理2-4 设就是方程得解,。若存在一个开球S = 与常数,使得对一切,有 x 021(x ) 图2-2 迭代序列收敛
2013-2014（1）专业课程实践论文题目：方程的加速迭代方法
一、算法理论 Aitken 加速迭代算法基本原理： 对于收敛的迭代过程，只要迭代足够多次，就可以使结果达到任意的精度。但有时迭代过程收敛缓慢，从而使计算量变得很大，因此，迭代过程的加速是个重要的过程。 设0x 是跟*x 的某个预测值，只迭代公式校正一次)(01x f x =,而由微分中值定理有：)x (x (t)f x x **-?'=-01（其中t 介于*x 与0x 之间） 。 假定()x f '改变不大，近似的取某个近似值L ，则由)(*0*1x x L x x -?≈-得到 L x L L x x -?- -= 1101 *,可以期望按上式右端求得 ()L x x L x L L x L x x --?+ =-?--= 11101101 2是比1x 更好的近似值，将每得到一次改进值算做一步，并用k x '和k x 分别表示第K 步的校正值和改进值，则加速迭代计算方案可表述如下： 校正：1+'k x ()k x f = 改进：=+1k x ()L x x L x k k k --'?+'++111 然而上述加速公式有个缺点，由于其中含有倒数()x f '的有关信息L ，实际使用不便。 仍设已知*x 的某个猜测值为0x ，将校正值()01x f x =,再校正一次，又得 ()12x f x =。由于≈-*2x x ()*1L x x -?将它与式 = *x L x L L x -?- -1101 联立，消去未知L ，然后有 =*x ()2 102 1222x x x x x x +?--- 这样构造出的改进公式确定不再含有关于导数的
2 迭代法 2.1 迭代法的一般概念 迭代法是数值计算中一类典型方法，不仅用于方程求根，而且用于方程组求解，矩阵求特征值等方面。迭代法的基本思想是一种逐次逼近的方法。首先取一个精糙的近似值，然后用同一个递推公式，反复校正这个初值，直到满足预先给定的精度要求为止。 对于迭代法，一般需要讨论的基本问题是：迭代法的构造、迭代序列的收敛性天收敛速度以及误差估计。这里，主要看看解方程迭代式的构造。 对方程(1.1)，在区间],[b a 内，可改写成为： )(x x ?= (2.1) 取],[0b a x ∈，用递推公式： ) (1k k x x ?=+, Λ,2,1,0=k (2.2) 可得到序列： ∞ ==0210}{,,,,k k k x x x x x ΛΛ (2.3) 当∞→k 时，序列∞=0}{k k x 有极限x ~， 且)(x ?在x ~附近连续，则在式(2.2)两边极限，得， )~(~x x ?= 即，x ~为方程(2.1)的根。由于方式(1.1)和方程(2.1)等价，所以， x x ~ *= 即， *lim x x k k =∞ → 式(2.2)称为迭代式，也称为迭代公式；)(x ?可称为迭代函数。称求得的序列∞ =0 }{k k x
为迭代序列。 2.2 程序和实例 下面是基于MATLAB 的迭代法程序，用迭代格式)(1n n x g p =+，求解方程)(x g x =，其中初始值为0p 。 ************************************************************************** function[p,k,err,P]=fixpt(f1021,p0,tol,max1) % f1021是给定的迭代函数。 % p0是给定的初始值。 % tol 是给定的误差界。 % max1是所允许的最大迭代次数。 % k 是所进行的迭代次数加1。 % p 是不动点的近似值。 % err 是误差。 % P = {p1,p2,…,pn} P(1) = p0; for k = 2:max1 P(k) = feval('f1021', P(k-1)); k, err = abs(P(k) - P(k-1)) p = P(k); if(err 第30卷第5期 佛山科学技术学院学报(自然科学版) Vol.30No.5 2012年9月 Jo ur nal of Fo shan University(Natural Science Edition)Sep.2012文章编号:1008-0171(2012)05-0001-03 牛顿迭代法的一种改进方法 陈玉骥 (佛山科学技术学院环建学院,广东佛山528000) 摘要:牛顿迭代法是求解非线性方程的一种常用方法,该法对初值要求较高,只具有局部收敛性。在牛顿迭代法的基础上,通过调整非线性方程对应曲线切线的斜率,从而保证在取任意初值时,迭代均可收敛,有效改善了牛顿迭代法对初值的苛刻要求。 关键词:牛顿迭代法;非线性方程;初值;斜率 中图分类号:O242.23 文献标志码:A 工程上,不少实际问题的数学模型都涉及到非线性方程f(x)=0的求解。由于工程问题对应的方程f(x)=0大多不存在求根公式,因此确定精确解十分困难。故近似解的计算成为人们关心的主要问题。目前,人们已提出了不少求解非线性方程f(x)=0近似解的方法[1-8],其中,牛顿迭代法是最基本的方法之一。由于牛顿迭代法在方程的单根附近具有平方收敛速度,而且还可以求解方程的重根和复根,故该法得到了广泛应用。但牛顿迭代法对初值的要求较苛刻,只有适当选取初值,才能保证其收敛性。 为保证牛顿迭代法局部收敛,必须对f(x)和初值附加如下条件[9]: (1)f(x)在区间[a,b]上二阶可导; (2)f(a)f(b)<0; (3)f′(x)≠0; (4)f″(x)在区间[a,b]上不变号; (5)初值x0∈[a,b]应使f″(x0)f(x0)>0。 其中,条件(1)、(2)保证了方程f(x)=0根的存在性;条件(3)表示函数单调变化,则方程的根惟一;条件(4)表示函数f(x)的图形凸凹向不变;条件(5)是对初值的要求。 只要满足以上条件,就可保证牛顿迭代法的收敛性。但当表达式f(x)很复杂时,确定f(x)导数的计算量很大,且求出f″(x)的表达式非常复杂,要满足条件(3)、(4)比较困难。另外,还有不少方程不完全符合上述条件,无法按以上要求确定初值,迭代过程很难确保收敛性。 为了扩大牛顿迭代法的适用性,本文提出一种牛顿迭代法的改进方法,可以有效避免牛顿迭代法对初值选取范围的苛刻要求。其基本思想是,通过不断增加非线性方程对应曲线切线的斜率,达到迭代收敛的目的。所以,笔者将该法称为“改变斜率法”。 1 改变斜率法 在定义域内取任一初值x0∈[a,b],按牛顿迭代法的公式进行计算,得 收稿日期:2012-03-13 基金项目:国家自然科学基金资助项目(50978058);广东省自然科学基金资助项目(S2011010005037) 作者简介:陈玉骥(1962-),男,海南文昌人,佛山科学技术学院教授,博士。 Matlab线性方程组的迭代解法（Jacobi迭代法Gauss-Seidel迭代法）实验报告2008年11月09日星期日12:49 1.熟悉Jacobi迭代法，并编写Matlab程序matlab程序 按照算法(Jacobi迭代法)编写Matlab程序(Jacobi.m) function [x, k, index]=Jacobi(A, b, ep, it_max) %求解线性方程组的Jacobi迭代法，其中 % A ---方程组的系数矩阵 % b ---方程组的右端项 % ep ---精度要求。省缺为1e-5 % it_max ---最大迭代次数，省缺为100 % x ---方程组的解 % k ---迭代次数 % index --- index=1表示迭代收敛到指定要求； % index=0表示迭代失败 if nargin <4 it_max=100; end if nargin <3 ep=1e-5; end n=length(A); k=0; x=zeros(n,1); y=zeros(n,1); index=1; while 1 for i=1:n y(i)=b(i); for j=1:n if j~=i y(i)=y(i)-A(i,j)*x(j); end end if abs(A(i,i))<1e-10 | k==it_max index=0; return; end y(i)=y(i)/A(i,i); end if norm(y-x,inf)牛顿迭代法的一种改进方法
Jacobi迭代法 Gauss-Seidel迭代法
相关主题
文本预览