预处理子空间迭代法的一些基本概念
- 格式:doc
- 大小:111.50 KB
- 文档页数:9
2 迭代法2.1 迭代法的一般概念迭代法是数值计算中一类典型方法,不仅用于方程求根,而且用于方程组求解,矩阵求特征值等方面。
迭代法的基本思想是一种逐次逼近的方法。
首先取一个精糙的近似值,然后用同一个递推公式,反复校正这个初值,直到满足预先给定的精度要求为止。
对于迭代法,一般需要讨论的基本问题是:迭代法的构造、迭代序列的收敛性天收敛速度以及误差估计。
这里,主要看看解方程迭代式的构造。
对方程(1.1),在区间],[b a 内,可改写成为:)(x x ϕ= (2.1)取],[0b a x ∈,用递推公式: )(1k k x x ϕ=+, ,2,1,0=k(2.2)可得到序列:∞==0210}{,,,,k k k x x x x x (2.3)当∞→k 时,序列∞=0}{k k x 有极限x ~,且)(x ϕ在x ~附近连续,则在式(2.2)两边极限,得,)~(~x x ϕ=即,x ~为方程(2.1)的根。
由于方式(1.1)和方程(2.1)等价,所以, x x ~*= 即,*lim x x k k =∞→式(2.2)称为迭代式,也称为迭代公式;)(x ϕ可称为迭代函数。
称求得的序列∞=0}{k k x为迭代序列。
2.2 程序和实例下面是基于MATLAB 的迭代法程序,用迭代格式)(1n n x g p =+,求解方程)(x g x =,其中初始值为0p 。
**************************************************************************function[p,k,err,P]=fixpt(f1021,p0,tol,max1) % f1021是给定的迭代函数。
% p0是给定的初始值。
% tol 是给定的误差界。
% max1是所允许的最大迭代次数。
% k 是所进行的迭代次数加1。
% p 是不动点的近似值。
% err 是误差。
% P = {p1,p2,…,pn}P(1) = p0;for k = 2:max1P(k) = feval('f1021', P(k-1)); k, err = abs(P(k) - P(k-1))p = P(k); if(err<tol), break;endif k == max1disp('maximum number of iterations exceeded');end end P=P;****************************************************************************例2.1 用上述程序求方程0sin 2=-x x 的一个近似解,给定初始值5.00=x ,误差界为510-。
迭代法迭代法也称辗转法,是一种不断用变量的旧值递推新值的过程,跟迭代法相对应的是直接法(或者称为一次解法),即一次性解决问题。
迭代是数值分析中通过从一个初始估计出发寻找一系列近似解来解决问题(一般是解方程或者方程组)的过程,为实现这一过程所使用的方法统称为迭代法(Iterative Method)。
一般可以做如下定义:对于给定的线性方程组x=Bx+f(这里的x、B、f同为矩阵,任意线性方程组都可以变换成此形式),用公式x(k+1)=Bx(k)+f(括号中为上标,代表迭代k次得到的x,初始时k=0)逐步带入求近似解的方法称为迭代法(或称一阶定常迭代法)。
如果k 趋向无穷大时lim x(k)存在,记为x*,称此迭代法收敛。
显然x*就是此方程组的解,否则称为迭代法发散。
跟迭代法相对应的是直接法(或者称为一次解法),即一次性的快速解决问题,例如通过开方解决方程x+3= 4。
一般如果可能,直接解法总是优先考虑的。
但当遇到复杂问题时,特别是在未知量很多,方程为非线性时,我们无法找到直接解法(例如五次以及更高次的代数方程没有解析解,参见阿贝耳定理),这时候或许可以通过迭代法寻求方程(组)的近似解。
最常见的迭代法是牛顿法。
其他还包括最速下降法、共轭迭代法、变尺度迭代法、最小二乘法、线性规划、非线性规划、单纯型法、惩罚函数法、斜率投影法、遗传算法、模拟退火等等。
利用迭代算法解决问题,需要做好以下三个方面的工作:折叠确定迭代变量在可以用迭代算法解决的问题中,至少存在一个直接或间接地不断由旧值递推出新值的变量,这个变量就是迭代变量。
折叠建立迭代关系式所谓迭代关系式,指如何从变量的前一个值推出其下一个值的公式(或关系)。
迭代关系式的建立是解决迭代问题的关键,通常可以顺推或倒推的方法来完成。
折叠对迭代过程进行控制在什么时候结束迭代过程?这是编写迭代程序必须考虑的问题。
不能让迭代过程无休止地重复执行下去。
迭代过程的控制通常可分为两种情况:一种是所需的迭代次数是个确定的值,可以计算出来;另一种是所需的迭代次数无法确定。
CG算法的预处理技术:、为什么要对A进行预处理:其收敛速度依赖于对称正定阵A的特征值分布特征值如何影响收敛性:特征值分布在较小的范围内,从而加速CG的收敛性特征值和特征向量的定义是什么?(见笔记本以及收藏的网页)求解特征值和特征向量的方法:Davidson方法:Davidson 方法是用矩阵( D - θI)- 1( A - θI) 产生子空间,这里D 是A 的对角元所组成的对角矩阵。
θ是由Rayleigh-Ritz 过程所得到的A的近似特征值。
什么是子空间法:Krylov子空间叠代法是用来求解形如Ax=b 的方程,A是一个n*n 的矩阵,当n充分大时,直接计算变得非常困难,而Krylov方法则巧妙地将其变为Kxi+1=Kxi+b-Axi 的迭代形式来求解。
这里的K(来源于作者俄国人Nikolai Krylov姓氏的首字母)是一个构造出来的接近于A的矩阵,而迭代形式的算法的妙处在于,它将复杂问题化简为阶段性的易于计算的子步骤。
如何取正定矩阵Mk为:Span是什么?:设x_(1,)...,x_m∈V ,称它们的线性组合∑_(i=1)^m?〖k_i x_i \|k_i∈K,i=1,2...m〗为向量x_(1,)...,x_m的生成子空间,也称为由x_(1,)...,x_m张成的子空间。
记为L(x_(1,)...,x_m),也可以记为Span(x_(1,)...,x_m)什么是Jacobi迭代法:什么是G_S迭代法:请见PPT《迭代法求解线性方程组》什么是SOR迭代法:什么是收敛速度:什么是可约矩阵与不可约矩阵?:不可约矩阵(irreducible matrix)和可约矩阵(reducible matrix)两个相对的概念。
定义1:对于n 阶方阵A 而言,如果存在一个排列阵P 使得P'AP 为一个分块上三角阵,我们就称矩阵A 是可约的;否则称矩阵A 是不可约的。
定义2:对于n 阶方阵A=(aij) 而言,如果指标集{1,2,...,n} 能够被划分成两个不相交的非空指标集J 和K,使得对任意的j∈J 和任意的k∈K 都有ajk=0, 则称矩阵 A 是可约的;否则称矩阵A 是不可约的。
【分享】迭代的基本知识在日常工作中,我们会经常使用公式按照某个规则在某个单元格中计算出关于一个已知单元格的结果。
但是如果在公式所在的单元格中不小心点到这个单元格,会出现循环引用警告,这个比较烦人。
但是由于我的工作需要,又必须要利用循环引用,这怎么办呢?这就需要我们今天讲的迭代了。
什么是迭代?微软官方网站给出的迭代的定义迭代是指在满足特定数值条件之前重复计算工作表。
Excel不能自动计算这样一个公式,该公式直接或间接引用了包含该公式的单元格。
这叫做循环引用。
如果一个公式引用了自身所在的某个单元格,那么您必须确定该公式应该重新计算多少次。
循环引用可以无限迭代。
但是,您可以控制最大迭代次数和可接受误差的值。
这个定义比较抽象,举个例子给大家。
在正常情况下,新建工作簿或者打开之前做好的表格都不会循环引用。
如果打开一个之前做好的表格,出现循环引用警告,可以尝试打开迭代计算。
【WPS】:选择在左上角的文件-选项-重新计算中的迭代计算打勾;【Excel】:单击【文件】(Excel2007选择左上角Office按钮) -【 Excel选项】-【公式中迭代计算中打勾】,单击确定。
我们现在打开了迭代计算并且最多迭代次数填写100次,D1=12,E1=D1+E1,那么回车后的值为:1次:E1=12+0=122次:E1=12+12=243次:E1=24+12=36......100次:E1=12*99+12=1200所以迭代计算以后E1的值为1200,如下图所示。
注:1、迭代的意思是公式所在单元格引用自身,要和循环计算区分。
如下面的图中进行的是循环计算。
2、迭代计算的特性:(1)若这个迭代公式自己和自己做某些运算(如加、减、乘、除、乘方、开方等),且在别的单元格有实质性操作,如输入/删除字符、输入/删除公式、合并单元格等(取消合并单元格不算),则在进行操作后会按照本单元格的初值为上次迭代值再次迭代。
(2)若在迭代公式所在单元格重新输入公式,回车后会按照本单元格的初值为0重新进行迭代。
迭代法
迭代法可以用于解决一些相当繁琐的数学计算,迭代法在高数,数值分析等一些科目中都有渗透。
迭代法也称辗转法,是一种不断用变量的旧值递推新值的过程,跟迭代法相对应的是直接法(或者称为一次解法),即一次性解决问题。
迭代算法是用计算机解决问题的一种基本方法,它利用计算机运算速度快、适合做重复性操作的特点,让计算机对一组指令(或一定步骤)进行重复执行,在每次执行这组指令(或这些步骤)时,都从变量的原值推出它的一个新值,迭代法又分为精确迭代和近似迭代。
比较典型的迭代法如“二分法”和"牛顿迭代法”属于近似迭代法。
迭代法的应用:迭代法的主要研究课题是对所论问题构造收敛的迭代格式,分析它们的收敛速度及收敛范围。
迭代法的收敛性定理可分成下列三类:
①局部收敛性定理:假设问题解存在,断定当初始近似与解充分接近时迭代法收敛;
②半局部收敛性定理:在不假定解存在的情况下,根据迭代法在初始近似处满足的条件,断定迭代法收敛于问题的解;
③大范围收敛性定理:在不假定初始近似与解充分接近的条件下,断定选代法收敛于问题的解。
迭代过程的控制通常可分为两种情况:一种是所需的迭代次数是个确定的值,可以计算出来;另一种是所需的迭代次数无法确定。
对于前一种情况,可以构建一个固定次数的循环来实现对迭代过程的控
制;对于后一种情况,需要进一步分析出用来结束迭代过程的条件。
《解线性方程组的VRP-GMRES(m)迭代法》篇一一、引言随着科技的发展,线性方程组的求解在科学计算、工程问题以及数据分析等领域扮演着重要的角色。
其中,VRP-GMRES(m)迭代法是一种高效、准确的求解方法。
本文将详细介绍VRP-GMRES(m)迭代法的原理、步骤及其在解线性方程组中的应用。
二、VRP-GMRES(m)迭代法的基本原理VRP-GMRES(m)迭代法是一种基于Krylov子空间的迭代法,用于求解大型稀疏线性方程组。
该方法通过构造一系列的Krylov 子空间,逐步逼近方程组的解。
GMRES算法在每次迭代中都会寻找一个最佳的方向来逼近解,而VRP(Variable Projection)技术则是在此基础上进行优化,提高了算法的收敛速度和稳定性。
三、VRP-GMRES(m)迭代法的步骤1. 初始化:设定初始向量x0和初始残差r0=b-Ax0。
2. 构建Krylov子空间:根据初始残差r0,通过Arnoldi过程构建Krylov子空间。
3. 求解最小二乘问题:在Krylov子空间中求解最小二乘问题,得到搜索方向。
4. 投影与更新:利用VRP技术对搜索方向进行投影和更新,得到新的近似解和残差。
5. 判断收敛性:根据设定的收敛准则判断是否收敛,若收敛则输出解,否则返回步骤2继续迭代。
四、VRP-GMRES(m)迭代法在解线性方程组中的应用VRP-GMRES(m)迭代法在解线性方程组中具有广泛的应用。
首先,它可以有效地处理大型稀疏线性方程组,提高了计算效率。
其次,该方法在处理病态方程组时具有较好的稳定性和收敛性。
此外,VRP技术的引入进一步提高了算法的收敛速度和精度。
在实际应用中,VRP-GMRES(m)迭代法已被广泛应用于科学计算、工程问题、数据分析等领域。
五、结论VRP-GMRES(m)迭代法是一种高效、准确的求解大型稀疏线性方程组的方法。
该方法通过构造Krylov子空间,逐步逼近方程组的解。
子空间迭代法
子空间迭代法是一种有效的数值计算求解最优化问题的方法,它的基本思想是:先给定一个初始解,然后在可行解子空间内逐步搜索,最终找到全局最优解。
传统的最优化方法,如曲面拟合或凸优化,是通过在整个解空间内搜索最优解来实现的。
这种方法可能会遇到搜索范围广泛,所需计算量非常大的问题。
此外,由于当前解往往不是最优解,因此可能存在局部最优解,而忽略了全局最优解。
子空间迭代法是一种改进的最优化方法,它不是将整个解空间作为搜索空间,而是从初始解出发,在尽可能小的子空间内搜索,逐步向全局最优解前进。
它能够在较小的时间和空间内找到最优解,并且不易陷入局部最优解而忽略全局最优解。
子空间迭代法的收敛效果一般比传统最优化方法更加可靠。
此外,它的实施过程简单,需要的计算量小,鲁棒性较强;而且由于只搜索可行解子空间,所以更能够节省计算资源。
总的来说,子空间迭代法是解决最优化问题的一种很好的方法,它比传统最优化方法拥有更高的收敛性,更优的时间和空间复杂度,以及更好的鲁棒性。
它已经成为多种工程设计中不可或缺的重要部分,为优化问题的解决提供了一种有效的途径。
迭代法—搜狗百科例1 :一个饲养场引进一只刚出生的新品种兔子,这种兔子从出生的下一个月开始,每月新生一只兔子,新生的兔子也如此繁殖。
如果所有的兔子都不死去,问到第 12 个月时,该饲养场共有兔子多少只?分析:这是一个典型的递推问题。
我们不妨假设第1 个月时兔子的只数为 u 1 ,第 2 个月时兔子的只数为 u 2 ,第 3 个月时兔子的只数为 u 3 ,……根据题意,“这种兔子从出生的下一个月开始,每月新生一只兔子”,则有u 1 = 1 ,u 2 = u 1 + u 1 × 1 = 2 ,u 3 = u 2 + u 2 × 1 = 4 ,……根据这个规律,可以归纳出下面的递推公式:u n = u(n - 1)× 2 (n ≥ 2)对应 u n 和 u(n - 1),定义两个迭代变量 y 和 x ,可将上面的递推公式转换成如下迭代关系:y=x*2x=y让计算机对这个迭代关系重复执行 11 次,就可以算出第 12 个月时的兔子数。
参考程序如下:clsx=1for i=2 to 12y=x*2x=ynext iprint yend例 2 :阿米巴用简单分裂的方式繁殖,它每分裂一次要用 3 分钟。
将若干个阿米巴放在一个盛满营养参液的容器内, 45 分钟后容器内充满了阿米巴。
已知容器最多可以装阿米巴220,220个。
试问,开始的时候往容器内放了多少个阿米巴?请编程序算出。
分析:根据题意,阿米巴每3 分钟分裂一次,那么从开始的时候将阿米巴放入容器里面,到45 分钟后充满容器,需要分裂45/3=15 次。
而“容器最多可以装阿米巴2^ 20 个”,即阿米巴分裂15 次以后得到的个数是 2^20。
题目要求我们计算分裂之前的阿米巴数,不妨使用倒推的方法,从第 15 次分裂之后的 2^20 个,倒推出第 15 次分裂之前(即第 14 次分裂之后)的个数,再进一步倒推出第 13 次分裂之后、第 12 次分裂之后、……第 1 次分裂之前的个数。
迭代法详解迭代法(iteration)也称辗转法,是⼀种不断⽤变量的旧值递推出新值的解决问题的⽅法,迭代算法⼀般⽤于数值计算。
累加,累乘都是迭代算法的基础应⽤。
利⽤迭代法解题的步骤:1)确定迭代模型根据问题描述,分析出前⼀个(或⼏个)值与下⼀个值的迭代关系数学模型。
2)建⽴迭代关系式递推数学模型⼀般是带下标的字母,算法设计中要将其转化为“循环不变式”----迭代关系式,迭代关系式就是⼀个直接或间接地不断由旧值递推出新值的表达式,存储新值的变量称为迭代变量。
3)对迭代过程进⾏控制。
确定在什么时候结束迭代过程。
迭代过程是通过⼩规模问题的解逐步求解⼤规模问题的解,表⾯上看正好与递归相反,但也找到了⼤规模问题与⼩规模问题的关系。
本节的例⼦是⽤迭代完成的,也都可以⽤递归完成。
相信尝试后,定能体会到递归的简便之处。
1,递推法(recursion)是迭代算法的最基本表现形式。
⼀般来讲,⼀种简单的递推⽅法,就是从⼩规模的问题解出⼤规模问题的⼀种⽅法,也称其为“正推“。
如”累加“。
兔⼦繁殖问题:⼀对兔⼦从出⽣后第三个⽉开始,每⽉⽣⼀对兔⼦,⼩兔⼦每到第三个⽉有开始⽣兔⼦,问⼀年中每个⽉各有多少兔⼦?我们通常⽤的迭代:print(a,b)for(i=1;i<=10;i++){c=a+b; print(c); a=b; b=c;}另⼀种构造不变式的⽅法:1 2 3 4 5 6 7 8a b c=a+b a=b+c b=a+c c=a+b这样,⼀次循环其实是递推了三步,循环次数就要减少了。
#include<stdio.h>int main(){int i,a=1,b=1;int c;printf("%d %d ",a,b);for(i=1;i<=4;i++){c=a+b;a=b+c;b=c+a;printf("%d %d %d ",c,a,b); //注意输出顺序是c,a,b}}上⾯输出的共2+3*4=14项,这样的算法不太完美。
newton子空间迭代法Newton子空间迭代法是一种用于求解线性方程组的迭代算法。
它在数值计算中被广泛应用,特别适用于大规模的稀疏线性方程组求解。
本文将介绍Newton子空间迭代法的基本原理、算法步骤以及其应用。
我们来了解一下什么是线性方程组。
线性方程组是由一系列线性方程组成的方程组,每个线性方程都是未知数的一次多项式与常数的乘积之和。
解线性方程组就是找到满足所有方程的未知数的值。
Newton子空间迭代法是一种基于子空间的迭代算法。
它的基本思想是通过构造一个逐渐逼近线性方程组解空间的子空间序列来求解线性方程组。
具体来说,它通过不断迭代更新子空间的基向量,使得子空间中的向量逐渐接近线性方程组的解。
下面我们来看一下Newton子空间迭代法的具体步骤。
首先,我们需要选择一个初始的子空间。
常用的选择方法是随机生成一组线性无关的向量作为初始子空间的基。
然后,我们利用这个初始子空间来构造一个近似解,并将该近似解代入线性方程组中,得到一个残差向量。
接下来,我们利用残差向量来更新子空间的基向量,使得新的子空间更接近线性方程组的解空间。
这个更新的过程通常使用正交化方法来避免基向量之间的线性相关性。
最后,我们利用更新后的子空间来构造新的近似解,并重复上述步骤,直到满足收敛条件为止。
Newton子空间迭代法的优点是可以处理大规模的稀疏线性方程组,且收敛速度较快。
它的主要应用领域包括计算科学、工程学和物理学等。
例如,在计算流体力学中,Newton子空间迭代法被广泛用于求解Navier-Stokes方程组,从而模拟流体的运动。
此外,它还可以用于图像处理、信号处理以及数据挖掘等领域。
需要注意的是,Newton子空间迭代法并不是解决线性方程组的唯一方法,还有其他一些经典的迭代算法,如雅可比迭代法、高斯-赛德尔迭代法等。
不同的迭代算法在求解效率、收敛速度和稳定性等方面有所差异,选择适合具体问题的迭代算法是很重要的。
Newton子空间迭代法是一种用于求解线性方程组的迭代算法,通过构造逐渐逼近解空间的子空间序列来求解线性方程组。
《解线性方程组的VRP-GMRES(m)迭代法》篇一一、引言在科学与工程计算中,线性方程组的求解是一个常见的任务。
对于大型的、稀疏的或者非对称的线性方程组,传统的直接法求解可能并不高效。
因此,迭代法成为了处理这类问题的有效手段。
VRP-GMRES(m)迭代法是其中一种常用的方法,它结合了GMRES算法的优越性和VRP(Variable Residual Projection)的快速收敛性。
本文将详细介绍VRP-GMRES(m)迭代法的基本原理、实现步骤以及应用实例。
二、VRP-GMRES(m)迭代法的基本原理VRP-GMRES(m)迭代法是一种基于Krylov子空间的迭代法,它通过最小化残差向量的范数来逐步逼近方程组的解。
该方法在每次迭代中,都会计算一个Krylov子空间中的向量,并利用这个向量来更新解的估计值。
与传统的GMRES算法相比,VRP-GMRES(m)在求解过程中更加注重对残差的优化,从而提高了收敛速度和求解精度。
三、算法实现步骤1. 初始化:设定初始解向量x0和初始残差向量r0,其中r0为方程组的右侧向量与矩阵A乘以初始解x0之差。
设定迭代次数m以及算法的终止条件(如残差向量的范数小于某个阈值)。
2. 构建Krylov子空间:根据初始残差向量r0,构建一个Krylov子空间。
该子空间包含了所有与矩阵A相关的向量组成的线性组合。
3. 计算投影矩阵:在Krylov子空间中,计算一个投影矩阵Pm,该矩阵用于将残差向量投影到m维子空间中。
4. 求解最小二乘问题:利用投影矩阵Pm,将原方程组转化为一个m阶的最小二乘问题。
通过求解这个最小二乘问题,可以得到一个新的解向量估计值。
5. 更新解向量和残差向量:根据新的解向量估计值,更新当前的解向量和残差向量。
6. 判断是否满足终止条件:如果残差向量的范数小于设定的阈值,则认为算法已经收敛,输出当前解向量作为方程组的解;否则,继续执行步骤2至步骤6的迭代过程。
什么是迭代_具体算法是怎样的迭代是重复反馈过程的活动,其目的通常是为了逼近所需目标或结果。
那么你对迭代了解多少呢?以下是由店铺整理关于什么是迭代的内容,希望大家喜欢!迭代的概念函数在数学中,迭代函数是在碎形和动力系统中深入研究的对象。
迭代函数是重复的与自身复合的函数,这个过程叫做迭代。
模型迭代模型是RUP(Rational Unified Process,统一软件开发过程,统一软件过程)推荐的周期模型。
算法迭代算法是用计算机解决问题的一种基本方法。
它利用计算机运算速度快、适合做重复性操作的特点,让计算机对一组指令(或一定步骤)进行重复执行,在每次执行这组指令(或这些步骤)时,都从变量的原值推出它的一个新值。
迭代的基本算法有些国外的教材,如《C++ Primer》第四版的中文版,会把iterative翻译成迭代。
在java中Iterative 仅用于遍历集合,本身并不提供盛装对象的能力。
如果需要创建Iterative对象,则必须有一个被迭代的集合。
没有集合的Iterative仿佛无本之木,没有存在的价值。
iterative是反复的意思,所以,有时候,迭代也会指循环执行,反复执行的意思。
利用迭代算法解决问题,需要做好以下三个方面的工作:确定变量在可以用迭代算法解决的问题中,至少存在一个直接或间接地不断由旧值递推出新值的变量,这个变量就是迭代变量。
建立关系式所谓迭代关系式,指如何从变量的前一个值推出其下一个值的公式(或关系)。
迭代关系式的建立是解决迭代问题的关键,通常可以使用递推或倒推的方法来完成。
过程控制在什么时候结束迭代过程?这是编写迭代程序必须考虑的问题。
不能让迭代过程无休止地重复执行下去。
迭代过程的控制通常可分为两种情况:一种是所需的迭代次数是个确定的值,可以计算出来;另一种是所需的迭代次数无法确定。
对于前一种情况,可以构建一个固定次数的循环来实现对迭代过程的控制;对于后一种情况,需要进一步分析出用来结束迭代过程的条件。
CG 算法的预处理技术:、为什么要对A 进行预处理:其收敛速度依赖于对称正定阵A 的特征值分布特征值如影响收敛性:特征值分布在较小的围,从而加速CG 的收敛性特征值和特征向量的定义是什么?(见笔记本以及收藏的网页)求解特征值和特征向量的法:Davidson 法:Davidson 法是用矩阵( D - θI)- 1( A - θI) 产生子空间,这里 D 是 A 的对角元所组成的对角矩阵。
θ是由 Rayleigh-Ritz 过程所得到的A 的近似特征值。
什么是子空间法: Krylov 子空间叠代法是用来求解形如Ax=b 的程,A 是一个n*n 的矩阵,当n 充分大时,直接计算变得非常困难,而Krylov 法则巧妙地将其变为Kxi+1=Kxi+b-Axi 的迭代形式来求解。
这里的K(来源于作者俄国人Nikolai Krylov 姓氏的首字母)是一个构造出来的接近于A 的矩阵,而迭代形式的算法的妙处在于,它将复杂问题化简为阶段性的易于计算的子步骤。
如取正定矩阵Mk 为:Span 是什么?:设 ,称它们的线性组合 为向量的生成子空间,也称为由成的子空间。
记为,也可以记为什么是Jacobi 迭代法:什么是G_S 迭代法:请见PPT 《迭代法求解线性程组》什么是SOR 迭代法:什么是收敛速度:称收敛速度。
度,简为迭代法的渐近收敛速)(ln )(:5定义B B R ρ-=什么是可约矩阵与不可约矩阵?:不可约矩阵(irreducible matrix )和可约矩阵(reducible matrix )两个相对的概念。
定义1:对于 n 阶阵 A 而言,如果存在一个排列阵 P 使得 P'AP 为一个分块上三角阵,我们就称矩阵 A 是可约的;否则称矩阵 A 是不可约的。
定义2:对于 n 阶阵 A=(aij) 而言,如果指标集 {1,2,...,n} 能够被划分成两个不相交的非空指标集 J 和 K ,使得对任意的 j ∈J 和任意的 k ∈K 都有 ajk=0, 则称矩阵 A 是可约的;否则称矩阵 A 是不可约的。
n 阶矩阵A 是不可约的当且仅当与矩阵A 对应的有向图是强连通的。
什么是正交?:在三维向量空间中, 两个向量的积如果是零, 那么就说这两个向量是正交的。
换句话说, 两个向量正交意味着它们是相互垂直的。
若向量α与β正交,则记为α⊥β。
什么是正交矩阵?:如果:AA'=E (E 为单位矩阵,A'表示“矩阵A 的转置矩阵”。
)或A ′A=E ,则n 阶实矩阵A 称为正交矩阵, 若A 为单位正交阵,则满足以下条件:1) AT 是正交矩阵2)(E 为单位矩阵)3) A 的各行是单位向量且两两正交4) A 的各列是单位向量且两两正交5) (Ax,Ay)=(x,y) x,y ∈R6) |A| = 1或-1倒着写的A 和E 都是什么意思啊?:反着的E:谓词逻辑 存在量词 ∃ x: P(x) 意味着有至少一个 x 使 P(x) 为真。
n ∈ N: n 是偶数。
倒着的A:任意的∧ 逻辑合取 述 A ∧ B 为真,如果 A 与 B 二者都为真;否则为假。
n < 4 ∧ n >2 ⇔ n = 3 当 n 是自然数的时候。
与命题逻辑 ∨ 逻辑析取 述 A ∨ B 为真,如果 A 或 B (或二者)为真;如果二者都为假,则述为假。
n ≥ 4 ∨ n ≤ 2 ⇔ n ≠ 3 当 n 是自然数的时候。
迭代法与直接法比较优劣是什么?:对称正定的定义是什么?:设M 是n 阶阵,如果对任非零向量z ,都有 z'Mz > 0,其中z' 表示z 的转置,就称M 正定矩阵。
判定定理1:对称阵A 为正定的充分必要条件是:A 的特征值全为正。
判定定理2:对称阵A 为正定的充分必要条件是:A 的各阶顺序主子式都为正。
迭代法求解稀疏矩阵时是否有填充元问题?:CG 法求解线性矩阵时有无误差问题?:有。
误差可能导致收敛变慢甚至无法求解。
什么是Krylov 子空间法?:设要求解线性代数程组Ax=b ,取00010(,)(,,...,)m m m K K A r Span r Ar A r -==,其中00r b Ax =-,且0x 为初始解,从0m x K +中寻找近似解m x ,使相应的残向量与另某个子空间m L 正交,即m m m r b Ax L =-⊥ 则称m K 为Krylov 子空间,且上述法称为Krylov 子空间法。
GMRES 法的缺点是什么?:因为它实际上求式AZ=r 的解等价在在 Krylov 子空间中极小化残余向量的||.||数。
但 GMRES 会有失去超线性收敛性、可能产生停滞、GMRES 每迭代一步都要进行 Arnoldi 过程中都要消耗大量的计算时间、随着子空间维数的增大,引起存储空间过多的需求,每次迭代正交化过程所需代价显著增长等缺点。
矩阵右上角有个H ,这是什么矩阵呢?(有个T 是转置,有个H 是什么): 一般来讲A^T 表示转置,A^H 表示转置共轭,对实矩阵而言是一回事,对复矩阵而言转置共轭比单纯的转置更常用一些,比如酉变换、Hermite 型等。
什么是正交投影法和斜投影法?:从n 维向量空间中找出一个子空间h ,从其中寻找近似解,子空间h 常称为搜索空间。
如果dim m =h ,则为在h 中求出一个近似解,显然要有m 个闲置条件,通常采用m 个正交性条件,特别地,可以采用残向量r b Ax =-与m 个线性无关向量正交的条件,这m 个线性无关向量就定义了另外一个m 维子空间l ,通常称之为限制子空间或左子空间,同时称该限制条件为Petrov-Galerkin 条件。
当≠h l 时,称对应的投影法为斜交投影法,否则称为正交投影法。
什么是Hessenberg 矩阵?:假设一个N*N 矩阵A , 在i>j+1时,它的a (i,j )=0。
(A 的i,j 项=0),那么这个矩阵A 就叫做HESSENBERG MATRIX 。
常用数有哪些?:这里以Cn 空间为例,Rn 空间类似。
最常用的数就是p-数。
若,那么可以验证p-数确实满足数的定义。
其中三角不等式的证明不是平凡的,这个结论通常称为闵可夫斯基(Minkowski )不等式。
当p 取1,2,∞的时候分别是以下几种最简单的情形:1-数:║x║1=│x1│+│x2│+…+│xn│2-数:║x║2=(│x1│2+│x2│2+…+│xn│2)1/2∞-数:║x║∞=max(│x1│,│x2│,…,│xn│)共轭梯度法的原理是什么?:请见PPT《共轭梯度法》自己理解的预条件技术?:对线性程组AX=b,对A进行一些变换,例如LAL-1,使LAL-1的特征值变得相对集中,提高投影算法(CG,PCG)的收敛性。
对A进行的变化就称为预条件技术。
什么是Petrov-Galerkin条件?:预条件技术有几种?:有五种(1)对角预处理法:若A是格对角占优的矩阵,则可以选择M=diag(a11,a22,…a nn),可以通过初等矩阵变换,将A变换成M矩阵的形式。
(2)基于经典迭代的预处理法(矩阵分裂法):Jacobi,GS,Sor(3)多项式预处理法:选择一个多项式s(x)预处理矩阵选择为M-1=s(A),具体做法如下:将预处理矩阵取为一个低次的矩阵多项式M-1=s(A),原程变为:s(A)Ax=s(A)b,然后用迭代法求解。
(见兰的论文)(4)无填充不完全分解预处理法:以系数矩阵的因子分解为基础得到的预处理,这是一种比较有效的预处理程,主要有不完全LU分解,不完全Cholesky分解以及相应的块不完全分解等。
(5)子结构、区域分裂、EBE预处理途径(见永杰论文)。
什么是左预条件?:如果将迭代法应用于M-1Ax=M-1b,则称之为左预条件技术什么是右预条件?:如果将迭代法应用于AM-1z=b,再通过Mx=z,求出解x,则称之为右预条件技术。
什么是cond()?:Cond(A)称作矩阵A的条件数,为矩阵A的数与A的逆矩阵的数的乘积。
cond(A)=‖A‖·‖A-1‖。
从线性代数的分析可知,矩阵的条件数总是大于1.正交矩阵的条件数等于1,奇异矩阵的条件数为无穷大,而病态矩阵的条件数则为比较大的数据。
什么是线性无关?:向量v1,v2, ...,v n线性无关,当且仅当它们满足以下条件:如果a1,a2, ...,a n是K的元素,适合:a1v1+a2v2+ ... +a n v n= 0,那么对所有i= 1, 2, ...,n都有a i= 0。
什么是hermite矩阵即厄米特矩阵?:厄米特矩阵(Hermitian Conjugate Matrix,又译作“埃尔米特矩阵”或“厄米矩阵”),指的是自共轭矩阵。
矩阵中每一个第i 行第j 列的元素都与第j 行第i 列的元素的共轭相等。
对称矩阵是hermite矩阵的特例。
如果判断线性程组是病态?:一般当det(A)的绝对值很小时,程组Ax=b就可能是病态。
为什么预处理法备受关注?:对不同的矩阵情况,有不同的预处理案,没有一种通用的预处理案,于是出现了很多种预处理法。
预处理矩阵与迭代矩阵是什么关系?:M为预条件矩阵,G为迭代矩阵。
有G=M-1N。
什么是表征矩阵性态的条件数?:系数矩阵的最大特征值和最小特征值之比。
为什么PCG 算法强于CG 算法?:虽然共轭梯度法在理论上最多n 次迭代就可以达到精度解,但由于舍入误差的存在和矩阵A 的一些病态特性,使{p 1,p 2,。
,p k }A 正交性以及{r 1, r 2, …,r k }的正交性随着k 增加而变差。
故x n 一般不是精确解,而且降低了收敛的速度。
况对于大型和超大型的线性程组,即使n 次迭代收敛,也是实际计算中不能接受的。
于是出现了PCG ,它通过适当的预处理法引入预处理矩阵M ,使矩阵的特征值分布更为集中,降低矩阵条件数,改善矩阵病态特性,已达到提高收敛速度的目的。
矩阵谱半径定义?: 设A 是n ×n 矩阵,λi 是其特征值,i=1,2,…,n.称 ρ(A)=max{|λi|,i=1,2,……n}为A 的谱半径。
共轭梯度法的推导?:(1)采用泛函多项式的推导过程请见:网页《共轭梯度法》。
(2)用矩阵知识进行推导的过程请见:永杰的论文p34页。
什么是BEM (边界元法)?:边界元法(boundary element method )是一种继有限元法之后发展起来的一种新数值法,与有限元法在连续体域划分单元的基本思想不同,边界元法是只在定义域的边界上划分单元,用满足控制程的函数去逼近边界条件。
所以边界元法与有限元相比,具有单元个数少,数据准备简单等优点。
但用边界元法解非线性问题时,遇到同非线性项相对应的区域积分,这种积分在奇异点附近有强烈的奇异性,使求解遇到困难。