数值分析向量,矩阵范数,矩阵的条件数
- 格式:doc
- 大小:628.50 KB
- 文档页数:16
数值分析复习资料一、重点公式第一章 非线性方程和方程组的数值解法 1)二分法的基本原理,误差:~12k b ax α+--<2)迭代法收敛阶:1lim0i pi ic εε+→∞=≠,若1p =则要求01c <<3)单点迭代收敛定理:定理一:若当[],x a b ∈时,[](),x a b ϕ∈且'()1x l ϕ≤<,[],x a b ∀∈,则迭代格式收敛于唯一的根;定理二:设()x ϕ满足:①[],x a b ∈时,[](),x a b ϕ∈, ②[]121212,,, ()(),01x x a b x x l x x l ϕϕ∀∈-≤-<<有 则对任意初值[]0,x a b ∈迭代收敛,且:110111i i iii x x x llx x x lαα+-≤---≤-- 定理三:设()x ϕ在α的邻域内具有连续的一阶导数,且'()1ϕα<,则迭代格式具有局部收敛性;定理四:假设()x ϕ在根α的邻域内充分可导,则迭代格式1()i i x x ϕ+=是P 阶收敛的 ()()()0,1,,1,()0j P j P ϕαϕα==-≠ (Taylor 展开证明)4)Newton 迭代法:1'()()i i i i f x x x f x +=-,平方收敛 5)Newton 迭代法收敛定理:设()f x 在有根区间[],a b 上有二阶导数,且满足: ①:()()0f a f b <; ②:[]'()0,,f x x a b ≠∈;③:[]'',,f x a b ∈不变号④:初值[]0,x a b ∈使得''()()0f x f x <;则Newton 迭代法收敛于根α。
6)多点迭代法:1111111()()()()()()()()()i i i i i i i i i i i i i i i f x f x f x x x x x f x f x f x f x f x f x x x -+-----=-=+----收敛阶:P =7)Newton 迭代法求重根(收敛仍为线性收敛),对Newton 法进行修改 ①:已知根的重数r ,1'()()i i i i f x x x rf x +=-(平方收敛) ②:未知根的重数:1''()(),()()()i i i i u x f x x x u x u x f x +=-=,α为()f x 的重根,则α为()u x 的单根。
第五专题矩阵的数值特征(行列式、迹、秩、相对特征根、范数、条件数)一、行列式已知A p×q, B q×p, 则|I p+AB|=|I q+BA|证明一:参照课本194页,例4.3.证明二:利用AB和BA有相同的非零特征值的性质;从而I p+AB,I q+BA中不等于1的特征值的数目相同,大小相同;其余特征值都等于1。
行列式是特征值的乘积,因此|I p+AB|和|I q+BA|等于特征值(不等于1)的乘积,所以二者相等。
二、矩阵的迹矩阵的迹相对其它数值特征简单些,然而,它在许多领域,如数值计算,逼近论,以及统计估计等都有相当多的应用,许多量的计算都会归结为矩阵的迹的运算。
下面讨论有关迹的一些性质和不等式。
定义:n nii ii1i1tr(A)a====λ∑∑,etrA=exp(trA)性质:1. tr(A B)tr(A)tr(B)λ+μ=λ+μ,线性性质;2. Ttr(A )tr(A)=;3. tr(AB)tr(BA)=;4. 1tr(P AP)tr(A)-=;5. H Htr(x Ax)tr(Axx ),x =为向量;6. nnk ki i i 1i 1tr(A),tr(A )===λ=λ∑∑;从Schur 定理(或Jordan 标准形)和(4)证明; 7. A 0≥,则tr(A)0≥,且等号成立的充要条件是A=0;8. A B(A B 0)≥-≥即,则tr(A)tr(B)≥,且等号成立的充要条件是A=B (i i A B (A)(B)≥⇒λ≥λ);9. 对于n 阶方阵A ,若存在正整数k,使得A k =0,则tr(A)=0(从Schur 定理或Jordan 标准形证明)。
若干基本不等式对于两个m ×n 复矩阵A 和B ,tr(A H B)是m ×n 维酉空间上的内积,也就是将它们按列依次排成的两个mn 维列向量的内积,利用Cauchy-schwarz 不等式[x,y]2≤[x,x]﹒[y,y]得定理:对任意两个m ×n 复矩阵A 和B |tr(A H B)|2≤tr(A H A)﹒tr(B H B)这里等号成立的充要条件是A=cB,c为一常数。
第一章 非线性方程和方程组的数值解法 1)二分法的基本原理,误差:~12k b ax α+--<2)迭代法收敛阶:1lim0i pi ic εε+→∞=≠,若1p =则要求01c <<3)单点迭代收敛定理:定理一:若当[],x a b ∈时,[](),x a b ϕ∈且'()1x l ϕ≤<,[],x a b ∀∈,则迭代格式收敛于唯一的根;定理二:设()x ϕ满足:①[],x a b ∈时,[](),x a b ϕ∈, ②[]121212,,, ()(),01x x a b x x l x x l ϕϕ∀∈-≤-<<有 则对任意初值[]0,x a b ∈迭代收敛,且:110111i i iii x x x ll x x x lαα+-≤---≤--定理三:设()x ϕ在α的邻域内具有连续的一阶导数,且'()1ϕα<,则迭代格式具有局部收敛性;定理四:假设()x ϕ在根α的邻域内充分可导,则迭代格式1()i i x x ϕ+=是P 阶收敛的 ()()()0,1,,1,()0j P j P ϕαϕα==-≠L (Taylor 展开证明)4)Newton 迭代法:1'()()i i i i f x x x f x +=-,平方收敛 5)Newton 迭代法收敛定理:设()f x 在有根区间[],a b 上有二阶导数,且满足: ①:()()0f a f b <; ②:[]'()0,,f x x a b ≠∈;③:[]'',,f x a b ∈不变号④:初值[]0,x a b ∈使得''()()0f x f x <;则Newton 迭代法收敛于根α。
6)多点迭代法:1111111()()()()()()()()()i i i i i i i i i i i i i i i f x f x f x x x x x f x f x f x f x f x f x x x -+-----=-=+----收敛阶:P =7)Newton 迭代法求重根(收敛仍为线性收敛),对Newton 法进行修改 ①:已知根的重数r ,1'()()i i i i f x x x rf x +=-(平方收敛) ②:未知根的重数:1''()(),()()()i i i i u x f x x x u x u x f x +=-=,α为()f x 的重根,则α为()u x 的单根。
矩阵条件数
矩阵条件数是应用数值分析中经常使用的概念,它是描述矩阵稳定性的一个量,被认为是对矩阵解法的一个重要指标。
矩阵条件数有两种定义,分别为1范数条件数和2范数条件数,都通常用来衡量矩阵求解的精确度,得到的条件数越小,表明求解的精度越高,矩阵稳定性也就越好。
1范数条件数是一个算术表达式,用来评估矩阵的稳定性。
它反映了矩阵解法求解过程中,推导式的数值误差的变化情况,即在不影响本质结果的条件下,系数矩阵A的扰动,会对最终解向量x的变化产生多大的影响。
简而言之,矩阵的1范数条件数可以用来衡量矩阵求解的精确度。
2范数条件数也是一个算术表达式,用来评估矩阵的稳定性。
它反映了矩阵求解过程中,解向量x的数值误差变化的情况,即在不影响本质结果的条件下,解向量x的扰动,会对系数矩阵A的变化产生多大的影响。
简而言之,矩阵的2范数条件数可以用来衡量解向量x 的精确度。
矩阵条件数的计算主要是通过计算矩阵A的特征值来实现的,一般情况下,特征值最大的与特征值最小的比值的绝对值就是矩阵条件数。
由于矩阵条件数直接反映了矩阵求解的准确性,所以在实际使用中也会通过调整特征值的大小来减小条件数,从而提高解法的精确性。
- 1 -。
数值分析向量矩阵范数矩阵的条件数数值分析是研究数值计算方法的一门学科,主要研究如何在计算机上对数学问题进行数值计算。
在数值分析中,向量和矩阵是常用的数学工具,而范数和条件数则是评估向量和矩阵性质的指标。
向量是一个有方向和大小的量,通常用一维数组来表示。
在数值分析中,我们常常需要计算向量的范数,即向量的大小。
向量的范数有多种定义方法,常用的有1-范数、2-范数和无穷范数。
1-范数是向量的所有元素的绝对值之和。
对于n维向量x=(x1,x2, ..., xn),它的1-范数定义为,x,1 = ,x1, + ,x2, + ... + ,xn。
2-范数是向量的所有元素平方和的平方根。
对于n维向量x=(x1,x2, ..., xn),它的2-范数定义为,x,2 = √(x1^2 + x2^2 + ... +xn^2)。
无穷范数是向量绝对值的最大值。
对于n维向量x=(x1, x2, ..., xn),它的无穷范数定义为,x,∞ = max(,x1,, ,x2,, ..., ,xn,)。
矩阵是一个二维数组,数值分析中常用矩阵进行线性代数的计算。
矩阵范数是对矩阵性质的度量,它可以看作是矩阵中元素的其中一种“大小”。
矩阵的范数有多种定义方法,常用的有1-范数、2-范数和无穷范数,与向量的定义类似。
矩阵的条件数是衡量矩阵相对于其逆矩阵的敏感度的度量。
一个矩阵的条件数越大,表示它的逆矩阵对输入误差的敏感度越高,计算的结果可能越不稳定。
在数值计算中,经常需要考虑矩阵的条件数,尽可能选择条件数较小的矩阵进行计算,以提高计算的稳定性和精确性。
总之,向量和矩阵是数值计算中常用的数学工具,而范数和条件数则是评估向量和矩阵性质的指标。
正确理解和应用这些概念,对于进行准确和稳定的数值计算具有重要的意义。
矩阵的条件数
矩阵的条件数是数值计算中一种常见的概念,它用来反映矩阵系统的稳定性或敏感性。
它的定义是指系统的解的小变化对于系统的输入的大变化的响应比,它可以用来表征矩阵在求解过程中的稳定性。
简单地说,矩阵的条件数是矩阵非奇异性的度量,又称为范数比,表示矩阵在求解过程中的稳定性。
一般来说,矩阵的条件数越大,说明矩阵系统越不稳定。
一般来说,矩阵的条件数越大,说明矩阵在解的求取中越不精确,系统也可能不稳定,这样解就可能收到小变化的影响,变化很大。
但是,矩阵的条件数不仅只是反映系统稳定性,它还有很多实用的功能。
比如,矩阵的条件数可以用来判断求解线性方程组的方法是否可靠。
它也可以用来判断线性方程组的解是否唯一。
例如,如果方程组的条件数大于一定的值,则方程组的解可能不是唯一的。
此外,也可以用条件数来判断矩阵的奇异性,一般来说,矩阵的奇异性越大,它的条件数也越大。
因此,可以通过计算矩阵的条件数来判断矩阵的奇异性。
矩阵条件数也可以用来求解一般矩阵分解问题,此时可以利用矩阵的条件数来判断矩阵分解的结果是否精确,结果也是否稳定。
简而言之,矩阵的条件数是一个极其重要的概念,它可以用来表征矩阵的稳定性,它也能用来判断求解线性方程组的方法是否可靠,它还可用来求解一般的矩阵分解问题。
因此,矩阵的条件数在实际工程中有着广泛的应用。
§8 向量,矩阵范数,矩阵的条件数一 、 向量、矩阵范数为了讨论线性方程组近似解的误差估计与研究解方程组迭代法的收敛性,需要在)(nn nRR ⨯或中引进向量序列(或矩阵序列)极限概念。
为此,这就需要对量空间n R (或n n R ⨯矩阵空间)元素的“大小”引进某种度量即向量范数(或矩阵范数)即距离的概念。
(一)向量范数:向量范数是3R 中向量长度概念的推广。
},{1为复数i n nx x x x x C ⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡== 称为n 维复向量空间。
},)({为复数ij n n ij n n a a A A C ⨯⨯==称为n n ⨯复矩阵空间。
(2)设nn nCA C x ⨯∈∈,,称T n Hx x x x=≡),,(1 为x 的共轭转置,T H A A =称为A 共轭转置矩阵。
在许多应用中,对向量的范数(对向量的“大小”的度量)都要求满足正定条件,齐次条件和三角不等式,下面给出向量范数的抽象定义。
nR x ∈(或nC x ∈)的某个实值非负函数x x N ≡)(,如果满足下述条件(1)正定性 00,0=⇒⇐=≥x x x (2)齐次性 x ax α=其中R ∈α(或C ∈α)(3)三角不等式 )(,,nn C R y x y x y x ∈∈∀+≤+或,称x x N ≡)(是n R 上(或n C )一个向量范数(或为模)。
由三角不等式可推出不等式 (4)y x y x -≤- 下面给出矩阵计算中一些常用向量范数。
设)(),,(1nn T n C x R x x x ∈∈=或(1)向量的“∞”范数 i n i x x x N ≤≤∞∞=≡1max )((2)向量的“1”范数 ∑==≡ni i x xx N 111)((3)向量的“2”范数 2/1122/122)(),()(∑===≡ni i x x x xx N(4)向量的能量范数 设n n R A ⨯∈为对称正定阵2/1),()(x Ax xx N R x AA n =≡→∈∀称为向量的能量范数。
设n R x ∈(或n C x ∈),则)(),(),(12x N x N x N ∞是nR 上(或n C )的向量范数。
证明 只验证三角不等式:对任意nR y x ∈,,则222y x y x +≤+利用哥西不等式:22),(y xy x ≤,则有),(22y x y x yx ++=+),(),(2),(y y y x x x ++= 2222222yy xx ++≤222))(y x +=对任何nR y x ∈,则 (1) ∞∞≤≤x n x x2(2) 212x n x x ≤≤(3) ∞∞≤≤x n x x1证 只证(1)。
记j i ni n x x x x x x ==⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡=≤≤∞11max ,于是有(a)∑=∞=≤=ni ijx x x x122222(b) ∑∑=∞===≤=ni jjni ixn x n x x x12221222(二)向量序列的极限}{)(k x及向量*x 且记Tn T k n k k x x x x x x ),,(,),,(1)()(1)(***==如果2n 个数列收敛,即 ),,1(lim )(n i x x i k ik ==*∞→则称}{)(k x收敛于*x ,记*∞→=x x k k )(lim ,或说向量序列的收敛是)(k x 分量收敛到*x 对应分量。
),,2,1(102102)(n k xk k k =⎪⎪⎭⎫ ⎝⎛-+=--显然,有⎪⎪⎭⎫ ⎝⎛=∞→22lim )(k k x 设nR y x ∈,,称非负实数y x y x d -≡),(为y x ,之间距离,其中⋅为向量的任何一种意义下范数。
设}{)(k x为n R 中一向量序列,且n R x ∈,则⇒⇐=∞→ x x k k )(lim 是0)(→-vk x x (当∞→k )其中v⋅为向量的任一范数。
证明 只对2,=∞=v v 证明。
显然有),,1(0lim lim )()(n i x x x x i k i k k k ==-⇒⇐=∞→∞→)(0lim )(1∞→→-⇒⇐≤≤k x x i k i ni 当)(0)(∞→→-⇒⇐∞k xx k 当又由范数的等价性定理有:∞∞-≤-≤-x x n xx xx k k k )(2)()(于是 )(0)(02)()(∞→→-⇒⇐∞→→-∞k x x k xxk k 当(三)矩阵的范数一个n n ⨯矩阵A 可看作2n 维向量空间中一个向量,于是由nnR 上向量“2”范数,可以引进n n R⨯中矩阵的一种范数。
∑==≡Nj i ij Fa AA F 1,2/12)()(称为A 的 Frobenius 范数。
nn RA ⨯∈的某个非负实值函数A A N ≡)(,如果满足下述条件:(1)正定性:00,0=⇒⇐=≥A A A 是且 (2)齐次性:R A A ∈=ααα,(3)三角不等式:B A B A +≤+则称)(A N 是n n R ⨯上的一个矩阵范数(或模)。
由于在许多应用问题中,矩阵和向量是相联系的,现引进一种矩阵的算子范数。
它是由向量范数诱导出来的并且这种矩阵范数和向量范数是相容的,即nn nRA R x ⨯∈∈∀,nn nR A R x ⨯∈∈,且设有一种向量范数vx相应的定义一个矩阵的非负函数vvR x x v xAx A A N n∈≠=≡0max)((最大比值),称)(A N 为矩阵A 的算子范数。
设v x 是n R 上的向量范数,则v A A N ≡)(是n n R ⨯上一个范数且满足相容条件: (1) v v v x A Ax ≤(2) ),(nn v v v R B A B A AB ⨯∈∀≤证明 由v A A N ≡)(定义,可知有v vv A xAx ≤ 或),(,n n n v v v R x R A x A Ax ∈∈∀≤⨯下面验证三角不等式:v v vB A B A +≤+由定义 vvx Rx vxxB A BA n)(max 0+=+≠∈由于v v v Bx Ax x B A +≤+)(v v v v x B x A +≤v v v x B A )(+=或)0(,)(≠∈∀+≤+x R x B A xxB A n v v vv且故v v vB A BA +≤+nn nR A R x ⨯∈∈,,则称为A 的行范数)称为A 的列范数)称为A 的“2”范数)其中)(max A A T λ为A A T最大特征值。
证明 证(1):记`1),,(T n x x x =,t x xi ni ==≤≤∞1max∑∑==≤≤≤≤==n j nj j i ij ni n i a a 1011)1(max 0其中μ于是j nj ij ni n j j ij ni x a x a Ax∑∑=≤≤=≤≤∞≤=1111max max∑==≤nj ijit at 1maxμ说明,对任何向量0≠x ,则有μ≤∞∞xAx (a) 如果能找到一向量0x 且10=∞x 使μ≤∞∞00x Ax 那末,定理得证。
下面来寻求0x 使比值等于μ,记Tn x x x x ),,,(210 =且使10=∞x于是,T nj n j nj j nj j j i j jx a x a x aAx ),,,,(111100∑∑∑====且由(a)式有 μ≤∞Ax由此,应选取0x 为:⎪⎩⎪⎨⎧<-≥=0,10,100j i j i j a a x 当当则10=∞x 及∑∑====n j nj j i j j i a x a 1100μ或μ=∞Ax故μ=∞∞≠xAx x 0max证(3):由于A A T 为对称半正定矩阵,则A A T 特征值为非负,即记A A T 特征值为),,1,1(n i i =λ,则有021≥≥≥≥n λλλ且有ni i u 1}{=满足),,2,1(,n i u Au A i i i T ==λ,ij j i u u δ=),(考查比值:nR x ∈∀且0≠x ,于是∑==ni ii ua x 1),(),(),(),(2222x x x Ax A x x Ax Ax xAx T==∑∑∑====ni ini ni i i i i i u u 1211),(ααλα11212λαλα≤=∑∑==n i ini ii说明,对任何非零向量nR x ∈,则有122λ≤xAx另一方面,取1u x =则有111111221221),(),(λλ==u u u u u Au故)(max 2A A AT λ=nn RA ⨯∈,则(1)∞∞≤≤A n A A n21;(2)∞∞≤≤A n A A n11n n R A ⨯∈的特征值为),,1(n i i =λ,称i ni A λρ≤≤≡1max )(为A 的谱半径。
(1)设n n R A ⨯∈,则A A ≤)(ρ,其中A 为满足矩阵,向量相容性条件的矩阵范数。
(2)设n n R A ⨯∈为对称矩阵,则)(2A A ρ=。
证明 只证(1)。
设λ为A 的任一特征值,于是,存在0≠x 使x Ax λ= 且Ax x x ==λλ x A ≤即A A x ≤≤)(ρλ或⋅为矩阵的算子范数,且1<B ,则B I ±为非奇异矩阵,且有估计BB I -≤±-11)(1证明 1)反证法。
设B I -为奇异阵,则0)(=-x B I 有非零解记为0x ,即00x Bx = 于是,100=x Bx 由此,有1≥B ,这与假设矛盾。
2)由I B I B I =---1))((即得 11)()(---+=-B I B I B I从而11)()(---+≤-B I B I B I BB I -≤-∴-11)(1二 、 矩阵的条件数、病态方程组直接法的误差原因:1.算法及舍入原因2.方程组本身固有的问题要分析方程组的状态并估计算法的误差(原始数据扰动对解的影响)——量度:矩阵的条件数a=[1 1;1 1.0001];b=[2,2]';a\b对右端项作微小变化(小扰动):⎥⎦⎤⎢⎣⎡=⎥⎦⎤⎢⎣⎡⎥⎦⎤⎢⎣⎡0001.220001.111121x x 其中⎥⎦⎤⎢⎣⎡=0001.00b δa=[1 1;1 1.0001];b=[2,2.0001]';a\b显然有,⎥⎦⎤⎢⎣⎡-=⎥⎦⎤⎢⎣⎡=+11,11x x x δδ0186.0101213001.020152=⨯⨯≤∞*∞xx δ【说明】右端常数项的相对误差4105.020001.0-∞∞⨯==bbδ 而引起解的相对误差5.021==∞*∞x xδ常数项的微小误差引起解的相对误差较大,扩大了410-倍,也就是说,此方程组解对方程组的数据A,b 非常敏感,这样的方程组就是病态方程组.设线性方程组为Ax=b (1)其中A ∈R n ×n ,x,b ∈R n 且A 非奇异。