23矩阵的条件数与病态方程组讲解
- 格式:ppt
- 大小:436.50 KB
- 文档页数:27
病态矩阵
病态矩阵的最根本的特征:病态矩阵的条件数(||A||*||A^(-1)||定义为A 的条件数,||A||为A的范数,MATLAB中范数的求法c = cond(A,p),p为几范数,默认情况下为二范数)很大(可以用机器精度的一半来衡量,比如双精度浮点数的精度大约是10^(-16),那么条件数大于10^8就算比较坏了.),即最大特征值与最小特征值的比值很大。
病态矩阵对扰动特别敏感。
病态矩阵矩阵不能求逆。
例如,有一个变量是其他三个变量之和,这个变量也存在于模型中,这个矩阵就是病态矩阵。
解决方法:
1.利用正则化方法可以解决这一问题
最经典的正则化方法就是Tikhonov正则化,另外一种方法就是Total Variation
2.奇异值分解
将病态矩阵分解为A=SVD
3.模拟退火算法
/view/3a75ad82bceb19e8b8f6baad.html#opennewwindow
4./link?url=ripw0P7tMkcEl2x5zmkOJ-_iDFdfOLQ0Ox9ao cKY3sAJMFXEBQa__Yq6OVb3R41__nvgiWEQhA0bxXWzZzpQiFH7_IlNWlvqyrkKjLqvQ qC。
§8 向量,矩阵范数,矩阵的条件数一 、 向量、矩阵范数为了讨论线性方程组近似解的误差估计与研究解方程组迭代法的收敛性,需要在)(nn nRR ⨯或中引进向量序列(或矩阵序列)极限概念。
为此,这就需要对量空间n R (或n n R ⨯矩阵空间)元素的“大小”引进某种度量即向量范数(或矩阵范数)即距离的概念。
(一)向量范数:向量范数是3R 中向量长度概念的推广。
},{1为复数i n nx x x x x C ⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡== 称为n 维复向量空间。
},)({为复数ij n n ij n n a a A A C ⨯⨯==称为n n ⨯复矩阵空间。
(2)设nn nCA C x ⨯∈∈,,称T n Hx x x x=≡),,(1 为x 的共轭转置,T H A A =称为A 共轭转置矩阵。
在许多应用中,对向量的范数(对向量的“大小”的度量)都要求满足正定条件,齐次条件和三角不等式,下面给出向量范数的抽象定义。
nR x ∈(或nC x ∈)的某个实值非负函数x x N ≡)(,如果满足下述条件(1)正定性 00,0=⇒⇐=≥x x x (2)齐次性 x ax α=其中R ∈α(或C ∈α)(3)三角不等式 )(,,nn C R y x y x y x ∈∈∀+≤+或,称x x N ≡)(是n R 上(或n C )一个向量范数(或为模)。
由三角不等式可推出不等式 (4)y x y x -≤- 下面给出矩阵计算中一些常用向量范数。
设)(),,(1nn T n C x R x x x ∈∈=或(1)向量的“∞”范数 i n i x x x N ≤≤∞∞=≡1max )((2)向量的“1”范数 ∑==≡ni i x xx N 111)((3)向量的“2”范数 2/1122/122)(),()(∑===≡ni i x x x xx N(4)向量的能量范数 设n n R A ⨯∈为对称正定阵2/1),()(x Ax xx N R x AA n =≡→∈∀称为向量的能量范数。
谈谈矩阵条件数及其几种计算方法摘要:矩阵条件数在数值分析领域中有重要作用,特别是在线郑治波性方程组和矩阵特征值扰动分析中有广泛的应用,条件数的大小就决定了方程组解的相对误差的大小,用条件数来判断方程组的解对于误差的敏感度是很有用的,它反映了方程组的状态。
关键词:矩阵条件数估计在生产实践和企业管理等实际问题中,经常会碰到许多大型线性方程组的求解问题,其系数阵a总是以抽样统计数据或以实验数据为基础。
统计技术的高低,实验仪器分辨率的高低等等都将给数据带来误差,而这种不可避免的误差,有时甚至是微小的变动也会引起解的极大波动,这时就称系数阵为“病态矩阵”。
对于这种“病态矩阵”一般的算法很难得出理想的结果。
我们知道,算法对误差的传播和积累有很大影响,为了减少这种影响,算法的选取是很重要的,这就是通常所说的算法的稳定性问题。
另一方面,方程组本身对计算中误差的积累也起着极其重要的作用,系数阵a的条件的好坏至关重要,如果问题是病态的,那么即使选择良好的计算方法,也不能指望有好的结果出现,因此判别原始方程组是否病态是十分重要的。
怎样有效地判别矩阵是否为病态矩阵?近几十年国内外许多从事计算数学的学者都在进行摸索研究,得知“条件数”与矩阵病态有密切关系。
“条件数”这一名词在上世纪五十年代初出现,主要用来衡量矩阵的病态程度,条件数越小,则矩阵的非奇异程度越高,称矩阵是良态的;条件数越大,则矩阵的非奇异程度越差,称矩阵为病态的。
另外,在数值分析中,常常要讨论矩阵扰动对一个给定矩阵的特征值的影响,条件数可以衡量矩阵的特征值经过扰动的偏离度,也是衡量矩阵a关于特征值问题是否良态的重要标志。
然而由于矩阵的阶数较大时,的计算量大导致应用定义计算矩阵条件数十分困难,因此,矩阵条件数的估计对研究各种矩阵问题有着重要意义。
1.条件数的提出(1)线性方程组的条件数考虑线性方程组的求解,其中用精确的计算求解得:若对常数列加入的摄动量,即考虑,所得解与之差是 .显然,对方程组的右端向量只不过改变了,而解却相差1806 .又如,设,,,由计算可知方程组和方程组的解分别为和 .由此可见,系数矩阵只产生的误差而解却产生300000 的误差。
数值分析(Hilbert矩阵)病态线性⽅程组的求解Matlab程序(Hilbert 矩阵)病态线性⽅程组的求解理论分析表明,数值求解病态线性⽅程组很困难。
考虑求解如下的线性⽅程组的求解Hx = b ,期中H 是Hilbert 矩阵,()ij n n H h ?=,11ij h i j = +-,i ,j = 1,2,…,n 1. 估计矩阵的2条件数和阶数的关系2. 对不同的n ,取(1,1,,1)n x =∈,分别⽤Gauss 消去,Jacobi 迭代,Gauss-seidel 迭代,SOR 迭代和共轭梯度法求解,⽐较结果。
3. 结合计算结果,试讨论病态线性⽅程组的求解。
第1⼩题:condition.m %第1⼩题程序t1=20;%阶数n=20x1=1:t1;y1=1:t1;for i=1:t1H=hilb(i);y1(i)=log(cond(H));endplot(x1,y1);xlabel('阶数n');ylabel('2-条件数的对数(log(cond(H))');title('2-条件数的对数(log(cond(H))与阶数n 的关系图');t2=200;%阶数n=200x2=1:t2;y2=1:t2;for i=1:t2H=hilb(i);y2(i)=log(cond(H));endplot(x2,y2);xlabel('阶数n');ylabel('2-条件数的对数(log(cond(H))');title('2-条件数的对数(log(cond(H))与阶数n 的关系图');画出Hilbert 矩阵2-条件数的对数和阶数的关系n=200时n=20时从图中可以看出,1)在n⼩于等于13之前,图像近似直线log(cond(H))~1.519n-1.8332)在n⼤于13之后,图像趋于平缓,并在⼀定范围内上下波动,同时随着n的增加稍有上升的趋势第2⼩题:solve.m%m第2⼩题主程序N=4000;。
范德蒙矩阵形式下的病态线性方程组求解Wang Hui-rong;Jia Wu-yan【摘要】文章以范德蒙德矩阵为例,运用Matlab软件分析其阶数与2-条件数的关系,得出随着其阶数的增加,2-条件数越来越大,病态程度也越来越严重.然后选用单参数迭代法和新主元加权迭代法分别对以系数矩阵是范德蒙德矩阵的病态线性方程组进行求解,从数值结果可以看出,选取适当的加权因子对求解此病态线性方程组同样有较好的精度和收敛速度.【期刊名称】《长治学院学报》【年(卷),期】2019(036)002【总页数】3页(P3-5)【关键词】病态线性方程组;范德蒙矩阵;单参数迭代法;新主元加权迭代法【作者】Wang Hui-rong;Jia Wu-yan【作者单位】;【正文语种】中文【中图分类】O241在许多科学和工程领域中,常常会遇到求解线性方程组的问题,而方程组解的准确性则由其性态所决定。
病态线性方程组是在计算过程中经常要遇到的问题,因其系数矩阵的条件数很大,故会使得解严重失真。
近年来,求解病态线性方程组的新算法不断推出,文献[1]采用了正则化方法求解病态方程组,文献[2]提出了病态问题的增广方程组法,文献[3]给出了精细积分解法等,并给出了一些数值例子来说明有较好的效果。
但这些算法中选取的数值例子比较单一,大多数都以Hilbert矩阵为例来研究病态线性方程组,而针对系数矩阵为范德蒙德矩阵的研究相对较少。
文章选取以系数矩阵为范德蒙德矩阵的病态线性方程组,借鉴文献[4]提供的单参数迭代法和文献[5]中的新主元加权迭代法,对病态线性方程组进行分析求解。
结果表明选取的迭代方法切实可行,对分析此病态线性方程组有很大帮助。
1 范德蒙德矩阵的病态性分析选取n阶的范德蒙德矩阵如下:估计其阶数与2-条件数的关系,分析其病态性。
表1 阶数n与条件数阶数n c o n d 2(A)5 2.6 1 7 0 e+0 0 4 6 7.3 1 2 0 e+0 0 5 7 2.4 4 5 9 e+0 0 7 8 9.5 2 1 1 e+0 0 8 9 4.2 2 6 1 e+0 1 0 1 0 2.1 0 6 3e+0 1 2 1 1 1.1 6 4 5 e+0 1 4 1 2 7.0 7 1 9 e+0 1 5 1 3 4.6 7 9 7 e+0 1 7 1 4 3.3 5 1 4 e+0 1 9 1 5 2.5 8 2 4 e+0 2 1 1 6 2.1 3 0 4 e+0 2 3由表1的数据可知,随着范德蒙德矩阵阶数的增加,其2-条件数也越来越大,病态性也越来越严重参见文献[6-7]。
矩阵的范数范数的定义若X是数域K上的线性空间,泛函║·║: X->R 满足:1. 正定性:║x║≥0,且║x║=0 <=> x=0;2. 正齐次性:║AB║│≤│A║B║;3. 次可加性(三角不等式):║A+B║≤║A║+║B║。
那么║·║称为X上的一个范数。
(注意到║x+y║≤║x║+║y║中如令y=-x,再利用║-x║=║x║可以得到║x║≥0,即║x║≥0在定义中不是必要的。
)在AX=B式中,当A、B有微小扰动时,参数估值X也有扰动:(A+ΔA)(X+ΔX)=B+ΔB (1)AΔX=ΔA(X+ΔX)+ΔBΔX=-A-1ΔA(X+ΔX)+A-1ΔB将上式两端取范数,并应用向量范数的三角不等式║AB║│≤│A║B║;║A+B║≤║A║+║B║。
||ΔX||≤||A-1||||ΔA||(||X|| +||ΔX||)+||A-1| ||ΔB|| 把含有ΔX的项移到式子的左边有:(1-||A-1||||ΔA||)||ΔX||≤||A-1||||ΔA|| ||X||+||A-1| ||ΔB||由于有||X||≤||A||/||B||将上式两端同时乘以||X||得:(1-||A-1||||ΔA||)||ΔX||/||X||≤||A-1||||ΔA|| +||A-1||||ΔB||A||/||B||;设K=||A||||A-||将上式整理的:(1-K||ΔA||/||A||)||ΔX||/||X||≤K(||ΔA||/||A||+||ΔB||/||B||);即有:||ΔX||/||X||≤k/(1-K||ΔA||/||A||)(||ΔA||/||A||+||ΔB||/||B||); 问题与实验1:试从几何的角度解释矩阵出现病态的原因,并用‘有说服力’的例子来支持你的观点;线性方程组解的敏感性的几何解释(2x2矩阵)线性方程组求解:两直线求交点下面两图分别反映了良态问题和病态问题两种情况。