数值分析-线性方程组的直接解法

数值分析第三章线性方程组解法在数值分析中，线性方程组解法是一个重要的主题。

线性方程组是由一组线性方程组成的方程组，其中未知数的次数只为一次。

线性方程组的解法包括直接解法和迭代解法两种方法。

一、直接解法1.1矩阵消元法矩阵消元法是求解线性方程组的一种常用方法。

这种方法将方程组转化为上三角矩阵，然后通过回代求解得到方程组的解。

1.2LU分解法LU分解法是将系数矩阵A分解为一个下三角矩阵L和一个上三角矩阵U的乘积，然后通过解两个三角方程组求解线性方程组。

这种方法可以减少计算量，提高计算效率。

1.3 Cholesky分解法Cholesky分解法是对称正定矩阵进行分解的一种方法。

它将系数矩阵A分解为一个下三角矩阵L和它的转置的乘积，然后通过解两个三角方程组求解线性方程组。

Cholesky分解法适用于对称正定矩阵的求解，具有较高的精度和稳定性。

二、迭代解法2.1 Jacobi迭代法Jacobi迭代法是一种迭代求解线性方程组的方法。

它通过分解系数矩阵A为一个对角矩阵D和一个余项矩阵R，然后通过迭代更新未知数的值，直至达到一定精度要求为止。

Jacobi迭代法简单易懂，容易实现，但收敛速度较慢。

2.2 Gauss-Seidel迭代法Gauss-Seidel迭代法是一种改进的Jacobi迭代法。

它通过使用新计算出的未知数值代替旧的未知数值，达到加快收敛速度的目的。

Gauss-Seidel迭代法是一种逐步逼近法，每次更新的未知数值都会被用于下一次的计算，因此收敛速度较快。

2.3SOR迭代法SOR迭代法是一种相对于Jacobi和Gauss-Seidel迭代法更加快速的方法。

它引入了一个松弛因子，可以根据迭代的结果动态地调整未知数的值。

SOR迭代法在理论上可以收敛到线性方程组的解，而且收敛速度相对较快。

三、总结线性方程组解法是数值分析中的一个重要内容。

直接解法包括矩阵消元法、LU分解法和Cholesky分解法，可以得到线性方程组的精确解。

第五章 线性代数方程组的数值解法线性方程求解问题是科学研究和工程计算中最常见的问题。

如电学中的网络问题、工程力学中求解连续力学体（微分方程）问题的差分方法、有限元法、边界元法及函数的样条插值、最小二乘拟合等，都包含了解线性方程组问题。

因此，线性方程组的解法在数值计算中占有极其重要的地位。

对于n 阶线性方程组=Ax b ，若det()0≠A ，则方程组有惟一解。

由克莱姆（Cramer ）法则，其解为det() (1,2,,)det()i i A x i n A ==,其中i A 为用向量b 代替A 中第i 列向量所得矩阵。

每个n 阶行列式共有!n 项，每项都有n 个因子，所以计算一个n 阶行列式需做(1)!n n -⨯次乘法，我们共需要计算1n +个行列式，要计算出i x ，还要做n 次除法，因此用Cramer 法则求解要做2(1)!n n n -⨯+次乘除法（不计加减法），计算量十分惊人。

如30n =时，就需作约352.3810⨯次乘法。

可见Cramer 法则在理论上是绝对正确的，但当n 较大时，在实际计算中却是不可行的。

因此寻求有效的数值计算方法就成为非常必要的课题。

线性方程组的类型很多，若按其系数矩阵阶数的高低和含零元素多少，大致可分为两类：一类是低阶稠密线性方程组，即系数矩阵阶数不高，含零元素很少。

另一类是高阶稀疏线性方程组，即系数矩阵阶数高，零元素占绝对优势（比如占70%以上）。

线性方程组的数值解法也可分为两大类：直接法和迭代法。

直接法是在没有舍入误差的情况下，通过有限步运算可以得到方程组精确解的方法。

但是，在实际计算时，由于初始数据变为机器数而产生的误差以及计算过程中所产生的舍入误差等都要对解的精确度产生影响，因此直接法实际上也只能算出方程真解的近似值。

常用的有效算法是Gauss 消去法和矩阵的三角分解法。

迭代法是用某种极限过程去逼近准确解的方法。

如对任意给定的初始近似解向量(0)x ，按照某种方法逐步生成近似解序列(0)(1)(),,,,,k x x x使极限()*lim k k →∞=x x 为方程组的解。

因‖R０‖＜１，故lim‖R０‖k→∞２k＝０．则２k‖Rk‖≤‖R０‖→０（k→∞），－１即Rk→０（k→∞）．Rk＝I－ACk，故当Rk→０时，Ck→A．四、习题１畅用Gauss消去法解方程组２x１＋x２＋x３＝４，３x１＋x２＋２x３＝６，x１＋２x２＋２x３＝５．２畅（１）设A是对称矩阵且a１１≠０，经过Gauss消去法一步后，A约化为a１１０证明A２是对称矩阵．（２）用Gauss消去法解对称方程组０畅６４２８x１＋０畅３４７５x２－０畅８４６８x３＝０畅４１２７，０畅３４７５x１＋１畅８４２３x２＋０畅４７５９x３＝１畅７３２１，－０畅８４６８x１＋０畅４７５９x２＋１畅２１４７x３＝－０畅８６．３畅（１）用表达式（７畅４）证明其中aij＝aij．（１）a１TA２．aij＝aij－li１a１j－li２a２j－…－li，k－１ak－１，j，i，j≥k，（k）（１）（１）（２）（k－１）（r）（２）使Gauss消去法中arj＝urj（j≥r），利用（１）证明urj＝arj－k∑lrkukj（j＝r，r＋１，…，n），＝１lir＝（air－k∑likukr）／urr（i＝r＋１，…，n）．＝１４畅设方程组x１＋２x２＋３x３＝１，５x１＋４x２＋１０x３＝０，３x１－０．１x２＋x３＝２．r－１r－１３１８（１）试用Gauss全主元消去法求解．（２）试用Gauss列主元消去法求解．５畅设A为n阶非奇异矩阵且有分解式A＝LU，其中L为单位下三角阵，U为上三角阵，求证A的所有顺序主子式均不为零．２，…，n－１）时，则有６畅由Gauss消去法证明：当Δi≠０（i＝１，A＝LU，其中L为单位下三角阵，U为上三角阵．７畅设A为n阶矩阵，若｜aii｜＞j∑｜aij｜（i＝１，２，…，n），则称A＝１j≠in为对角优势矩阵．试证明：设A是对角优势矩阵，又设经过Gauss消去法一步后，A具有形式a１１０α１TA２，则A２是对角优势矩阵．且由此推断：对于对称的对角优势矩阵，用Gauss消去法和部分（列）主元Gauss 消去法可得到同样的结论．８畅设Lk为指标是k的初等下三角矩阵，即１筹Lk＝１mk＋１，k…mnk１筹１．（除第k列对角元下元素外，Lk与单位阵I相同）求证当i，j＞k时，L珟k＝IijLkIij也是一个指标为k的初等下三角矩阵，其中Iij 为初等排列矩阵．９畅试推导矩阵A的Crout分解的计算公式：A＝LU，其中L为下三角矩阵，U 为单位上三角矩阵．１０畅设UX＝b，其中U为三角矩阵．（１）就U为上及下三角矩阵推导一般的求解公式．（２）计算解三角形方程组UX＝b的乘除法次数．３１９（３）设U为非奇异矩阵，试推导求U３２３T－１的计算公式．１１畅用平方根法（Cholesky分解）解方程组２２０３５９１－２１０３０１２５９１７０１－２１－２A＝－４－６４１８２x１x２x３x１x２x３００１－２８－１６．－２０，b＝５＝３．７１０＝１６．３０１１０－１－１１２畅用LDL分解法解方程组３３５－２A＝１００１３畅用追赶法解三对角方程组AX＝b，其中．１４畅求矩阵A的LU分解，并利用分解结果计算A．１５畅下述矩阵能否分解为A＝LU，其中L为单位下三角矩阵，U为上三角矩阵．若能分解，那么分解是否唯一？１A＝２４２４６３７０．６０．１０．５０．３１３１２３１１１６２５１５６１５．４６１，B＝２１，C＝２１６畅设A＝F唱范数．１７畅求证：，计算A的行范数、列范数、２唱范数及（１）‖X‖∞≤‖X‖１≤n‖X‖∞，３２０（２）‖A‖F≤‖A‖２≤‖A‖F．n×n１８畅设P∈R范数．定义且为非奇异矩阵，又设‖X‖为R上一向量‖X‖P＝‖PX‖．n试证明‖X‖P是R上向量的一种范数．１９畅设X∈R，X＝（x１，x２，…，xn），求证：p→∞nTn２０畅证明：当且仅当与Y线性相关且XY≥０时，才有Tlim（i∑｜xi｜＝１np）１＝１max｜xi｜＝‖X‖∞．≤i≤n‖X＋Y‖２＝‖X‖２＋‖Y‖２．２１畅设A∈Rn×n，求证特征值相等λ（AA）＝λ（AA）．TT２２畅证明：如果A＝（α１，α２，…，αn）是按列分块的，则‖A‖２F＝‖α１‖２＋‖α２‖２＋…＋‖αn‖２．２２２－１２３畅证明：如果‖B‖＜１，则‖I－（I－B）‖≤‖B‖．２４畅证明：对任何矩阵算子范数有‖I‖＝１（其中I是单位矩阵），‖A‖‖A－１‖≥１．nj≠i２５畅（１）如果A是对角优势矩阵，即｜aii｜＞j∑｜aij｜（i＝１，２，＝１…，n），证明aii≠０（i＝１，２，…，n）．（２）设A为对角优势矩阵，使A＝DB，其中D＝diag（aii），证明B＝I－C，其中‖C‖∞＜１，因此由定理（７畅１６），A是非奇异阵．（３）证明：如果应用Gauss消去法解对角优势方程组，则所有元素akk≠０．（k）２６畅设‖A‖s、‖A‖t为任意两种R明存在常数c１、c２＞０，使n×n上矩阵算子范数，证n×nc１‖A‖s≤‖A‖t≤c２‖A‖s（对一切A∈R）．３２１２７畅设A＝１００９９９９９８，计算A的条件数cond（A）ν（ν＝２，∞）．２８畅证明：如果A是正交阵，则Cond（A）２＝１．２９畅设A，B∈Rn×n且‖·‖为Rn×n上矩阵的算子范数，证明TT３０畅设A为对称正定矩阵，且其分解为A＝LDL＝WW，其中W＝L，求证：T１Cond（A·B）≤Cond（A）·Cond（B）．（１）cond（A）２＝（cond（W）２）．２（２）cond（A）２＝cond（W）２·cond（W）２．３１畅设对称正定矩阵A＝试计算‖A－１T２－１－１２，λ２，且找出b１‖２＝１／λ，‖A‖２＝λ２及cond２（A）＝（常数）及扰动δb，使‖δb‖２‖δX‖２＝cond２（A）．２２３２畅求下面两个方程组的解，并利用矩阵的条件数估计‖δX‖．２４０－１７９２４０－１７９畅５－３１９２４０２４０x１x２＝x１x２３４＝，即AX＝b，３４，即（A＋δA）（X＋δX）＝b．－３１９畅５３３畅已知Hilbert矩阵３２２１H３＝１１T１＝b时，若H３及b有微小误‖δX‖∞．∞７畅０００３－７T．（１）计算H３的条件数cond∞（H）．１１１３４７（２）解方程H３X＝差（取３位有效数字），估计解X的误差３４畅设A＝２畅０００１－２－１１，b＝，已知方程组AX＝b的精确解为X＝（３，－１）．（１）计算条件数cond∞（A）．计算剩余r＝b－AX珚．（２）若近似解X珚＝（２．９７，－１．０１），（３）利用定理７畅２０计算不等式右端，并与不等式左端比较，此结果说明什么？３５畅填空题（１）X＝（２，３，－４），则‖X‖１＝，‖X‖２＝，‖X‖∞TT＝．１－３２－１０２０１，则‖A‖１＝，ρ（A）＝．０－１则cond２（A）＝．２０a，为使A可分解为A＝LL，其中L为３２３T（２）A＝－１２－１１２（３）A＝（４）设A＝１０a２对角线元素为正的下三角形矩阵，a的取值范围，取a＝１，则L＝．五、习题解答１畅解为消去第２、３两个方程中的x１，取l２１＝，l３１＝．将第２个方程减去－l２１倍的第１个方程，第３个方程减去－l３１倍的第１个方程，得２x１＋x２＋x３－＝４，x２＋x３＝０，x２＋x３＝３．为消去第３个方程中的x２，取l３２＝－３．将第３个方程减去－l３２倍的第２个方程，得三角方程组２x１＋x２＋x３＝４，－１１x２＋x３＝０，３x３＝３．回代，算出方程组的解x３＝３／３＝１，x２＝０－１x３（１）－１＝１，x１＝（４－x２－x３）／２＝１．２畅解（１）记A＝（aij）＝（aij）．经Gauss消元一步后，A２的元素为a（２）ij（１）＝a（１）ij（１）i１（１）－a１j．１１（１）（１）（１）因A是对称的，所以有aij＝aji，ai１＝aj１，于是有３２４a故A２是对称的．（２）ij＝a（１）jij１（１）（２）－a１i＝aji．１１（１）（２）用Gauss消去法求解所给对称方程组，得X＝（４畅５８６０３５，－０畅６３１５２２８，２畅７３５１９９）．倡T ３畅解（１）因aij＝aij（k）（k－１）－li，k－１ak－１，j，（k－１）而故aij＝aij（k）（k－２）（１）aij（k－１）＝aij（k－２）－li，k－２ak－２，j，（k－２）（k－１）－li，k－２ak－２，j－li，k－１ak－１，j＝…（k－２）（１）（２）（k－２）（k－１）＝aij－li１a１j－li２a２j－…－li，k－２ak－２，j－li，k－１ak－１，j，i，j≥k．（２）由（１）有urj＝a又０＝air由此解出（r＋１）（r）rj＝arj－k∑lrkakj（j＝r，r＋１，…，n）．＝１（k）r－１＝air－li１u１r－li２u２r－…－lirurr．lir＝likukrair－k∑＝１rrr－１．４畅解（１）选主元为１０，将第一行与第二行交换，第１列与第３列交换，得１０x３＋４x２＋５x１＝０，３x３＋２x２＋x１＝１，x３－０．１x２＋３x１＝２．消去第２、３方程中的x３，得１０x３＋４x２＋５x１＝０，０畅８x２－０．５x１＝１，－０．５x２＋２．５x１＝１．第２次选的主元为２畅５．将上述第２个方程与第３个方程交３２５换，第２列与第３列交换，得１０x３＋５x１２畅５x１消去第３方程中的未知数x１，得１０x３＋５x１＋４x２＝０，２畅５x１－０．５x２＝２，０．７x２＝１．４．回代求得，x２＝２，x１＝１．２，x３＝－１．４．得（２）列主元为５，将第１行与第２行交换，再消去x１，５x１＋４x２＋１０x３＝０，１畅２x２＋x３＝１，－２．５x２－５x３＝２．列主元为－２．５，将第２行与第３行交换，再消去x２，得５x１＋４x２＋１０x３＝０，－２畅５x２－５x３回代求得x３＝－１．４，x２＝２，x１＝１．２．５畅证设A、L、U的k阶顺序主子矩阵分别为Ak、Lk、Uk（k＝１，２，…，n），显然Ak＝LkUk．由A＝LU分解的定义可知，L１U的各阶顺序主子式均不为零，即故det（Lk）＝１，det（Uk）≠０．det（Ak）＝det（Lk）det（Uk）≠０，k＝１，…，n，＝２，－１畅４x３＝１畅９６．＋４x２＝０，－０．５x２＝２，－０．５x１＋０．８x２＝１．即A的各阶顺序主子式均不为零．（i）６畅证因Δi≠０，（i＝１，２，…，n－１）（Δi是i阶顺序主子式），所以aii≠０（i＝１，２，…，n－１），则Gauss消去法可进行到底，即存３２６在指标为i的初等下三角阵Li，使Ln－１Ln－２…L１A＝U，故A＝L１其中L＝L１－１－１－１（２）－１…Ln－２Ln－１U＝LU，－１－１…Ln－２Ln－１为下单位三角阵，U是上三角阵．aij＝aij－（２）７畅证记A２＝（aij），则有i１a１j．１１nj≠in又A是对角优势矩阵，可知｜aii｜＞j∑｜aij｜，i＝１，２，…，n．故＝１∑｜a｜＝j∑j＝２＝２（２）ijj≠innnj≠ii１aij－a１j１１≤j∑｜aij｜＋j∑＝２＝２j≠i｜ai１｜｜a１j｜１１j≠in｜aij｜n∑｜a１j｜＝j∑｜aij｜－｜ai１｜＋＝１１１j＝２j≠ij≠i≤｜aii｜－＝｜aii｜－≤｜aii｜－≤aii－ni１（｜a１１｜－j∑｜a１j｜）＝２１１j≠ini１（｜a１１｜－j∑｜a１j｜＋｜a１i｜）＝２１１ni１｜a１i｜（｜a１１｜－j∑｜a１j｜＞０．）＝２１１i１（２）a１i＝｜aii｜（i＝２，…，n）．１１即A２也是对角优势矩阵．若A是对角优势矩阵，经Gauss消元一步后．A→A（２）＝a１１０αTA２．由上述证明及第２题结论知，A２仍是对角优势矩阵，即｜a｜＞j∑｜aij｜（i＝２，…，n）．＝２（２）ii（２）由对称性也有３２７｜a｜＞i∑｜a｜＝i∑｜aij｜，（j＝２，…，n）．＝２＝２（２）jj（２）ji（２）i≠ji≠jnn这正好与Gauss顺序消去而第二步消元前所选列主元应为a２２，（k）法的主元相同．以此类推第k次所选主元就是akk，所以用Gauss （２）顺序消去法和列主元消去法得到同样的结果．８畅证因１筹Lk＝１mk＋１，k…mnk０，１，０，…，０）．故ek＝（０，…，T第k列＝I－lkek．筹TT其中I是单位阵，lk＝（０，…，０，－mk＋１，k，…，－mik，…，－mn，k），L珟k＝IijLkIij＝Iij（I－lkek）Iij＝IijIIij－（Iijlk）（ekIij）＝I－lkek′TTT仍是指标为k的初等下三角阵，其中lk＝（０，…，０，－mk＋１，k，…，mjk，…，－mik，…，－mnk）．′T９畅解设A＝LU，即a１１a１２…a１na２１a２２…a２n…………an１an２…ann根据矩阵乘法，有ai１＝li１u１１＝li１，i＝１，…，n，a１j＝l１１u１j，得u１j＝３２８，j＝２，…，n．１１＝l１１l２１l２２……筹ln１ln２…lnn１u１２１…u２３筹……筹筹u１nu２n…un－１，n１．现设L的前k－１列与U的前k－１行已算好，因akk－１ik＝r∑＝１lirurk＝r∑＝１lirurk＋likukk（i＝k，…，n，ukk＝１），k－１所以lik＝aik－r∑＝１lirurk（i＝k，…，n）．同样akk－１kj＝r∑＝１lkrurj＝r∑＝１lkrurj＋lkkukj（j＝k＋１，…，n），k－１kj所以u－r∑＝１lkrurjkj＝akk，j＝k＋１，…，n．综上，Crout分解公式li１＝ai１，i＝１，２，…，n，u１j＝a１j／l１１，j＝２，…，n，lk－１ik＝aik－r∑＝１lirurk，i＝k，…，n，uk－１kj＝（akj－r∑＝１lkrurj）／lkk，j＝k＋１，…，n．１０畅解（１）设U为上三角阵，则有u１１……u１nx１b１u２２…u２nx２筹……＝b２…．unnxnbn由unnxn＝bn，得xn＝bn／unn．一般地，由uiixi＋ui，i＋１xi＋１＋…＋uinxn＝bi，得nxbi－j＝∑ijxji＝ui＋１ii（i＝n－１，n－２，…，１）．当U是下三角矩阵时，有３２９u１１u２１…un１u２２…un２筹…unnx１x２ (x)n＝b１b２…bn．由u１１x１＝b１，得x１＝b１／u１１．一般地，由ui１x１＋ui２x２＋…＋uiixi＝bi，i＝２，…，n，得xi＝（bi－j∑uijxj）／uii，i＝２，…，n．＝１（２）乘法次数，对固定的i有n－i次，i从１到n，所以总乘法次数R（n－i）＝i∑i＝R＝i∑＝１＝１除法次数D，D＝n．＋n故总的乘除法次数＝＋n＝．２nn－１i－１．（３）设Uu１１…筹－１＝V，这里V也是上三角阵，即u１n…unn v１１…筹v１n (v)nnj１＝UV＝１筹１．V按行计算，i＝n－１，…，１，vij＝－k＝i＋１∑uikvkjii，j＝i＋１，…，n．vii＝，i＝１，２，…，n．ii２２３＝２＞０，Δ３＝２３２２０３０１２＞０．１１畅解因系数矩阵顺序主子式Δ１＝３＞０，Δ２＝３２且系数矩阵对称，故为正定方程组．按照算法（７畅９）得３３０l１１＝，l２１＝２／，l３１＝，l２２＝则有３２３２２０３０１２由２／得再由２／y１＝－y１y２y３５＝３，７＝２／－２／－．，l３２＝－，l３３＝．５１１，y２＝－，y３＝．x１x２x３＝５／－１／，１／－得x３＝１１，x２＝，x１＝１．１２畅解此方程组的系数矩阵为对称正定矩阵，因此可用改进的平方根法，用算式（７畅１１）得到d１＝a１１＝３，t２１＝a２１＝３，l２１＝d２＝a２２－t２１l２１＝５－３＝２，t３２＝a３２－t３１l２１＝９－１＝８，l３２＝t２１３＝＝１，１３１５＝，１t３１＝a３１＝５，l３１＝３２８２＝＝４，d３＝a３３－t３１l３１－t３２l３２＝．２３３１１则A＝LDL＝T３１２１１１５／３２．１５／３２１２／３１由LY＝b，即１y１１０１１y２＝１６，５／３２１y３３０得y１＝１０，y２＝６，y３＝４／３．再解DLTX＝Y，得x３＝２，x２＝－１，x１＝１．１３畅解设－２１００１u１d１１－２１０l２１u２d２０１－２１＝l ３１u３００１－２l４１由分解公式（７畅１５）计算得d１＝１，d２＝１，d３＝１，u１＝－２，l２＝－１，u２＝－３，l３＝－２，u３＝－４，l４＝－３，u４＝－５．由公式（７畅１６）解１y１１－１１LY＝b＝痴y２１－２１y＝３０，－１y４－１得y１＝１，y２＝３，y３＝１，y４＝－１．再由公式（７畅１７）解３３２d３．u４－２UX＝Y痴１－x１１－４１－x２x３＝１３１，１－x４１３７６得x４＝，x３＝－，x２＝－，x１＝－．１４畅解由矩阵的三角分解公式（７畅６），计算得１－２４８A＝LU＝２１０１０－３２．３－１１００－７６１００－０．５０畅２－０畅１３６９－１－１L＝－２１０，U＝０畅１－０畅０４２１１．－５１１－０畅０１３１６所以－０畅２１５５０畅０６３１－０畅１３６９－１－１－１A＝UL＝０畅０１０５５０畅０５７８９－０畅０４２１１．０畅０６５３－０畅０１３１６－０畅０１３１６１５畅解设A能分解，则有１A＝LU＝l２１l３１０１l３２００１u１１００u１２u２２０u１３u３３u３３１＝２４２４６３１．７由分解公式（７畅６）知，u１１＝１，u１２＝２，u１３＝３，l２１＝２，l３１＝４，u２２＝０，而a３２＝l３２u２２＋l３１u１２＝０＋４×２＝８与a３２＝６矛盾，故A的LU分解不能进行．但A为非奇异阵，所以存在排列阵P，使PA＝LU．即将A的１行与２行交换，则可分解为LU．设B＝LU，则１２３１２３１１＝１１l２１l３１０１l３２００１u１１００u１２u２２０u１３u２３u３３３３３．由分解公式（７畅６）知，u１１＝u１２＝u１３＝１，l２１＝２，l３１＝３，u２２＝０．而由３＝l３１u１２＋l３２u２２，得３＝３＋l３２u２２．故l３２可任选，即B的三角分解存在且不唯一．因C的各阶顺序主子均不为０，故由定理７畅４知，C的三角分解存在且唯一．１６畅解A的行范数６＋０．５，０．１＋０．３｝＝１．１．‖A‖∞＝max｛０．A的列范数６＋０．１，０．５＋０．３｝＝０．８．‖A‖１＝max｛０．‖A‖F＝（０．３６＋０．２５＋０．０１＋０．０９）AA＝T１／２＝０．８４２６．０畅３３０畅３４．０畅６０畅５０畅１０畅３０畅６０畅１０畅６０畅３＝２０畅３７０畅３３｜λI－AA｜＝Tλ－０畅３７－０畅３３－０畅３３λ－０畅３４＝λ－０．７１λ＋０．０１６９＝０．所以λmax（AA）＝０．６８５，则‖A‖２＝１７畅证（１）由定义知，‖X‖∞≈０畅８３．n＝１max｜xi｜≤i∑｜xi｜≤i≤n＝１＝‖X‖１≤i∑max｜xi｜＝n‖X‖∞，＝１１≤i≤n∞n从而‖X‖２∞≤‖X‖１≤n·‖X‖TT．（２）由范数定义有‖A‖２＝λmax（AA）≤λ１（AA）＋λ２（AA）＋…＋λn（AA）TT＝AA的对角元之和＝i∑a＋i∑a＋…＋i∑ani＝１＝１＝１T２１i２２２i２nnn＝j∑∑a＝i∑∑aij＝‖A‖F．＝１i＝１＝１j＝１２２nnnn又‖A‖２＝λmax（AA）２T３３４≥＝从而TTT［λ１（AA）＋λ２（AA）＋…＋λn（AA）］１２‖A‖F．‖A‖F≤‖A‖２≤‖A‖F．注：此处用到了矩阵的特征值之和等于其对角线上元素之和的概念．从所证不等式也知道，矩阵的２唱范数可由F唱范数得到控制；矩阵的２唱范数与F唱范数是等价的．１８畅证只要证明‖X‖P＝‖PX‖满足范数定义的（１），（２），（３）．（１）因P非奇异，故对任意X≠0，PX≠0，则‖X‖P＝‖PX‖＞０；当X＝0时，PX ＝0，则‖X‖（２）对任意实数α，‖αX‖P＝‖PαX‖＝‖αPX‖＝｜α｜‖PX‖＝｜α｜‖X‖（３）‖X＋Y‖PPP＝‖PX‖＝０；当‖X‖P＝‖PX‖＝０时，则PX＝0，即X＝0．．＝‖P（X＋Y）‖＝‖PX＋PY‖≤‖PX‖＋‖PY‖＝‖X‖P＋‖Y‖P．综上所述，‖X‖P是R上的一种向量范数．１９畅证因‖X‖p∞n＝１max｜xi｜≤i∑｜xi｜≤n·１max｜xi｜＝n·‖X‖≤i≤n≤i≤n＝１‖X‖∞≤（i∑｜xi｜）＝１np１／ppnppp∞，两边开p次方有≤n‖X‖∞．１而plim＝１，故→∞２０畅证由Cauchy不等式，有｜（X，Y）｜≤‖X‖２‖Y‖２，且当且仅当X、Y线性相关时，有３３５lim（i∑｜xi｜）p→∞＝１pn１／p１＝‖X‖∞．｜（X，Y）｜＝‖X‖２‖Y‖２；又当且仅当XY≥０时，有｜（X，Y）｜＝（X，Y）．T故（X，Y）＝‖X‖２‖Y‖２当且仅当X、Y线性相关，且XYT≥０时，所以‖X＋Y‖２＝（X＋Y，X＋Y）＝（X，X）＋２（X，Y）＋（Y，Y）＝‖X‖２＋２‖X‖２‖Y‖２＋‖Y‖２２２＝（‖X‖２＋‖Y‖２）２当且仅当X、Y线性相关，且X，Y≥０时，即‖X＋Y‖２＝‖X‖２＋‖Y‖２迟痴X，Y线性相关，且XY≥０．T２１畅证由于I－A及记B＝μIATTOμI－AIμIAATTAμIAμIμIO２２AμI－AATT，．（７畅２６）（７畅２７）μIOAμIμIμI－AAATOμI．对（７畅２６）、（７畅２７）两式两边取行列式得μdet（B）＝μdet（μI－AA），nnnn２２T记λ＝μ≠０，故２μdet（B）＝μdet（μI－AA）．TTT２２畅证设A＝（α１α２…αn）按列分块，即αj＝（α１j，α２j，…，αnj）（j ＝１，２，…，n），则‖αj‖＝i∑αij．而＝１２２２Tndet（λI－AA）＝det（λI－AA）．‖α１‖＋‖α２‖２２nn２ij２２＋…＋‖αn‖＝j∑‖αj‖２＝１２２２nn２２n＝j∑（∑α）＝j∑∑αij＝‖A‖F．＝１i＝１＝１i＝１２３畅证因‖B‖＜１，由定理７畅１６知I－B可逆且‖（I－B）－１‖≤，所以３３６‖I－（I－B）－１‖＝‖（I－B）≤‖（I－B）≤－１－１（I－B－I）‖‖‖B‖‖B‖．２４畅证由矩阵算子范数定义有‖I‖＝maxX≠O由矩阵范数的相容性有‖A‖‖A优势矩阵，则j＝１j≠i０－１‖IX‖‖X‖＝max＝１．X≠O‖≥‖AA－１‖＝‖I‖＝１．２５畅证（１）用反证法．若有某个i０使ai０i０＝０，因A是对角∑｜ai０j｜＜｜ai０j０｜＝０．n这是不可能的．得证．（２）因A＝DB，即a１１A＝a２１…an１而１B＝a２１２２…n１nn１２１１１………………１n１１a２n２２…１＝１１１１３３７…………a１na２n…anna１１a２２筹ann１２１２２…n１nn a１２１１１………………a１n１１２n２２…１＝DB．＝０－－－a２１２２n１nn －１２１１０…………－１n１１＝I－C．a２n２２０‖C‖∞＝maxi∑j＝１nj≠iaijii＝max∑ij＝１n｜aij｜＜１i ij≠in｜aij｜＜｜aii｜）．所以由定理（这是因为A是对角优势矩阵，则j∑＝１j≠i７畅１６知，B＝I－C为非奇异阵．由（１）aii≠０，故D非奇异．因此A＝DB 非奇异．２，…，n．而a１１（３）设A为对角优势阵，由（１）知aii≠０，i＝１，＝a １１，所以a１１≠０．又设经Gauss消元一步后A具有形式：（１）（１）a１１０（２）（k）α１TA２．（２）由习题７知，A２也是对角优势矩阵．又由（１）知aii≠０，i＝２，…，n，即有a２２≠０．如此类推akk≠０．２６畅证因‖A‖s＝maxX≠O‖AX‖s．s对一切X都有由定理７畅１０知，存在a１，a２＞０，b１，b２＞０，a１‖AX‖s≤‖AX‖t≤a２‖AX‖s，与b１‖X‖s≤‖X‖t≤b２‖X‖s．于是１‖AX‖s‖AX‖t２‖AX‖s≤≤．１st２s令１２＝c１＝c２，故有１２c１‖AX‖s‖AX‖t‖AX‖s≤≤c２．sts３３８c１maxX≠0即‖AX‖s‖AX‖t‖AX‖s２max≤max≤c．X≠0X≠0stsc１‖AX‖s≤‖AX‖t≤c２‖AX‖s．１００９９A－１２７畅解A＝９９９８＝，则－９８９９‖A－１９９－１００．‖A‖∞＝１９９，‖A－１‖∞＝１９９，所以∞因A是对称矩阵，故cond（A）∞＝‖A‖‖∞＝１９９×１９９＝３９６０１．λmax（A）．min＝λ－１９８λ－１＝０，２cond（A）２＝由det（λI－A）＝得即λ－１００－９９－９９λ－９８λ１＝１９８畅００５０５０３，λ２＝－０畅００５０５０３５．cond（A）２＝λ１＝３９２０６．２T－１２８畅证因A是正交阵，故A＝Acond（A）２＝max＝min，则max＝１．minmax＝min－１－１２９畅证由条件数的定义及矩阵范数的相容性，有cond（AB）＝‖AB‖‖（AB）＝‖A‖‖AT－１‖‖‖A≤‖A‖‖B‖‖B‖‖‖‖B‖‖B＝cond（A）cond（B）．３０畅证（１）因A＝WW，所以cond（A）２＝‖A‖２‖A２－１－１T‖２＝‖WW‖２‖（WW）TT－１‖２＝‖W‖２‖W‖２＝（cond（W）２）．２２T（２）由习题２１知，λ（WW）＝λ（WW），则３３９‖W‖２＝TTTmax＝－T故由（１）得，cond（W）２＝‖W‖２‖Wmax＝‖W‖２．－１‖２＝‖W‖２‖W２T‖２＝cond（W）２．３１畅解由cond（A）２＝［cond（W）２］＝cond（W）２cond（W）２．｜λI－A｜＝λ－２１＝λ－４λ＋３＝０，２解得所以‖A设b＝－１λ１＝１，λ２＝３．‖２＝１，‖A‖２＝３，cond（A）２＝，δb＝１１，这时有λ２＝３．１１－１‖δX‖２‖δb‖２＝cond（A）２．２２事实上，设X＋δX＝Y，则A（X＋δX）＝b＋δb，即２－１解得y１＝又解得x１＝所以δX＝＝２－１２y１y２＝２０，４２，y２＝．２－１１１，x２＝－．－１２x１x２＝１－１，＋＝＝３．而cond（A）２＝３４０‖δb‖２＝cond（A）２２＝cond（A）２＝３，故‖δX‖２‖δb‖２＝cond（X）２．２２３２畅解记A＝T２４０－１７９－３１９２４０T，δA＝０－０畅５－０畅５０则AX＝b的解X＝（４，３），而（A＋δA）（X＋δX）＝b的解（X＋δX）＝（８，６）．故‖X‖而A－１∞＝４，‖δX‖＝２４０１７９－１－１∞＝４．，∞∞３１９２４０‖A‖‖δA‖‖δA‖cond∞（A）＝‖A∞‖‖∞∞＝６２６畅２，＝０畅５６０１２．＝０畅５，‖A由推论７畅１９畅２得‖δX‖∞∞‖δA‖∞∞０畅５６０１２≤＝≤１畅２７４，∞１－cond∞（A）∞∞‖δX‖∞≤１畅２７４‖X‖∞≤５畅１０，表明估计‖δX‖∞＝４略大，是符合实际的．９３３畅解（１）H３－１－３６１９２－１８０３０－１８０；１８０＝－３６３０‖H３‖∞＝所以cond∞（H３）＝７４８．－１，‖H３‖∞＝４０８，（２）方程组在H３及b有微小变化时为１畅０００畅５０００畅３３３０畅５０００畅３３３０畅２５００畅３３３０畅２５００畅２００x１＋δx１x２＋δx２x３＋δx３１畅８３＝１畅０８０畅７８３３４１简记为（H３＋δH３）（X＋δX）＝b＋δb，它的精确解为X＋δX＝（１畅０８９５１２５３８，０畅４８７９６７０６２，１畅４９１００２７９８）．T而H３X＝b的精确解X＝（１，１，１），于是δX＝（０畅０８９５，－０畅５１２０，０畅４９１０）．‖δH３‖∞‖δb‖∞－３≈０畅１８×１０＜０畅０２％，≈０畅１８２％３∞∞而‖δX‖∞≈５１畅２％．∞这表明H３及b的相对误差不超过０畅３％，而引起解的相对误差超过５０％．由推论７畅１９畅２，可得‖δX‖∞≤∞≤３∞１－cond∞（H３）３∞‖δb‖∞‖δH３‖∞＋３∞∞TT４０８（（０畅０００２）＋０畅００１８２）≤０畅８９７４＝８９畅７４％．这个估计结果比实际误差大是合理的．３４畅解（１）先算出A于是cond∞（A）＝‖A（２）r＝b－AX珚＝＝７畅０００３－７－１＝‖∞１００００２００００‖A‖－∞１００００２０００１２畅０００１－２＝，－１＝４０００１×３畅０００１≈１２００１２．－１１０畅０５－０畅０５．２畅９７－１畅０１７畅０００３－７－６畅９５０３－６畅９５∞∞（３）依定理７畅２０，右端为cond∞（A）而左端为３４２‖r‖＝１２００１２×０畅０５≤８５７畅１９２，‖X－X珚‖∞０畅０３＝＝０畅０１．∞这表明当A为病态矩阵时，尽管剩余‖r‖很小，误差估计仍然较大，因此，当A病态时用‖r‖大小作为检验解的准确度是不可靠的．３５畅解（１）‖X‖１＝９，‖X‖２＝２（３）由１１２０a＞０，得a＜３，故a的取值范围－＜a＜２，‖X‖∞＝５．２（２）‖A‖１＝４，ρ（A）＝１（｜λI－A｜＝（λ－１），λ１，２＝１）．０a２，取a＝１时，L＝１００００．２３４３。

数值分析小论文线性方程组的直接解法线性方程组的直接解法是指通过一系列的代数运算直接求解线性方程组的解。

线性方程组是数值分析中非常重要的问题，广泛应用于工程、科学、计算机图形学等领域。

在线性方程组的直接解法中，最常用的方法是高斯消元法，它是一种基于矩阵变换的方法。

高斯消元法将线性方程组表示为增广矩阵，并通过一系列的行变换将增广矩阵转化为行阶梯形矩阵，从而得到方程组的解。

高斯消元法的主要步骤包括消元、回代和得到方程组的解。

消元是高斯消元法的第一步，通过一系列的行变换将增广矩阵的元素转化为上三角形式。

在消元过程中，我们首先找到主元素，即矩阵的对角线元素，然后将其它行的元素通过消元操作转化为0，从而使得矩阵逐步变成上三角形矩阵。

回代是高斯消元法的第二步，通过一系列的回代操作求解线性方程组。

回代操作是从上三角形矩阵的最后一行开始，通过依次求解每个未知数的值，最终得到方程组的解。

高斯消元法的优点是算法简单易于实现，可以在有限的步骤内求解线性方程组，适用于一般的线性方程组问题。

但是高斯消元法也存在一些问题，例如当矩阵的主元素为0时，无法进行消元操作，此时需要通过行交换操作来避免这种情况。

另外，高斯消元法对病态矩阵的求解效果较差，容易引起舍入误差累积，导致解的精度下降。

在实际应用中，为了提高求解线性方程组的效率和精度，人们常常使用一些改进的直接解法，例如列主元高斯消元法和LU分解法。

列主元高斯消元法通过选择最大主元来避免主元为0的情况，进一步提高了求解线性方程组的精度。

LU分解法将矩阵表示为两个矩阵的乘积，从而将线性方程组的求解问题转化为两个三角形矩阵的求解问题，提高了求解效率。

综上所述，线性方程组的直接解法是一种基于矩阵变换的方法，通过一系列的代数运算求解线性方程组的解。

高斯消元法是最常用的直接解法之一，它简单易于实现，适用于一般的线性方程组问题。

在实际应用中，可以通过改进的直接解法来进一步提高求解效率和精度。

数值分析第一次上机实习报告——线性方程组直接解法一、问题描述设 H n = [h ij ] ∈ R n ×n 是 Hilbert 矩阵, 即11ij h i j =+- 对n = 2,3,4，…13,(a) 取11n n x R ⨯⎛⎫ ⎪=∈ ⎪ ⎪⎝⎭，及n n b H x =，用Gauss 消去法和Cholesky 分解方法来求解n n H y b =，看看误差有多大.(b) 计算条件数：2()n cond H(c) 使用某种正则化方法改善(a)中的结果.二、方法描述1. Gauss 消去法Gauss 消去法一般用于系数矩阵稠密且没有任何特殊结构的线性方程组。

设H =[h ij ]，y = (y 1,y 2,…，y n )T . 首先对系数矩阵H n 进行LU 分解，对于k=1,2，…n,交替进行计算：1111),,1,,1(),1,2,,k kj kj kr rj r k ik ik ir rk r kk u h l u j k k n l a l u i k k n u -=-=⎧=-=+⎪⎪⎨⎪=-=++⎪⎩∑∑…… 由此可以得到下三角矩阵L=[l ij ]和上三角矩阵U=[u ij ]. 依次求解方程组Ly=b 和Ux=y ，111,1,2,,1(),,1,,1i i i ir r r n i i ir r r i ii y b l y i n x y u x i n n u -==+⎧=-=⎪⎪⎨⎪=-=-⎪⎩∑∑…… 即可确定最终解。

2. Cholesky 分解法对于系数矩阵对称正定的方程组n n H y b =，存在唯一的对角元素为正数的下三角矩阵L ，使得H=LL T 。

因此，首先对矩阵H n 进行Cholesky 分解，即1122111()1()j jj jj jk k j ij ij ik jk k jj l h l l h l l l -=-=⎧=-⎪⎪⎨⎪=-⎪⎩∑∑ 1,i j n =+… L 的元素求出之后，依次求解方程组Ly=b 和L T x=y ，即1111111(),2,3,i i i ik k k ii b y l y b l y i n l -=⎧=⎪⎪⎨⎪=-=⎪⎩∑… 11(),1,2,n n nn n i i ki k k i nn y x l x y l x i n n l =+⎧=⎪⎪⎨⎪=-=--⎪⎩∑…1 由此求得方程组n n H y b =的解。

数值分析课程实验报告实验名称线性方程组的直接解法_____________________实验目的①掌握高斯消去法的基本思路和迭代步骤；②了解高斯消去法可能遇到的困难。

用文字或图表记录实验过程和结果列主元高斯消去法算法描述将方程组用增广矩阵B=[A：b]=（a j \心申）表示。

步骤1:消兀过程，对k=12|j|, n—1（1）选主元，找i k亡｛k,k+1,川,n｝使得k卜maxi a ikai k，（2）如果a i k,k = 0 ,则矩阵A奇异，程序结束；否则执行（3）。

（3）如果ik^k,则交换第k行与第i k行对应兀素位置，aq㈠a i k j,j=k,IH, n + 1。

（4）消兀，对i = k +1」H,n，计算m k=a k / a kk,对j = k +1,川,n +1，计算a j = a ij — m ik a^.步骤2:回代过程：（1）右a nn -0,则矩阵奇异，程序结束；否则执行（2）。

厲（2）nX n =a ng/a nn；对i = n—1川,2,1，计算X j = a,n 出一》a j X j /a H< j4 丿三、练习与思考题分析解答1、解方程组0.10伙2.304X2 3.555X3 =1.183-1.347为3.712X2 4.623X3 = 2.137-2.835X, 1.072X25.643X^3.035（1）编程用顺序高斯消去法求解上述方程组，记下解向量，验证所得到的解向量是否是原方程组的解，若不是原方程组的解，试分析原因，并证实你的分析的正确性!解：采用顺序消元法求得如下结果：请输入一个3行矩阵0.101 2.304 3.555 1.183-1.347 3.712 4.623 2.137-2.835 1.072 5.643 3.0350.101 2.304 3.555 1.1830 34.4396 52.0347 17.91420 0 6.09738 2.0435最后计算得到x =(-0.3982,0.0138,0.3351) T，代入原方程验证可知解向量是原方程组的解。

数值分析第五章解线性方程组的直接法解线性方程组是数值分析中的一个重要问题，对于大规模的线性方程组来说，直接法是一种常用的求解方法。

本文将介绍解线性方程组的直接法，包括高斯消元法和LU分解法，并对其稳定性和计算复杂度进行讨论。

高斯消元法是一种常用的直接法，用于求解非奇异线性方程组。

其基本思想是通过初等行变换将线性方程组转化为上三角方程组，然后通过回代求解得到方程的解。

高斯消元法的步骤如下：1.将线性方程组表示为增广矩阵[A，b]，其中A是系数矩阵，b是常数向量。

2.从第一行开始，选择一个非零元素作为主元，通过行变换将主元下方的元素全部消为零。

3.重复第2步，直到矩阵变为上三角矩阵。

4.通过回代求解上三角矩阵，得到方程组的解。

高斯消元法的主要优点是简单直接，容易实现，但存在一些问题。

首先，如果系数矩阵A是奇异矩阵，即行列式为零，那么高斯消元法无法得到方程组的解。

其次，如果系数矩阵A的其中一行或几行接近于线性相关，那么在消元过程中会引入大量的舍入误差，导致计算结果不准确。

这也说明了高斯消元法的稳定性较差。

为了提高稳定性，可以使用LU分解法来解线性方程组。

LU分解法将系数矩阵A分解为两个矩阵L和U的乘积，其中L是下三角矩阵，U是上三角矩阵。

这样，原始的线性方程组可以表示为LUx=b，进而可以通过两个步骤来求解方程组：1.进行LU分解，将系数矩阵A分解为L和U。

2.分别用前代和回代的方法求解方程组Ly=b和Ux=y。

LU分解法相对于高斯消元法的优点是，可以在求解多个右端向量时，避免重复计算LU分解，从而提高计算效率。

同时，LU分解法的稳定性也较高，对于多个右端向量求解时，舍入误差的累积相对较小。

然而，LU分解法也存在一些问题。

首先，LU分解法的计算复杂度较高，需要进行两次矩阵乘法和一次矩阵向量乘法，而且LU分解过程中需要对系数矩阵A进行大量的行变换，增加了计算量。

其次，当系数矩阵A的一些元素非常小或非常大时，LU分解法容易出现数值不稳定的情况，即舍入误差的累积较大，导致计算结果不准确。