矩阵和向量范数
- 格式:doc
- 大小:898.50 KB
- 文档页数:15
向量和矩阵的范数一、引言向量和矩阵是线性代数中最基本的概念之一,而范数则是线性代数中一个非常重要的概念。
范数可以用来度量向量或矩阵的大小,也可以用来衡量它们之间的距离。
在本文中,我们将讨论向量和矩阵的范数。
二、向量范数1. 定义向量范数是一个函数,它将一个向量映射到一个非负实数。
它满足以下条件:(1)非负性:对于任意的向量x,有||x||≥0;(2)齐次性:对于任意的标量α和向量x,有||αx||=|α|·||x||;(3)三角不等式:对于任意的向量x和y,有||x+y||≤||x||+||y||。
2. 常见范数(1)L1范数:也称为曼哈顿距离或城市街区距离。
它定义为所有元素绝对值之和:||x||1=∑i=1n|xi| 。
(2)L2范数:也称为欧几里得距离。
它定义为所有元素平方和再开平方根:||x||2=(∑i=1nxi^2)1/2 。
(3)p范数:它定义为所有元素p次方和的p次方根:||x||p=(∑i=1n|xi|^p)1/p 。
(4)无穷范数:它定义为所有元素绝对值中的最大值:||x||∞=ma xi|xi| 。
三、矩阵范数1. 定义矩阵范数是一个函数,它将一个矩阵映射到一个非负实数。
它满足以下条件:(1)非负性:对于任意的矩阵A,有||A||≥0;(2)齐次性:对于任意的标量α和矩阵A,有||αA||=|α|·||A||;(3)三角不等式:对于任意的矩阵A和B,有||A+B||≤||A||+||B||。
2. 常见范数(1)Frobenius范数:也称为欧几里得范数。
它定义为所有元素平方和再开平方根:||A||F=(∑i=1m∑j=1naij^2)1/2 。
(2)一范数:它定义为每列元素绝对值之和的最大值:||A||1=maxj(∑i=1m|aij|) 。
(3)二范数:它定义为矩阵A的最大奇异值:||A||2=σmax(A) 。
(4)∞范数:它定义为每行元素绝对值之和的最大值:||A||∞=maxi(∑j=1n|aij|) 。
绪论0.1数值计算方法与算法数值计算方法:在算机上使用的解数学问题的方法,简称计算方法。
1.准确解和数值解数学是在寻求准确解(解析解)中不断发展●“数”的定义●“数”的运算规则2. 计算方法: 一种研究并解决数学问题的数值近似解方法计算对象:●理论上有解而无计算公式(没有解析解的数学问题)例如,计算6阶矩阵的全部特征值●有计算公式而无法承受计算量。
例如,用克莱姆方法解一个有100个未知量的线性方程组;。
3.科学计算和计算方法科学方法:理论、实验、科学计算(第三种科学方法)算法的改进对性能的贡献超过处理器速度的提高。
计算方法是一门理论性和实践性都很强的学科,计算方法既有数学类课程中理论上的抽象性和严谨性,又有实用性和实验性的技术特征。
计算方法的前提课程是微积分,线性代数,常微分方程和一门计算机语言。
4.课程内容微积分,线性代数,常微分方程中数学问题的数值解使用方法套用计算公式、修改计算公式和创建计算公式中,都需要不同程度的专业知识和数学基础。
要注重学习计算方法中的逼近和迭代等数学思想和常用手法,获取近似计算的能力,并能触类旁通地应用到各个领域中。
例如,样条函数、快速富里叶变换和有限元方法都是有创造力的工程师们创建的,再由数学家们完善这些方法的理论基础,并从理论上进行提高和推广。
从方法的计算公式到在计算机上实际运行,两者之间还有距离,这是数学能力与计算机应用技术能力之间的距离,为了缩小两者之间的距离,将给出部分计算公式的算法描述。
用算法容易准确而简便地描述计算公式,在算法中能简洁地表达计算公式中的“循环”和“迭代”等操作。
纸上得来终觉浅,绝知此事要躬行。
5. 课程要求按时交作业,编程题2-3教材中提供了部分上机作业题,可以自选编程题。
0.2 误差与有效数字绝对误差与绝对误差界近似计算必然产生误差,误差表示精确值与近似值的距离。
定义0.1 设*x 为精确值(或准确值),x 是*x 的一个近似值,称 x x e -=*为近似值x 的绝对误差或误差。
绝对误差 = 精确值 - 近似值误差e 的值可正可负,如果得不到精确值*x ,也就算不出绝对误差e 的值。
常用限制误差绝对值的范围ε 描述和控制误差的范围。
定义0.2 如果精确值*x 与近似值x 的误差的绝对值不超过某正数ε,即 ε≤-=||||*x x e 称ε 为绝对误差限或误差限。
精确值*x 也可表示为:ε±=x x *。
通常,在误差允许的范围内的近似值x 即认为是精确值,这也是计算中控制循环中止的常用手段。
例0.1 若经四舍五入得到 456.123=x ,计算x 的误差限。
对于数4559.123,,4555.123 4564.123,4561.123的近似值都是456.123=x , 即第四位小数大于5时,必然进位到第三位小数;第四位小数小于5时,必然舍去。
它的误差限是:34*1021510||||--=⋅≤-=x x e 若0123456.0*=x ,则它的误差限是:78*1021510||||--=⋅≤-=x x e 相对误差与相对误差限定义0.3 设*x 为精确值,x 是*x 的一个近似值称 ***xxx x e e r -== 为近似值x 的相对误差。
在实际计算中,有时得不到精确值*x ,当r e 较小时*x 可用近似值x 代替,即xxx x e e r -==*相对误差 =绝对误差精确值 或 相对误差 =近似值绝对误差相对误差r e 的值也可正可负,与绝对误差一样不易计算,常用相对误差限控制相对误差的范围。
定义0.4 如果有正数r ε使得 r r xee ε≤=||* ,则称r ε为*x 的相对误差限。
产生误差的因素很多,产生误差的原因主要有 原始误差由客观存在的模型抽象到物理模型产生的误差。
包括模型误差和原始数据误差。
截断误差用有限项近似无限项时,由截取函数的部分项产生的误差,称为截断误差。
例如:∑∞==+++++=02!!!21n n k xn x k x x x e ,在计算中用∑∑∞==≈=00!!n n N n n xn x n x e 舍入误差在数值计算中,通常都按有限位进行运算。
例如,按照4舍5入的原则,2 / 3=0.666667 或2 / 3=0.667,由舍入产生的误差,称为舍入误差。
在实际计算中的数据通常是近似值,它们由观察、估计或一些计算而得到,这些数在计算机表示后也会带来进一步误差,即误差的积累和传播。
关于误差的传播似乎没有多少统一的理论,通常积累误差的界是以通例分析为基础而建立的。
有效位数定义0.5 当x 的误差限为某一位的半个单位,则这一位到第一个非零位的位数称 为x 的有效位数。
例如,x = 12.34 ,y = 0.004067均有4位有效数字,而3.00与3.0000分别有3位和5位有效位数。
有效位的多少直接影响到近似值的绝对误差和相对误差,因此,在计算中也应注意保持一定的有效位数。
数值计算的近似计算免不了有误差相随,只能尽量约束和控制误差。
选择收敛的稳定的方法对同一问题选择不同的数值计算方法,可能得到不同的计算结果。
在计算方法中,除了给出方法的数值计算公式,还要讨论计算公式的收敛性、稳定性和截断误差的特性。
选择收敛性要求低、稳定性好的方法是约束误差扩张最重要的措施。
例如,样条插值函数比高次多项式的效果好的多,是构造插值函数的首选方法。
提高数值计算精度数值在计算机中存放的位数称为字长。
有限位的字长是带来舍入误差和抑制数值计算精度的根源。
对同一种方法,在字长大的计算机上的计算效果要比在字长小的计算机上优越。
同一计算问题,简化计算步骤、减少运算次数、控制除法中分母的值等措施都会约束和减少舍入误差.例如:将多项式表达式 0111)(a x a x a x a x f n n n n ++++=-- ,改写为011))((()(a x a x a x a x f n n ++++=-在计算机上,用同一种数值计算方法对数据选用不同的数值类型,有时会直接影响到计算效果。
例如,对病态的线性方程组,同样使用消元方法采用单精度数据,其数据解大大失真,而用双精度数据却可得到满意的数值解。
0.3 矩阵和向量范数0.3.1向量范数 1. 向量范数的定义在一维空间中,实轴上任意两点a b ,的距离用两点坐标差的绝对值||a b -表示. 绝对值是单变量的一种度量距离的定义.范数是在广义长度意义下,对函数、向量和矩阵的一种度量定义. 任何对象的范数值都是一个非负实数. 使用范数可以测量两个函数、向量或矩阵之间的距离. 向量范数是度量向量长度的一种定义形式. 范数有多种定义形式,只要满足定义1.1中的三个条件即可定义一个范数.对任一向量n R X ∈,按照一个规则确定一个非负实数与它对应,记该实数为X ,若X 满足下面三个性质:(1) 任取 n R X ∈,有X ≥0,当且仅当X =0时,X =0 (非负性) (2) 任取 R R X n∈∈α,, 有ααX X =|| (齐次性)(3) 任取 n R Y X ∈,,有X Y X Y +≤+ (三角不等式) 那么称实数X 为向量X 的范数.定义 0.6 向量X x x x n T=(,,,)12 的p L 范数(Holder 范数)定义为 ()Xx pi ni p p==∑11||/ , 1≤≤+∞p (0.1)其中,经常使用三种p L 向量范数是∞=,2,1p . 1-范数(曼哈顿范数) ||||||||2111n ni i x x x x X+++==∑=2-范数(欧几里得范数) 22221122nni i x x x xX+++==∑= 或写成 ),(2X X X=∞-范数|}|,|,||,max{||}{|max 211n i n i x x x x X==≤≤∞注:1/12lim(||||||)p p p p n p Xx x x ∞→∞=+++1/1211111||||||max{||}lim()max{||}max{||}max{||}max{||}p p ppn i p p p p i n ii i i ni ni ni i nx x x x x x x x →∞≤≤≤≤≤≤≤≤≤≤=+++=例0.2 计算向量Ta X ),3,1(=的向量范数. ||4||311a a X +=++=,22/1222210)31(a a X +=++=|}|,3max{|}|,3,1max{a a X==∞例0.3 设A 是一个正定矩阵,对任何向量nX R ∈,定义函数 AX = A X ||||是一种向量范数.例0.4 当01p <<,()X x pi ni p p==∑11||/不是向量范数.证明 取 (1,0,,0),(0,,0,1)T T αβ== 则||||1,||||1p p αβ==,||||||||2p p αβ+=1/||||22,p p αβ+=>||||||||||||p p p αβαβ+>+ ∴01p << 不是向量范数.例2. 不同向量范数的关系同一向量,在不同的范数定义下,得到不同的范数值. 定理0.1给出有限维线性空间R n中任意向量范数都是等价的.定理0.1 若12(),()R X R X 是R n上两种不同的范数定义,则必存在∞<<<M m 0,使nR X ∈∀,均有212()()()mR X R X MR X ≤≤ (0.2) 或 m ()≤≤R X R X M 12()()X ≠0 (证明略)可以验证,对于向量的1、2和∞范数有下列等价关系1||||||||||||X X n X ∞∞≤≤,121||||||||||||X X X ≤≤22||||||||||||X X X ∞≤≤ 例0.5 图示2R 中向量1范数、2范数、4范数和∞范数的单位“圆”.图0-1范数的单位“圆” 向量的极限向量范数的定义提供了度量两个向量的距离标准,即可定义向量的极限和收敛概念了. 定义 0.7 设},,2,1,{)(n k X k =为R n 上向量序列,若存在向量α∈n R有0lim )(=-∞→αk k X,则称向量列)(k X 是收敛的,α称为该向量序列的极限.由向量范数的等价性,向量序列是否收敛与选取哪种范数无关. 向量的极限是通过它的所有分量的极限定义的。
不论选取那种范数,向量序列()()()()12(,,,)m m m m Tn X x x x = 收敛的充分必要条件为其序列的每个分量收敛,即)(lim k ik x ∞>-存在. 若i k ik x x =∞>-)(lim ,则T n x x x X ),,,(21 =就是向量序列},,2,1,{)(n k X k =的极限. 在数值计算中,当迭代的向量序列中相邻两个向量的误差<-+||||)()1(k k X X 给定精度时,视)1(+k X 为极限向量*X .0.3.2矩阵范数 1. 矩阵范数定义设A R n n ∈⨯,记方阵A 的范数为A ,矩阵范数满足下列性质:(1) 0||||≥A 当且仅当A =0时,A =0 (非负性) (2) ,n nA RR λ⨯∈∀∈ λλA A =|| (齐次性)(3) 对于任意两个同阶矩阵B A , 有A B A B +≤+ (三角不等式)(4)设B A ,为同阶矩阵,则 ||||||||||||AB A B ≤ (相容性) (5)设A 为n 阶阵,对nX R ∀∈,恒有 ||||||||||||AX A X ≤⋅只要满足(1) (2) (3)就可以定义一个矩阵范数。