下载文档原格式
第2章范数理论及其应用2.1向量范数及l p范数定义：如果V是数域K上的线性空间，且对于V的任一向量x，对应一个实数值||x||，它满足以下三个条件：1)非负性：||x||≥0,且||x||=0⇔x=0;2)齐次性：||k⋅x||=|k|⋅||x||，k∈K；3)三角不等式：||x+y||≤||x||+||y||.则称||x||为V上向量x的范数，简称为向量范数。
可以看出范数||⋅||为将V映射为非负数的函数。
注意：2)中|k|当K为实数时为绝对值，当K为复数域时为复数的模。
虽然向量范数是定义在一般的线性空间上的，但是由于前面的讨论，我们知道任何n维线性空间在一个基下都代数同构于常用的n维复(或实)列向量空间，因此下面我们仅仅讨论n维复(或实) 列向量空间就足够了。
下面讨论如下：1.设||⋅||为线性空间V n的范数，任取它的一个基x1,x2,…,x n,则对于任意向量x,它可以表示为x=ξ1x1+ξ2x2+…+ξn x n其中，(ξ1,ξ2,…,ξn)T为x的坐标。
由此定义C n(或R n)中的范数如下：||ξ||C =ϕ(ξ)=||ξ1x1+ξ2x2+…+ξn x n||则容易验证||ξ||C确实为C n中的范数.2.反之, 若||ξ||C为C n中的范数，定义V n的范数如下：||x||=φ(x)=||ξ||C其中x=ξ1x1+ξ2x2+…+ξn x n。
则容易验证φ(x)确实为V n的范数。
这个例子充分说明了一般线性空间的范数和n维复(或实)列向量空间的范数之间的关系。
这也是为我们只讨论n维复(或实)列向量空间的范数的理由.范数首先是一个函数，它将线性空间的任意向量映射为非负实数。
范数与函数性质1. 范数是凸函数，即|| (1-λ)x+λy||≤(1-λ)||x||+λ||y||其中0≤λ≤ 1。
向量的范数类似于向量长度。
性质2. (范数的乘法)若||⋅||为线性空间V上的向量范数，则k||⋅|| 仍然为向量范数, 其中k > 0.性质3. 设||⋅||comp为R m上的范数，且对x∈ (R+)m为单调增加的(即,若x,y∈(R+)m,且x i≤y i,那么||x||comp≤||y|| comp成立.),那么，对于给定的m个n维线性空间V上的范数||⋅||i,i=1,2,…,m,我们可以定义一个复合范数为||x||=||U(x)|| comp ,其中，U(x)=( ||x||1,||x||2, …,||x||m)T.证明：非负性和齐次性是显然的，仅需证明三角不等式。
矩阵论/矩阵分析视频公开课武汉理工大学理学院统计学系金升平本视频内容：矩阵范数与向量范数的相容性矩阵范数诱导的向量范数矩阵范数与向量范数的相容性的概念，为矩阵与向量的联合起来进行分析，提供了理论保障“矩阵范数诱导的向量范数”将告诉我们：对于任意矩阵范数，都可找到与之相容的向量范数二、矩阵范数与向量范数的相容性1. 矩阵范数与向量范数的相容性定义3,v m v Ax A x ≤⋅则称矩阵范数∙m 与向量范数∙v 相容.设∙m 是Cn×n上矩阵范数，∙v 是C n上向量范数，如果, ,n nnA Cx C ⨯∀∈∈下标使用的原因：矩阵--m atrix ，向量--v ector定理1(1) 矩阵范数分别与相容；1, m F ⋅⋅12, ⋅⋅(2) 矩阵范数与向量范数相容.m ∞⋅12, , ∞⋅⋅⋅以矩阵范数与向量范数为例证之.1m ⋅1⋅设(),n nij A a C⨯=∈()12,,,.Tnn x x x x C =∈则11111nnnnij j ij i j i j jAx a x a x =====≤∑∑∑∑和的绝对值小于等绝对值之和。
将x j 放大11111.n n ij m i j nk k a x A x ===⎛⎫⎪⎝≤⎭=⋅∑∑∑2. 由矩阵范数诱导的向量范数, .Hnvmx xax C =∈设是上一个矩阵范数，取,0.na C a ∈≠且m⋅n nC⨯定义可以证明，它是上的向量范数，称为由矩阵范数nC ∙m所诱导的向量范数.事实上，(1) 正定性：当0≠x ∈C n时，xa H≠OHvmxxa =>而当x =0Hxxa ==（2）齐次性：当时，C λ∈HHvvmmxxaxaxλλλλ===（3）三角不等式：()HH Hv mmx y x y axa ya+=+=+HHmmxaya≤+v vx y=+定理2Cn×n上任意一矩阵范数∙m与它所诱导的向量范数∙v 相容.()Hv mAx Ax a=证明只需证相容性即可()HmA xa=()Hm mA xa≤m vA x=See you next time武汉理工大学理学院统计学系金升平矩阵论/矩阵分析视频公开课矩阵范数与向量范数的相容性矩阵范数诱导的向量范数（完）下一讲内容：向量范数诱导的矩阵范数。
向量与矩阵范数在欧氏空间与酉空间中，我们通过向量的内积定义了下列的长度，对于一般的线性空间，能否引入一个类似于长度而又比其更广泛的概念呢？这就是范数的概念。
向量范数与矩阵范数是应用非常广泛的重要概念，从范数可导出向量与向量，矩阵与矩阵之间的距离，进而引进向量序列和矩阵序列收敛性问题.它是矩阵分析与计算的基础.§1 向量范数定义1．1 设V 是数域()或C R 上的线性空间，如果对于任意V ∈x 按照某种法则对应于一个实数x，且满足：1） 非负性0≥x .当且仅当=x 0时，0=x ； 2） 齐次性k k =x x；3） 三角不等式 对任意,V ∈x y 总有，+≤+x y x y；则称实数x为线性空间V 上向量x 的范数.简称向量范数.定义了范数的线性空间V 称为赋范线性空间.由定义1.1可以看出，向量范数是定义在线性空间上的非负实值函数，它具有下列性质：（1） 当≠x 0时，11||||=x x ；（2） 对任意向量V ∈x ，有||||||||-=x x ；（3）||||||||||||||y -≤-x y x ； （4）||||||||||||||y -≤+x y x .性质（1）与（2）是显然成立的，下面证明性质（3） 因为||||||||||||||||=-+≤-+x x y y x y y ， 所以||||||||||||-≤-x y x y .同理可证||||||||||||||()||||||-≤-=--=-y x y x x y x y ， 即||||||||||||-≥--x y x y .综上有||||||||||||||y -≤-x y x .若用y -代替性质（3）中的y ，便得到性质（4）.n C 上最著名的范数是p 范数，也称赫尔德（hölder ）范数11()nppi pk x ==∑x，T 12(,,,)n n x x x =∈x C .这里1p ≤<∞，其中最常用的是1,2p =时的p 范数，即11nik x ==∑x ；12221()ni k x ==∑x 。
向量和矩阵的范数一、引言向量和矩阵是线性代数中最基本的概念之一，而范数则是线性代数中一个非常重要的概念。
范数可以用来度量向量或矩阵的大小，也可以用来衡量它们之间的距离。
在本文中，我们将讨论向量和矩阵的范数。
二、向量范数1. 定义向量范数是一个函数，它将一个向量映射到一个非负实数。
它满足以下条件：（1）非负性：对于任意的向量x，有||x||≥0；（2）齐次性：对于任意的标量α和向量x，有||αx||=|α|·||x||；（3）三角不等式：对于任意的向量x和y，有||x+y||≤||x||+||y||。
2. 常见范数（1）L1范数：也称为曼哈顿距离或城市街区距离。
它定义为所有元素绝对值之和：||x||1=∑i=1n|xi| 。
（2）L2范数：也称为欧几里得距离。
它定义为所有元素平方和再开平方根：||x||2=(∑i=1nxi^2)1/2 。
（3）p范数：它定义为所有元素p次方和的p次方根：||x||p=(∑i=1n|xi|^p)1/p 。
（4）无穷范数：它定义为所有元素绝对值中的最大值：||x||∞=ma xi|xi| 。
三、矩阵范数1. 定义矩阵范数是一个函数，它将一个矩阵映射到一个非负实数。
它满足以下条件：（1）非负性：对于任意的矩阵A，有||A||≥0；（2）齐次性：对于任意的标量α和矩阵A，有||αA||=|α|·||A||；（3）三角不等式：对于任意的矩阵A和B，有||A+B||≤||A||+||B||。
2. 常见范数（1）Frobenius范数：也称为欧几里得范数。
它定义为所有元素平方和再开平方根：||A||F=(∑i=1m∑j=1naij^2)1/2 。
（2）一范数：它定义为每列元素绝对值之和的最大值：||A||1=maxj(∑i=1m|aij|) 。
（3）二范数：它定义为矩阵A的最大奇异值：||A||2=σmax(A) 。
（4）∞范数：它定义为每行元素绝对值之和的最大值：||A||∞=maxi(∑j=1n|aij|) 。
