各类范数定义.docx

范数的定义 设 X 是数域 K 上线性空间，称║˙║为 X 上的范数 (norm) ，若它满足： 1. 正定性：║ x║≥ 0，且║ x║=0 <=> x=0 ； 2. 齐次性：║ cx║=│c│║ x║； 3. 次可加性 ( 三角不等式 ) ：║ x+y║≤║ x║+║y║ 。 注意到║ x+y║≤║ x║+║y║中如令 y=-x ，再利用║ - x║=║x║可以得到║ x║≥ 0，即

║ x║≥0 在定义中不是必要的。 如果线性空间上定义了范数，则称之为 赋范线性空间 。注记：范数与内积，度量，拓扑是相互联系的。

1. 利用范数可以诱导出度量： d(x,y)= ║x - y║，进而诱导出拓扑，因此赋范线性空间是度量空间 。

但是反过来度量不一定可以由范数来诱导。 2. 如果赋范线性空间作为 ( 由其范数自然诱导度量 d(x,y)= 的，即任何柯西 (Cauchy) 序列在其中都收敛，则称这个赋范线性空间为 ║x - y║的 ) 度量空间是完备 巴拿赫 (Banach) 空间 。 3. 利用内积 <˙, ˙>可以诱导出范数：║ x║=^{1/2} 。 反过来，范数不一定可以由内积来诱导。当范数满足平行四边形公式║x+y║^2+║x- y║^ 2=2( ║x║^2+║y║^2) 时，这个范数一定可以由内积来诱导。 完备的内积空间成为 希尔伯特 (Hilbert) 空间 。

4. 如果去掉范数定义中的正定性，

那么得到的泛函称为半范数 (seminorm 或者叫准范数 ) ，

相应的完备空间称为 Fr échet 空间 。 对于 X 上的两种范数║ x║α , ║x║β，若存在正常数 C 满足 ║x║β≤ C║x║α 那么称║ x║β 弱于║ x║α。如果║ x║β 弱于║ x║α 且║ x║α 弱于║ x║β，那么称

这两种范数等价。 可以证明，有限维空间上的范数都等价，无限维空间上至少有阿列夫 1( 实数集的基数 ) 种

不等价的范数。

算子范数 如果 X 和 Y 是巴拿赫空间， T 是 X->Y 的线性算子，那么可以按下述方式定义║ T║：

║ T║ = sup{ ║Tx║：║ x║<=1} 根据定义容易证明║ Tx║ <= ║T║║ x║。 对于多个空间之间的复合算子，也有║ XY║ <= ║X║║ Y║。 如果一个线性算子 T 的范数满足║ T║ < + ∞，那么称 T 是有界线性算子，否则称 T 是无

界线性算子。 比如，在常用的范数下，积分算子是有界的，微分算子是无界的。 容易证明，有限维空间的所有线性算子都有界。 有限维空间的范数 基本性质 有限 空 上的范数具有良好的性 ，主要体 在以下几个定理： 性 1： 于有限 范 性空 的任何一 基，范数是元素 ( 在 基下 ) 的坐 的 函数。 性 2(Minkowski 定理 ) ：有限 性空 的所有范数都等价。 性 3(Cauchy 收 原理 ) ： 数域 ( 或复数域 ) 上的有限 性空 ( 按任何范数 ) 必定完

。 性 4：有限 范 性空 中的序列按坐 收 的充要条件是它按任何范数都收 。

常用范数 里以 C^n 空 例， R^n 空 似。 最常用的范数就是 p- 范数。若 x=[x1,x2,...,xn]^T

，那么

║ x║p=(|x1|^p+|x2|^p+...+|xn|^p)^{1/p} 可以 p- 范数确 足范数的定 。其中三角不等式的 明不是平凡的， 个 通 常称 可夫斯基 (Minkowski) 不等式。 当 p 取 1， 2，∞的 候分 是以下几种最 的情形： 1- 范数：║ x║1=│x1│+│x2│+⋯+│xn│ 2- 范数：║ x║2=(│x1│^2+│x2│^2+⋯+│xn│^2)^1/2 ∞ - 范数：║ x║∞ =max(│x1│, │x2│, ⋯, │xn│) 其中 2- 范数就是通常意 下的距离。

于 些范数有以下不等式：║ x║∞ ≤ ║x║2 ≤ ║x║1 ≤ n^{1/2} ║x║2 ≤ n ║ x║∞

另外，若 p 和 q 是赫德 (Hölder) 共 指 ，即 1/p+1/q=1 ，那么有赫德 不等式： || = ||x^H*y| <= ║x║p║y║q

当 p=q=2 就是柯西 - 瓦 (Cauchy-Schwarz) 不等式。

矩阵范数 矩 范数除了正定性， 次性和三角不等式之外， 定其必 足相容性：║ XY║≤║ X║║ Y║。 注：如果不考 相容性，那么矩 范数和向量范数就没有区 ，因 mxn 矩 全体和 mn

向量空 同构。引入相容性主要是 了保持矩 作 性算子的特征， 一点和算子范数的 相容性一致，并且可以得到 Mincowski 定理以外的信息。

诱导范数 把矩 看作 性算子，那么可以由向量范数 出矩 范数 ║A║ = max{ ║Ax║: ║x║=1}= max{ ║Ax║/ ║x║: x ≠0} ， 它自 足 向量范数的相容性 ║Ax║ ≤ ║A║║ x║， 并且可以由此 明 ║ AB║ ≤ ║A║║ B║。注：

1. 上述定 中可以用 max 代替 sup 是因 有限 空 的 位 球是 的 ( 有限开覆盖定

理 ) ，从而上面的 函数可以取到最 。 2. 然， 位矩 的算子范数 1。常用的三种 p- 范数 出的矩 范数是 1- 范数：║ A║1 = max{ ∑|ai1|, ∑|ai2| , ⋯⋯ , ∑|ain| } （列和范数， A 每一列元

素 之和的最大 ） ( 其中∑ |ai1| 第一列元素 的和∑ |ai1|=|a11|+|a21|+...+|an1|, 其余 似） 2- 范数：║ A║2 = A 的最大奇异 = ( max{ λi(A^H*A) } ) ^{1/2} ( 范数 特征 λi中最大者 λ1的平方根，其中 A^H A 的 置共 矩 ） ； ∞ - 范数：║ A║∞ = max{ ∑|a1j|, ∑|a2j| ,..., ∑|amj| } （行和范数， 元素 之和的最大 ） ( 其中 ∑ |a1j| 第一行元素 的和，其余 似） ； ； ,即A'A

A 每一行

其它的 p- 范数 没有很 的表达式。 于 p- 范数而言，可以 明║ A║p=║A^H║q，其中 p 和 q 是共 指 。 的情形可以直接 ：║ A║1=║A^H║∞，║ A║2=║A^H║2，一般情形 需要利用 ║ A║p=max{y^H*A*x：║ x║p=║y║q=1} 。

非诱导范数 有些矩 范数不可以由向量范数来 ，比如常用的 Frobenius 范数 ( 也叫 Euclid 范数， 称 F- 范数或者 E- 范数 ) ： ║A║F= ( ∑∑

aij^2 )^1/2 (A

全部元素平方和的平方根

) 。

容易 F- 范数是相容的，但当 min{m,n}>1 F- 范数不能由向量范数 (||E11+E22|

|F=2>1) 。

可以 明任一种矩 范数 有与之相容的向量范数。例如定 ║x║=║X║，其中 X=[x,x, ⋯,x] 是由 x 作 列的矩 。 由于向量的 F- 范数就是 2- 范数，所以 F- 范数和向量的 2- 范数相容。另外 有以下 ： ║AB║F <= ║A║F ║B║2 以及 ║AB║F <= ║A║2 ║B║F

矩阵的谱半径和范数的关系 定 ： A 是 n 方 ，λi 是其特征 ， i=1,2,

⋯,n 。 称特征 的 的最大 A

的 半径， ρ(A) 。 注意要将 半径与 范数 (2- 范数 ) 区 开来， 范数是指 A 的最大奇异 ，即 A^H*A 最大 特征 的算 平方根。 半径是矩 的函数，但不是矩 范数。 半径和范数的关系是以下几个 ： 定理 1： 半径不大于矩 范数，即 ρ(A) ≤║ A║。 因 任一特征 λ,x,Ax= λx，可得 Ax=λx。两 取范数并利用相容性即得 果。 定理 2： 于任何方 A 以及任意正数 e，存在一种矩 范数使得║ A║定理 3(Gelfand 定理 ) ：ρ (A)=lim_{k - >∞}

║A^k║^{1/k} 。

利用上述性 可以推出以下两个常用的推 ： 推 1：矩 序列 I,A,A^2,

⋯A^k, ⋯ 收 于零的充要条件是 ρ(A)<1 。

推 2： 数 I+A+A^2+... 收 到 (I-A)^{-1} 的充要条件是 ρ(A)<1 。

酉不变范数 定 ：如果范数║˙║ 足║ A║=║UAV║ 任何矩 A 以及酉矩 U,V 成立，那么 个 范数称 酉不 范数。 容易 ， 2- 范数和 F- 范数是酉不 范数。因 酉 不改 矩 的奇异 ，所以由奇 异 得到的范数是酉不 的，比如 2- 范数是最大奇异 ， F- 范数是所有奇异 成的向量的 2 - 范数。 反 来可以 明，所有的酉不 范数都和奇异 有密切 系： 定理 (Von Neumann 定理 ) ：在酉不 范数和 称度 函数 (symmetric gauge function) 之 存在一一 关系。 也就是 任何酉不 范数事 上就是所有奇异 的一个 称度 函数。