2-6向量范数与矩阵范数的相容性

《周国标师生交流讲席010》向量和矩阵的范数的若干难点导引(二)一.矩阵范数的定义引入矩阵范数的原因与向量范数的理由是相似的，在许多场合需要“测量”矩阵的“大小”，比如矩阵序列的收敛，解线性方程组时的误差分析等，具体的情况在这里不再复述。

最容易想到的矩阵范数，是把矩阵A C m n可以视为一个mn维的向量(采用所谓“拉直”的变换)，所以，直观上可用C mn上的向量范数来作为A C m n的矩阵范数。

比如m n 1在∣1 -范数意义下，IIAl1 ；二Ia ijI= tr(A H A) 2; (1.1 )1Zl mn A2在I2-范数意义下，∣∣A∣∣F=∑∑同|2，(1.2)Iy j A J注意这里为了避免与以后的记号混淆，下标用“F”，这样一个矩阵范数，称为Frobenius范数，或F-范数。

可以验证它们都满足向量范数的3个条件。

那么是否矩阵范数就这样解决了？因为数学上的任一定义都要与其对象的运算联系起来，矩阵之间有乘法运算，它在定义范数时应予以体现，也即估计AB的“大小”相对于A与B的“大小”关系。

定义1设A C mn,对每一个A ,如果对应着一个实函数N(A),记为IlAll ,它满足以下条件：(1)非负性：|| A||_0 ;(1 a)正定性：A=O mn= IIAII= 0(2)齐次性：||〉A||=| |||A||, • C ;(3)三角不等式:||A||A B||—||A|| ||B||, -B C m n则称N(A)=|| A||为A的广义矩阵范数。

进一步，若对C m n,C n 1C m l上的同类广义矩阵范数|| || ,有(4)(矩阵相乘的)相容性:|| A || AB ||_|| A|||| B ||, B C n I , 则称N(A) =||A||为A的矩阵范数。

我们现在来验证前面(1.1 )和(1.2 )定义的矩阵范数是否合法？我们这里只考虑(1.2 ),把较容易的(1.1 )的验证留给同学们，三角不等式的验证。

《周国标师生交流讲席010》向量和矩阵的范数的若干难点导引(二)一． 矩阵范数的定义引入矩阵范数的原因与向量范数的理由是相似的，在许多场合需要“测量”矩阵的“大小”，比如矩阵序列的收敛，解线性方程组时的误差分析等，具体的情况在这里不再复述。

最容易想到的矩阵范数，是把矩阵m nA C ⨯∈可以视为一个mn 维的向量（采用所谓“拉直”的变换），所以，直观上可用mn C上的向量范数来作为m nA C⨯∈的矩阵范数。

比如在1l -范数意义下，111||||||mniji j A a===∑∑()12tr()HA A =； （）在2l -范数意义下，12211||||||mnF ij i j A a ==⎛⎫= ⎪⎝⎭∑∑， （） 注意这里为了避免与以后的记号混淆，下标用“F ”，这样一个矩阵范数，称为Frobenius范数，或F-范数。

可以验证它们都满足向量范数的3个条件。

那么是否矩阵范数就这样解决了因为数学上的任一定义都要与其对象的运算联系起来，矩阵之间有乘法运算，它在定义范数时应予以体现，也即估计AB 的“大小”相对于A B 与的“大小”关系。

定义1 设m nA C ⨯∈，对每一个A ，如果对应着一个实函数()N A ，记为||||A ，它满足以下条件：（1）非负性：||||0A ≥；（1a ）正定性：||||0m nA O A ⨯=⇔=（2）齐次性：||||||||||,A A C ααα=∈；（3）三角不等式：||A ||||||||||||,m nA B A B B C ⨯+≤+∀∈则称()||||N A A =为A 的广义矩阵范数。

进一步，若对,,m nn l m l C C C ⨯⨯⨯上的同类广义矩阵范数||||•，有（4）（矩阵相乘的）相容性：||A ||||||||||||AB A B ≤， n lB C⨯∈，则称()||||N A A =为A 的矩阵范数。

我们现在来验证前面（）和（）定义的矩阵范数是否合法我们这里只考虑（）,把较容易的（）的验证留给同学们，三角不等式的验证。

第四章 矩阵范数理论及其应用知识要点：1、向量范数及其性质（范数与赋范空间，n 维向量的1-范数1x 、2-范数2x 、p -范数px 和∞范数x∞，pp lim xx ∞→∞=，aP a xPx =，2H H PxPx x P Px ==，有限维赋范空间的范数是等价的）2、矩阵范数及其相容性（Frobenius 范数，FEn =，相容性：AB A B ≤，1E ≥）3、算子范数（定义，列范数，行范数，谱范数）4、矩阵范数的应用（矩阵序列及幂级数的收敛性，矩阵条件数，摄动理论、矩阵的谱半径）§4.1 向量范数及其性质一、范数与赋范线性空间定义1：如果线性空间V 中的任一向量x ，都对应—个实值函数()f x （记为x ），并满足以下三个条件（称为范数公理）：(1)非负性：0x ≠时, x ＞0；0x =时, x =0。

(2)齐次性：ax =a x ,a K ∈，x V ∈。

(3)三角不等式：x y +≤x +y ，,x y V ∈。

则称x 为V 上向量x 的范数（norm ），V 称为赋范线性空间（normed linear space ）。

易证x y -满足距离公理，称之为x 与y 的范数诱导的距离。

若0n x x -→，则称nx 收敛于x ，记为n x x →。

例1：对于连续函数空间[,]C a b 中的向量()f x ，可如下定义范数为：1()()baf t f t dt =⎰，()max ()a t bf t f t ∞≤≤=，1()()bpppa f t f t dt ⎡⎤=⎢⎥⎣⎦⎰，1p ≤<∞。

分别称之为1-范数，∞-范数，p -范数。

注：需要用到数学专业的一些函数不等式，才能证明上述范数的正确性。

性质1：对于赋范线性空间V 上任意的x ，定义实函数()f x x =，则()f x 为V 上的连续函数，即0x x →时，0()()f x f x →，其中0x V ∈。

矩阵f范数与向量2范数相容证明在线性代数中，矩阵f范数和向量2范数是两个常见的范数概念。

它们在矩阵和向量的运算和分析中起着重要作用。

而证明矩阵f范数与向量2范数相容的性质，则是深入了解这两个概念的关键之一。

我们来简单地回顾一下矩阵f范数和向量2范数的定义。

矩阵A的f 范数定义如下：（1）. 对于一个n×m的矩阵A，其f范数定义为：||A||_f = (\sum_{i=1}^{n} \sum_{j=1}^{m} |a_{ij}|^2)^{1/2}其中a_ij表示矩阵A的第i行第j列的元素，||A||_f表示矩阵A的f范数。

而对于一个n维的向量x，其2范数定义为：（2）. 向量x的2范数定义为：||x||_2 = (\sum_{i=1}^{n} |x_i|^2)^{1/2}其中x_i表示向量x的第i个元素，||x||_2表示向量x的2范数。

我们的任务是要证明矩阵f范数与向量2范数的相容性。

也就是说，我们需要证明对于任意的n×m矩阵A和n维向量x，有以下关系成立：（3）. ||Ax||_2 ≤ ||A||_f * ||x||_2现在让我们来证明这个性质。

我们要从矩阵A的f范数定义出发，利用向量x的2范数定义来推导出式（3）。

我们可以将矩阵A表示为列向量a_1, a_2, ..., a_m的形式，即A =[a_1, a_2, ..., a_m]，其中a_i表示矩阵A的第i列向量。

根据矩阵向量乘法的定义，我们有Ax = x_1*a_1 + x_2*a_2 + ... +x_m*a_m。

其中x_i表示向量x的第i个元素。

在这里，我们可以利用矩阵A的f范数定义进行变换。

我们可以将矩阵A的f范数表示为矩阵A每一列向量的2范数的最大值。

也就是说，（4）. ||A||_f = max{||a_1||_2, ||a_2||_2, ..., ||a_m||_2}而根据向量2范数的性质，我们知道对于任意的向量y，有||Ay||_2 ≤ ||A||_f * ||y||_2。

矩阵论/矩阵分析视频公开课武汉理工大学理学院统计学系金升平本视频内容：矩阵范数与向量范数的相容性矩阵范数诱导的向量范数矩阵范数与向量范数的相容性的概念，为矩阵与向量的联合起来进行分析，提供了理论保障“矩阵范数诱导的向量范数”将告诉我们：对于任意矩阵范数，都可找到与之相容的向量范数二、矩阵范数与向量范数的相容性1. 矩阵范数与向量范数的相容性定义3,v m v Ax A x ≤⋅则称矩阵范数∙m 与向量范数∙v 相容.设∙m 是Cn×n上矩阵范数，∙v 是C n上向量范数，如果, ,n nnA Cx C ⨯∀∈∈下标使用的原因：矩阵--m atrix ，向量--v ector定理1(1) 矩阵范数分别与相容；1, m F ⋅⋅12, ⋅⋅(2) 矩阵范数与向量范数相容.m ∞⋅12, , ∞⋅⋅⋅以矩阵范数与向量范数为例证之.1m ⋅1⋅设(),n nij A a C⨯=∈()12,,,.Tnn x x x x C =∈则11111nnnnij j ij i j i j jAx a x a x =====≤∑∑∑∑和的绝对值小于等绝对值之和。

将x j 放大11111.n n ij m i j nk k a x A x ===⎛⎫⎪⎝≤⎭=⋅∑∑∑2. 由矩阵范数诱导的向量范数, .Hnvmx xax C =∈设是上一个矩阵范数，取,0.na C a ∈≠且m⋅n nC⨯定义可以证明，它是上的向量范数，称为由矩阵范数nC ∙m所诱导的向量范数.事实上，(1) 正定性：当0≠x ∈C n时，xa H≠OHvmxxa =>而当x =0Hxxa ==（2）齐次性：当时，C λ∈HHvvmmxxaxaxλλλλ===（3）三角不等式：()HH Hv mmx y x y axa ya+=+=+HHmmxaya≤+v vx y=+定理2Cn×n上任意一矩阵范数∙m与它所诱导的向量范数∙v 相容.()Hv mAx Ax a=证明只需证相容性即可()HmA xa=()Hm mA xa≤m vA x=See you next time武汉理工大学理学院统计学系金升平矩阵论/矩阵分析视频公开课矩阵范数与向量范数的相容性矩阵范数诱导的向量范数（完）下一讲内容：向量范数诱导的矩阵范数。

《周国标师生交流讲席010》向量和矩阵的范数的若干难点导引(二)一． 矩阵范数的定义引入矩阵范数的原因与向量范数的理由是相似的，在许多场合需要“测量”矩阵的“大小”,比如矩阵序列的收敛,解线性方程组时的误差分析等,具体的情况在这里不再复述。

最容易想到的矩阵范数，是把矩阵m nA C ⨯∈可以视为一个mn 维的向量（采用所谓“拉直”的变换)，所以,直观上可用mn C上的向量范数来作为m nA C⨯∈的矩阵范数。

比如在1l -范数意义下,111||||||mniji j A a===∑∑()12tr()HA A =; （1.1)在2l -范数意义下,12211||||||mnF ij i j A a ==⎛⎫= ⎪⎝⎭∑∑,(1.2)注意这里为了避免与以后的记号混淆，下标用“F ”,这样一个矩阵范数,称为Fro ｂe ｎius 范数,或F-范数。

可以验证它们都满足向量范数的3个条件。

那么是否矩阵范数就这样解决了?因为数学上的任一定义都要与其对象的运算联系起来,矩阵之间有乘法运算,它在定义范数时应予以体现,也即估计AB 的“大小”相对于A B 与的“大小”关系。

定义1 设m nA C ⨯∈,对每一个A ，如果对应着一个实函数()N A ，记为||||A ，它满足以下条件:（1）非负性:||||0A ≥;(１a )正定性:||||0m nA O A ⨯=⇔=(2）齐次性：||||||||||,A A C ααα=∈;(3)三角不等式：||A ||||||||||||,m n A B A B B C ⨯+≤+∀∈则称()||||N A A =为A 的广义矩阵范数。

进一步，若对,,m nn l m l CC C ⨯⨯⨯上的同类广义矩阵范数||||•,有（4)（矩阵相乘的)相容性：||A ||||||||||||AB A B ≤， n lB C ⨯∈，则称()||||N A A =为A 的矩阵范数。

我们现在来验证前面（１．1）和（1．2)定义的矩阵范数是否合法？我们这里只考虑（1．2),把较容易的（1.1）的验证留给同学们,三角不等式的验证。

向量与矩阵范数在欧氏空间与酉空间中，我们通过向量的内积定义了下列的长度，对于一般的线性空间，能否引入一个类似于长度而又比其更广泛的概念呢？这就是范数的概念。

向量范数与矩阵范数是应用非常广泛的重要概念，从范数可导出向量与向量，矩阵与矩阵之间的距离，进而引进向量序列和矩阵序列收敛性问题.它是矩阵分析与计算的基础.§1 向量范数定义1．1 设V 是数域()或C R 上的线性空间，如果对于任意V ∈x 按照某种法则对应于一个实数x，且满足：1） 非负性0≥x .当且仅当=x 0时，0=x ； 2） 齐次性k k =x x；3） 三角不等式 对任意,V ∈x y 总有，+≤+x y x y；则称实数x为线性空间V 上向量x 的范数.简称向量范数.定义了范数的线性空间V 称为赋范线性空间.由定义1.1可以看出，向量范数是定义在线性空间上的非负实值函数，它具有下列性质：（1） 当≠x 0时，11||||=x x ；（2） 对任意向量V ∈x ，有||||||||-=x x ；（3）||||||||||||||y -≤-x y x ； （4）||||||||||||||y -≤+x y x .性质（1）与（2）是显然成立的，下面证明性质（3） 因为||||||||||||||||=-+≤-+x x y y x y y ， 所以||||||||||||-≤-x y x y .同理可证||||||||||||||()||||||-≤-=--=-y x y x x y x y ， 即||||||||||||-≥--x y x y .综上有||||||||||||||y -≤-x y x .若用y -代替性质（3）中的y ，便得到性质（4）.n C 上最著名的范数是p 范数，也称赫尔德（hölder ）范数11()nppi pk x ==∑x，T 12(,,,)n n x x x =∈x C .这里1p ≤<∞，其中最常用的是1,2p =时的p 范数，即11nik x ==∑x ；12221()ni k x ==∑x 。