《周国标师生交流讲席010》 向量和矩阵的范数的若干难点导引(二) 一． 矩阵范数的定义 引入矩阵范数的原因与向量范数的理由是相似的，在许多场合需要“测量”矩阵的“大小”，比如矩阵序列的收敛，解线性方程组时的误差分析等，具体的情况在这里不再复述。 最容易想到的矩阵范数，是把矩阵m n A C ?∈可以视为一个mn 维的向量（采用所谓“拉 直”的变换），所以，直观上可用mn C 上的向量范数来作为m n A C ?∈的矩阵范数。比如 在1l -范数意义下，111 ||||||m n ij i j A a === ∑∑( ) 12 tr()H A A =； （） 在2l -范数意义下，1 2 211||||||m n F ij i j A a ==??= ??? ∑∑， （） 注意这里为了避免与以后的记号混淆，下标用“F ”，这样一个矩阵范数，称为Frobenius 范数，或F-范数。可以验证它们都满足向量范数的3个条件。 那么是否矩阵范数就这样解决了因为数学上的任一定义都要与其对象的运算联系起来，矩阵之间有乘法运算，它在定义范数时应予以体现，也即估计AB 的“大小”相对于A B 与的“大小”关系。 定义1 设m n A C ?∈，对每一个A ，如果对应着一个实函数()N A ，记为||||A ，它满足以下条件： （1）非负性：||||0A ≥； （1a ）正定性：||||0m n A O A ?=?= （2）齐次性：||||||||||,A A C ααα=∈； （3）三角不等式：||A ||||||||||||,m n A B A B B C ?+≤+?∈ 则称()||||N A A =为A 的广义矩阵范数。进一步，若对,,m n n l m l C C C ???上的同类广义矩阵 范数||||?，有 （4）（矩阵相乘的）相容性：||A ||||||||||||AB A B ≤， n l B C ?∈， 则称()||||N A A =为A 的矩阵范数。 我们现在来验证前面（）和（）定义的矩阵范数是否合法我们这里只考虑（）,把较容易的（）的验证留给同学们， 三角不等式的验证。按列分块，记1212(,,,),(,,,)n n A a a a B b b b ==。 2 22112||)(,),(),(||||||F n n F b a b a b a B A +++=+ 2 222222211||||||||||||n n b a b a b a ++++++= ()()2 2 121222||||||||||||||||n n a b a b ≤++ ++ ()()()2 2 2 2 122121222122||||||||2||||||||||||||||||||||||n n n n a a a b a b b b =+ +++ +++ + 对上式中第2个括号内的诸项，应用Cauchy 不等式，则有 222||||||||2||||||||||||F F F F F A B A A B B +≤++2 (||||||||)F F A B =+ （） 于是，两边开方，即得三角不等式。 再验证矩阵乘法相容性。
3.4 向量和矩阵范数 3.4.1 内积与向量范数 为了研究方程组Ax=b解的误差和迭代法收敛性，需对向量及矩阵的"大小"引进一 种度量，就要定义范数，它是向量"长度"概念的直接推广，通常用表示n维实向量空间，表示n维复向量空间. 定义4.1设(或)，，，实数或 复数，称为向量x与y的数量积也称内积. 非负实数，称为向量x的欧氏范数或2-范数. 定理4.1设设(或)则内积有以下性质： (1) ，当且仅当x=0时等号成立； (2) ,或； (3) ,或； (4) ； (5) (3.4.1) 称为Cauch-Schwarz不等式. (6) ，称为三角不等式. 定义4.2向量的某个实值函数N(x)，记作，若满足下列条件： (1) ‖x‖≥0,当且仅当x=0时等号成立(正定性)； (2) (齐次性)； (3) (三角不等式)； 则称是上的一个向量范数.
对于，由内积性质可知它满足定义4.2的三个条件，故它是一种向量范数.此外还有以下几种常用的向量范数. (称为∞-范数) (称为1-范数) 容易验证及均满足定义4.2的三个条件.更一般的还可定义 但只有p=1,2,∞时的三种范数是常用的向量范数. 例如给定,则可求出 定理4.2设是上任一种向量范数，则N(x)是向量x的分量的连续函数. 定理4.3设与是上任意两种向量范数，则存在常数，使 (3.4.2) 不等式称为向量范数等价性. 以上两定理证明可见［2］，［3］. 讲解： 在向量得内积（x,y）的性质中，定理4.1的（5）为Cauch-Schwarz不等式（3.4.1）是经常使用的，下面给出证明，显然当x＝0或y＝0时（3.4.1）成立，现设，考察 若取 则上式为 于是
矩阵范数的意义 几何方法是一种数学思维方法。函数和几何是数学的两条主要主线。我们学习各种函数及其性质，比如微积分、复变函数、实变函数、泛函等。而几何是函数形象表达，函数是几何的抽象描述，几何研究“形”，函数研究“数”，它们交织在一起推动数学向更深更抽象的方向发展。 函数图象联系了函数和几何，表达两个数之间的变化关系，映射推广了函数的概念，使得自变量不再仅仅局限于一个数，也不再局限于一维，任何事物都可以拿来作映射，维数可以是任意维，传统的函数图象已无法直观地表达高维对象之间的映射关系，这就要求我们在观念中，把三维的几何空间推广到抽象的n维空间。 由于映射的对象可以是任何事物，为了便于研究映射的性质以及数学表达，我们首先需要对映射的对象进行“量化”，取定一组“基”，确定事物在这组基下的坐标，事物同构于我们所熟悉的抽象几何空间中的点，事物的映射可以理解为从一个空间中的点到另一个空间的点的映射，而映射本身也是事物，自然也可以抽象为映射空间中的一个点，这就是泛函中需要研究的对象——函数。 从一个线性空间到另一个线性空间的线性映射，可以用一个矩阵来表达，矩阵被看线性作映射，线性映射的性质可以通过研究矩阵的性质来获得，比如矩阵的秩反映了线性映射值域空间的维数，可逆矩阵反映了线性映射的可逆，而矩阵范数反映了线性映射把一个向量映射为另一个向量，向量的“长度”缩放的比例。 并不是只有线性空间才有范数的定义，任意空间都可以引入范数，这样的空间称为赋范空间，使得这个空间可以被度量，如希尔伯特空间。 范数是把一个事物映射到非负实数，且满足非负性、齐次性、三角不等式，符合以上定义的都可以称之为范数，所以，范数的具体形式有很多种（由内积定义可以导出范数，范数还也可以有其他定义，或其他方式导出），要理解矩阵的算子范数，首先要理解向量范数的内涵。矩阵的算子范数，是由向量范数导出的，由形式可以知： 或方阵
《周国标师生交流讲席010》 向量和矩阵的范数的若干难点导引(二) 一． 矩阵范数的定义 引入矩阵范数的原因与向量范数的理由是相似的，在许多场合需要“测量”矩阵的“大小”，比如矩阵序列的收敛，解线性方程组时的误差分析等，具体的情况在这里不再复述。 最容易想到的矩阵范数，是把矩阵m n A C ?∈可以视为一个mn 维的向量（采用所谓“拉 直”的变换），所以，直观上可用mn C 上的向量范数来作为m n A C ?∈的矩阵范数。比如 在1l -范数意义下，111 ||||||m n ij i j A a === ∑∑( ) 12 tr()H A A =； （1.1） 在2l -范数意义下，1 2 211||||||m n F ij i j A a ==??= ??? ∑∑， （1.2） 注意这里为了避免与以后的记号混淆，下标用“F ”，这样一个矩阵范数，称为Frobenius 范数，或F-范数。可以验证它们都满足向量范数的3个条件。 那么是否矩阵范数就这样解决了？因为数学上的任一定义都要与其对象的运算联系起来，矩阵之间有乘法运算，它在定义范数时应予以体现，也即估计AB 的“大小”相对于A B 与的“大小”关系。 定义1 设m n A C ?∈，对每一个A ，如果对应着一个实函数()N A ，记为||||A ，它满 足以下条件： （1）非负性：||||0A ≥； （1a ）正定性：||||0m n A O A ?=?= （2）齐次性：||||||||||,A A C ααα=∈； （3）三角不等式：||A ||||||||||||,m n A B A B B C ?+≤+?∈ 则称()||||N A A =为A 的广义矩阵范数。进一步，若对,,m n n l m l C C C ???上的同类广义矩阵 范数||||?，有 （4）（矩阵相乘的）相容性：||A ||||||||||||AB A B ≤， n l B C ?∈， 则称()||||N A A =为A 的矩阵范数。 我们现在来验证前面（1.1）和（1.2）定义的矩阵范数是否合法？我们这里只考虑（1.2）,把较容易的（1.1）的验证留给同学们， 三角不等式的验证。按列分块，记1212(,, ,),(,,,)n n A a a a B b b b ==。 2 22112||)(,),(),(||||||F n n F b a b a b a B A +++=+ 2 222222211||||||||||||n n b a b a b a ++++++= ()()2 2 121222||||||||||||||||n n a b a b ≤++ ++ ()()()2 2 2 2 122121222122||||||||2||||||||||||||||||||||||n n n n a a a b a b b b =+ +++ +++ + 对上式中第2个括号内的诸项，应用Cauchy 不等式，则有 222||||||||2||||||||||||F F F F F A B A A B B +≤++2 (||||||||)F F A B =+ （1.3） 于是，两边开方，即得三角不等式。
§8 向量,矩阵范数，矩阵的条件数 一 、 向量、矩阵范数 为了讨论线性方程组近似解的误差估计与研究解方程组迭代法的收敛性，需要在)(n n n R R ?或中引进向量序列(或矩阵序列)极限概念。为此，这就需要对量空间n R (或n n R ?矩阵空间)元素的“大小”引进某种度量即 向量范数(或矩阵范数)即距离的概念。 (一)向量范数：向量范数是3R 中向量长度概念的推广。 },{1为复数i n n x x x x x C ??????????== 称为n 维复向量空间。 },)({为复数ij n n ij n n a a A A C ??==称为n n ?复矩阵空间。 (2)设n n n C A C x ?∈∈,,称T n H x x x x =≡),,(1 为x 的共轭转置， T H A A =称为A 共轭转置矩阵。 在许多应用中，对向量的范数(对向量的“大小”的度量)都要求满足正定条件，齐次条件和三角不等式，下面给出向量范数的抽象定义。 n R x ∈(或n C x ∈)的某个实值非负函数 x x N ≡)(，如果满足下述条件 (1)正定性 00,0=??=≥x x x (2)齐次性 x ax α=其中R ∈α(或C ∈α)
(3)三角不等式 )(,,n n C R y x y x y x ∈∈?+≤+或，称x x N ≡)(是n R 上(或n C )一个向量范数(或为模)。 由三角不等式可推出不等式 (4)y x y x -≤- 下面给出矩阵计算中一些常用向量范数。 设)(),,(1n n T n C x R x x x ∈∈=或 (1)向量的“∞”范数 i n i x x x N ≤≤∞ ∞=≡1max )( (2)向量的“1”范数 ∑==≡n i i x x x N 1 1 1)( (3)向量的“2”范数 2/11 2 2 /12 2)() ,()(∑===≡n i i x x x x x N (4)向量的能量范数 设n n R A ?∈为对称正定阵 2/1),()(x Ax x x N R x A A n =≡→∈? 称为向量的能量范数。 设n R x ∈(或n C x ∈)，则)(),(),(12x N x N x N ∞是n R 上(或n C )的向量范数。 证明 只验证三角不等式：对任意n R y x ∈,，则222 y x y x +≤+ 利用哥西不等式：22 ),(y x y x ≤，则有 ),(22 y x y x y x ++=+),(),(2),(y y y x x x ++= 22 2 2 22 2y y x x ++≤222))(y x += 对任何n R y x ∈,则 (1) ∞∞ ≤≤x n x x 2