常见的矩阵范数

矩阵的范数

文章目录

• 前言

• 一、诱导范数（Induced norm）

•

• 谱范数

• 二、向量式范数（Entry-wise norm）

•

• F-范数

• 三、Schatten 范数（Schatten norm）

• 四、矩阵2-范数

• 总结

前言

矩阵分析学习笔记之矩阵范数。三类重要的矩阵范数：诱导范数（Induced norm），向量式范数（Entry-wise norm），Schatten 范数（Schatten norm）。

矩阵 A ∈ K m × n A\in K^{m\times n}A∈Km×n 表示其定义在实数域或者复数域上。

一、诱导范数（Induced norm）

诱导范数也称算子范数（operator norm）。诱导 p-范数的定义如下：

∥ A ∥ p = s u p x ≠ 0 ∥ A x ∥ p ∥ x ∥ p \Vert A\Vert_p=\underset{x\neq 0}{\rm sup}\frac{\Vert Ax

\Vert_p}{\Vert x\Vert_p}∥A∥p=x=0sup∥x∥p∥Ax∥p

特别的，当 p = 1 p=1p=1 时，有

∥ A ∥ 1 = max ⁡ 1 ≤ j ≤ n ∑ i = 1 m ∣ a i j ∣ \Vert A\Vert_1=\max_{1\le j\le n}\sum_{i=1}^{m}\vert

a_{ij}\vert∥A∥1=1≤j≤nmaxi=1∑m∣aij∣

也就是绝对值的列和的最大值。

当 p = ∞ p=\inftyp=∞ 时，有

∥ A ∥ ∞ = max ⁡ 1 ≤ i ≤ m ∑ j = 1 n ∣ a i j ∣ \Vert A\Vert_{\infty}=\max_{1\le i\le

m}\sum_{j=1}^{n}\vert a_{ij}\vert∥A∥∞=1≤i≤mmaxj=1∑n∣aij∣

线性代数中的基础概念常见符号表示，向量范数与矩阵范数

常见的符号表示

\mathbb{R} : 实数集

\mathbb{C} : 复数集

\mathbb{R}^n : n维实数空间

\mathbb{C}^n : n维复数空间

\mathbb{R}^{m\times n} : 所有m \times n的实矩阵构成的集合

\mathbb{C}^{m\times n} : 所有m \times n的复矩阵构成的集合

\mathbf{x} : 列向量

[\mathbf{x}]_i, x_i : 向量\mathbf{x}的第i个元素

\mathbf{A} :矩阵

a_{ij}, [\mathbf{A}]_{ij}:矩阵第i行的第j个元素

向量：\mathbf{x} \in \mathbb{R}^n即

\mathbf{x} = \begin{bmatrix} x_1 \\ x_2 \\ \vdots \\

x_n \end{bmatrix}, x_i \in \mathbb{R}, i \in \{1, 2,

\cdots, n\}\\

向量的转置：\mathbf{x} \in \mathbb{R}^n, \mathbf{x}^T

= [x_1, x_2, \cdots, x_n] (列向量转置成为了行向量) 向量的共轭转置：\mathbf{x} \in \mathbb{C}^n,

\mathbf{x}^H = [x_1^*, x_2^*, \cdots, x_n^*]（x_i与x_i^*互为共轭）

矩阵:\mathbf{A} \in \mathbb{R}^{m \times n}即

\begin{bmatrix} a_{11} & a_{12} & \cdots & a_{1n} \\

a_{21} & a_{22} & \cdots & a_{2n} \\ \vdots & & &

\vdots \\ a_{m1} & a_{m2} & \cdots & a_{mn} \\

- 1 - 分块矩阵的范数

分块矩阵的范数是指将一个大矩阵划分成若干个小块后，对每个小块进行范数运算，再将小块范数的结果进行组合计算得到的矩阵范数。分块矩阵的范数在矩阵理论和计算机科学中具有重要的应用价值，特别是在大规模数值计算和分布式计算中得到广泛应用。

分块矩阵的范数可以用多种方式定义，常见的有Frobenius范数、1-范数、2-范数和无穷大范数等。其中，Frobenius范数是最常见的一种，它定义为分块矩阵中所有小块的Frobenius范数的平方和的开方。1-范数和无穷大范数分别是将分块矩阵中各小块的绝对值之和和最大值定义为矩阵范数。2-范数是指将分块矩阵视为一个算子，通过对算子的特征值进行计算得到的范数。

分块矩阵的范数计算方法有多种，常见的是通过奇异值分解、特征值分解、迭代法等方式进行计算。在实际应用中，还需要考虑到计算复杂度、精度和稳定性等因素，选择合适的计算方法对于提高计算效率和精度具有重要意义。

总之，分块矩阵的范数是矩阵理论和计算机科学中的重要概念，对于解决大规模数值计算和分布式计算中的问题具有重要意义。

第四章 矩阵范数理论及其应用

知识要点：

1、向量范数及其性质（范数与赋范空间，n

维向量的1-

范数

1x

、2-

范数

2x

、p

-

范数

px

和

范数x



，

p

plimxx





，

aPaxPx

，

2HH

PxPxxPPx

，有限维赋范

空间的范数是等价的）

2、矩阵范数及其相容性（Frobenius

范数，

FEn

，

相容性：ABAB

，1E

）

3、算子范数（定义，列范数，行范数，谱范数）

4、矩阵范数的应用（矩阵序列及幂级数的收敛性，矩阵条件数，摄动理论、矩阵的谱半径）

§4.1 向量范数及其性质

一、范数与赋范线性空间

定义1：如果线性空间V

中的任一向量x

，都对应—个实值函数()fx

（记为x

），并满足

以下三个条件（称为范数公理）：

(1)非负性：0x

时

, x

＞0；0x

时

, x

=0。

(2)

齐次性：ax

=ax

,aK

，xV

。

(3)

三角不等式：xy

≤x+y，,xyV

。

则称x

为V

上向量x

的范数（norm），V

称为赋范线性空间（normed linear space）。 易证xy满足距离公理，称之为x

与y

的范数诱导的距离。

若0

nxx

，则称

nx

收敛于x

，记为

nxx

。

例1：对于连续函数空间[,]Cab

中的向量()fx

，

可如下定义范数为：

1()()b

aftftdt，

()max()

atbftft





，1

()()bp

p

p

aftftdt







，1p

。分别称之为1-范数，

-

范数，p

-范数。

注：需要用到数学专业的一些函数不等式，才能证明上述范数的正确性。

性质1：对于赋范线性空间V

上任意的x

，定义实函数()fxx

，则()fx

为V

上的连续

函数，即

0xx

时，

0()()fxfx

，其中

0xV

。

证明

：由

000()()fxfxxxxx

可知，

0xx

时，

0()()fxfx

。

因此，()fx

为V

上的连续函数。

性质2：设P

为n

阶可逆矩阵，对于n

维向量n

xC，

1x为n

C中的一个范数，令