向量2范数

- 1 - 向量的二范数

二范数：在向量组上，把相应的两个单位向量组之间所夹的内积称为二范数。其中S是内积， f是两向量组成的基， X是两向量的夹角。

首先，我们对向量进行一下分类。给定向量a和b，其中A和B是与ab垂直的向量。现在以这两个向量为标准，假设有两个相等向量c和d，那么就说这两个向量a和b可以通过与c和d方向相反、大小相等的向量进行线性转化。因此向量a=b，那么由于向量组的标准形式为：，那么向量组A与C可以互相转换。我们将这种由两个相等向量通过线性运算而产生的新向量称为一个新向量（或称基向量），它必须是向量组A与C的共同基向量。同理，向量a与d可以通过与c和d方向相反、大小相等的向量进行线性转化，即向量a=d。这种共同的基向量称为这两个向量的共同基向量。每个向量可以由向量组中任何一个向量转化而来，只要满足：，则转化后的向量仍然是这个向量的共同基向量。从这个角度看，我们可以认为这个向量是向量组的中心。任意两个向量都可以用共同基向量表示出来，这两个向量就叫做向量组的基向量。

这样，我们[gPARAGRAPH3]就可以证明了：在向量组上，把相应的两个单位向量组之间所夹的内积称为二范数。这里所说的范数并不指的是内积的范数，而是由这两个单位向量组之间的共同基向量决定的内积的范数。它们所具有的范数由所夹的内积决定。由于二范数总是正数，所以向量组上两个向量组之间所夹的二范数与所求二维空间 - 2 - 中两点的二维欧式距离，等于两个向量组的共同基向量。共同基向量为两向量的夹角，我们说向量a与b的夹角为二范数。再根据内积定义，可知有向量组A与C的共同基向量。当这两个向量组在空间有共同点时，则称它们共线，若两向量在该点有相同的向量值，则称这两个向量平行。设两向量a与b在P点有相同的向量值，则称a与b平行于P，记作ab=b，写成a=b，则称a与b平行的充要条件是一对二范数相等。

二范数和无穷范数的几何意义

一、二范数的几何意义

（一）向量二范数

1. 定义回顾

- 对于向量→x=(x_1,x_2,·s,x_n)，其二范数→x_2=√(x_1^2)+x_2^{2+·s

+x_n^2}。

2. 几何意义

- 在二维空间R^2中，向量→x=(x,y)的二范数→x_2 = √(x^2)+y^{2}，它表示向量→x的长度（或模）。从几何图形上看，若以原点(0,0)为起点，(x,y)为终点作向量→x，→x_2就是这个向量的长度，也就是连接原点和点(x,y)的线段的长度。

- 在三维空间R^3中，向量→x=(x,y,z)的二范数→x_2=√(x^2)+y^{2+z^2}同样表示向量的长度。例如，在一个长方体中，向量(x,y,z)表示从一个顶点出发到另一个顶点的有向线段，其二范数就是这个有向线段的长度。

- 推广到n维空间R^n，二范数→x_2仍然可以理解为向量→x的“长度”概念的推广，它是一个衡量向量大小的量。

（二）矩阵二范数

1. 定义回顾 - 对于矩阵A∈R^m× n，其诱导的二范数A_2=√(λ_{max)(A^TA)}，其中λ_{max}(A^TA)是矩阵A^TA的最大特征值。

2. 几何意义

- 矩阵A可以看作是一个线性变换。从几何角度看，A_2表示这个线性变换对向量长度的最大“拉伸”比例。例如，当一个单位向量→x（→x_2 = 1）经过线性变换A后得到向量A→x，A_2就是所有单位向量经过A变换后长度放大倍数的最大值。

二、无穷范数的几何意义

（一）向量无穷范数

1. 定义回顾

- 对于向量→x=(x_1,x_2,·s,x_n)，其无穷范数→x_{∞}=max{x_1,x_2,·s,x_n}。

2. 几何意义

- 在二维空间R^2中，向量→x=(x,y)的无穷范数→x_{∞}=max{x,y}。从几何上看，如果把向量→x看作是一个矩形的对角线向量（以原点为一个顶点，(x,y)为对角顶点的矩形），那么→x_{∞}就是这个矩形的最长边长。

3.4 向量和矩阵范数

3.4.1 内积与向量范数

为了研究方程组Ax=b解的误差和迭代法收敛性，需对向量及矩阵的"大小"引进一种度量，就要定义范数，它是向量"长度"概念的直接推广，通常用表示n维实向量空间，表示n维复向量空间.

定义4.1 设(或)，，，实数或复数，称为向量x与y的数量积也称内积.

非负实数，称为向量x的欧氏范数或2-范数.

定理4.1 设 设(或)则内积有以下性质：

(1) ，当且仅当x=0时等号成立；

(2) ,或；

(3) ,或；

(4) ；

(5) (3.4.1)

称为Cauch-Schwarz不等式.

(6) ，称为三角不等式.

定义4.2 向量的某个实值函数N(x)，记作，若满足下列条件：

(1) ‖x‖≥0,当且仅当x=0时等号成立(正定性)；

(2) (齐次性)；

(3) (三角不等式)；

则称是上的一个向量范数.

对于，由内积性质可知它满足定义4.2的三个条件，故它是一种向量范数.此外还有以下几种常用的向量范数.

(称为∞-范数)

(称为1-范数)

容易验证及均满足定义4.2的三个条件.更一般的还可定义

但只有p=1,2,∞时的三种范数是常用的向量范数.

例如给定,则可求出

定理4.2 设是上任一种向量范数，则N(x)是向量x的分量的连续函数.

定理4.3 设与是上任意两种向量范数，则存在常数，使

(3.4.2)

不等式称为向量范数等价性.

以上两定理证明可见［2］，［3］.

讲解：

在向量得内积（x,y）的性质中，定理4.1的（5）为Cauch-Schwarz不等式（3.4.1）是经常使用的，下面给出证明，显然当x＝0或y＝0时（3.4.1）成立，现设，考察

若取

则上式为

于是

两边开方则得（3.4.1）

向量范数平方

向量范数是一个非负实数，它测量向量在空间中的大小。向量的范数可以用多种方式定义，其中最常见的是欧氏范数（通常简称为“范数”）。

在数学中，给定一个向量x，在欧氏空间中，x的范数定义为：

其中sum表示求和符号。

当p=2时，这个范数就是欧几里得范数。至于向量范数的平方，我们可以将上述范数式中的p=2代入后得到x的范数平方，即：

当我们需要比较向量的大小时，经常会用到向量范数。在机器学习和统计学中，范数也经常用于正则化和规范化。

对于一个n维向量，我们可以考虑将向量中的每个坐标平方，并将平方和开平方，这就是所谓的欧几里得距离。但实际上，我们经常不需要求坐标之间的具体距离，只需要比较它们的大小，而向量范数就能很好地解决这个问题。

另一方面，范数的平方在计算上也有一些优点。例如，在优化算法中，我们常常需要最小化一个向量与矩阵相乘的结果的平方。通过将向量展开成行向量，我们可以将这个问题转化为最小化范数的平方。这样做不仅可以方便地应用梯度下降等优化算法，还可以避免使用根号函数，从而提高计算效率。

总之，向量范数是一个重要的概念，它在各个领域中都有广泛的应用，能够方便地测量向量的大小并且便于统计分析，同时它的平方形式在计算中也有很好的表现。