对矩阵分解及其应用
矩阵分解是指将一个矩阵表示为结构简单或具有特殊性质若干矩阵之积或之和，大体分为三角分解、QR 分解、满秩分解和奇异值分解。矩阵的分解是很重要的一部分内容，在线性代数中时常用来解决各种复杂的问题，在各个不同的专业领域也有重要的作用。秩亏网平差是测量数据处理中的一个难点，不仅表现在原理方面，更表现在计算方面，而应用矩阵分解来得到未知数的估计数大大简化了求解过程和难度。
1. 矩阵的三角分解
如果方阵A可表示为一个下三角矩阵L和一个上三角矩阵U之积，即A=LU 则称A可作三角分解。矩阵三角分解是以Gauss消去法为根据导出的，因此矩阵可以进行三角分解的条件也与之相同，即矩阵A的前n-1个顺序主子式都不为0, 即?k工0.所以在对矩阵A进行三角分解的着手的第一步应该是判断是否满足这个前提条件，否则怎么分解都没有意义。矩阵的三角分解不是唯一的，但是在一定的前提下，
A=LDU勺分解可以是唯一的，其中D是对角矩阵。矩阵还有其他不同的三角分解，比如Doolittle 分解和Crout 分解，它们用待定系数法来解求 A 的三角分解，当矩阵阶数较大的时候有其各自的优点，使算法更加简单方便。
矩阵的三角分解可以用来解线性方程组Ax=b。由于A=LU，所以Ax=b可以变换成LU x=b，即有如下方程组：
Ly = b
{
{Ux = y
先由Ly = b依次递推求得y i, y2, ........ ，y n，再由方程Ux = y依次递推求得X n，
x n-1 ， ... ，X1 .
必须指出的是，当可逆矩阵A不满足?k工0时，应该用置换矩阵P左乘A以便使PA 的n个顺序主子式全不为零，此时有：
Ly = pb
{
{ Ux = y 这样，应用矩阵的三角分解，线性方程组的解求就可以简单很多了。
2. 矩阵的QF分解
矩阵的QR分解是指，如果实非奇异矩阵A可以表示为A=QR其中Q为正交矩阵，R为实非奇异上三角矩阵。QR分解的实际算法各种各样，有Schmidt正交方
法、Give ns方法和Householder方法，而且各有优点和不足。
2.1 . Schmidt正交方法的QR分解
Schmidt正交方法解求QR分解原理很简单，容易理解。步骤主要有：1)把
A写成m个列向量a= (a〔，a2， ... ，a m)，并进行Schmidt正交化得ct = (a 1，
a 2，.. ， a m ) ；2)单位化，并令Q= (B 1，B 2， . ， B m )，R=diag (a 1，
，a m ) K其中a= K; 3) A=QR.这种方法来进行QR分解，过程相对
OC 2，
较为复杂，尤其是计算量大，尤其是阶数逐渐变大时，就显得更加不方便。
2.2 . Give ns方法的QR分解
Give ns方法求QR分解是利用旋转初等矩阵，即Give ns矩阵T j (c,s)来得到
的，T j (c,s)是正交矩阵，并且det(T j (c,s))=1 。T j (c,s)的第i行第i列和第j
行第j列为cos=，第i行第j列和第j行第i列分别为sinO和-sin 2，其他的
都为0.任何n阶实非奇异矩阵A可通过左连乘T j (c,s)矩阵(乘积为T)化为上三角矩阵R,另Q=T,就有A=QR该方法最主要的是在把矩阵化为列向量的基础上找出c和s，然后由此把矩阵的一步步向上三角矩阵靠近。Give ns方法相对Schmidt正交方法明显的原理要复杂得多，但是却计算量小得多，矩阵T j (c,s)
固有的性质很特别可以使其在很多方面的应用更加灵活。
2.3 . Householder 方法的QR分解
Householder方法分解矩阵是利用反射矩阵，即Householder矩阵H= E-
2uu T，其中u是单位列向量，H是正交矩阵，detH = -1。可以证明，两个H矩阵的乘积就是Give ns矩阵，并且任何实非奇异矩阵A可通过连乘Householder 矩阵(乘积为S)化为上三角矩阵R,则A= QR这种方法首要的就是寻找合适的单位列向量去构成矩阵H,过程和Give ns方法基本相似，但是计算量要小一些。
矩阵的QR分解可以用来解决线性最小二乘法的问题，也可以用来降低矩阵求逆的代价。矩阵的求逆是件不小的工程，尤其是阶数慢慢变大的情况时，而用先把矩阵QR分解成正交矩阵和上三角矩阵，就容易多了，况且正交矩阵的转置就是逆，这一点是其他的矩阵分解无法比拟的。在解求线性方程组中，如果系数矩阵的阶数比较大，可以利用QR分解来使计算简单化。另外，QR分解考虑的是n阶矩阵，其他的矩阵是不能用这种方法进行分解，由于QR分解的这一前提条件，使得下面提到的满秩矩阵分解和奇异值分解就有了其特殊的意义。
3. 满秩分解
满秩分解也称最大秩分解，前面的QR分解是面对n阶矩阵的，而满秩分解可以处理长方阵。满秩分解是指，把秩为r的mxn矩阵A分解成A=FG其中F 是秩为r的mxr阶矩阵，G是秩为r的rxn阶矩阵。满秩矩阵的解求可以通过初等变换法，但是必须经过多次求逆，所以就利用Hermite 行标准形来完成。把矩阵A经过变换成为Hermite行标准形B，B的j i,j 2, ......................................................................................... ，j r列为单位矩阵I m的
前r列，另A的第j i,j 2,……，j r列为矩阵F，B的前r行为矩阵G,则有A=FG 在广义逆中，满秩分解有很多的应用。在证明A{1}的存在性时就需要用到Hermite行标准形来得到“对于任一的矩阵，总是存在非奇异矩阵Q和置换矩阵P,使QAP= (E r 00) ”，之后才能构造X= P(E r：)Q来证明A {1}是存在的。用矩阵的满秩分解还能构造A+，若矩阵A有满秩分解，即A=FG则可以证明有A+ =
G H(F H AG H)-1 F H。
4. 奇异值分解矩阵的奇异值分解是线性代数中一种重要的矩阵分解，在最优化问
题、特征
值问题、最小二乘问题和广义逆问题及统计学问题中都有重要的应用。对秩为r 的mxn阶矩阵A进行奇异值分解的步骤是：1)求得AA的特征值Y，Y,……Y，
2
及对应的特征向量并正交单位化，得矩阵V，使得V H(A H A)V=M 00], M =
diag(仃Y,……Y n); 2)将V的前r列作为V，令5 = AV1H-1，再扩张U成m 阶的矩阵U; 3)那么A= 5》0] V H。从计算过程中可以看出，矩阵的奇异值分解解求是由矩阵的特征值开始的，因此这种分解自然和特征值的问题有莫大联系的。
在广义逆问题中，矩阵的奇异值分解的作用一样不可代替。在证明A{1，2，3}的存在性时，首先就需要用奇异分解来得到一个结论：r(A H A)= r(AA H)= r(A H)=
r(A)，由此得到的A H可以由AA表示，再去证明A {1，2，3}应该满足的条件就方便得多了。另外，在构造A+的过程中也有应用，若A有奇异值分解A+ =
U（M 0））V H，则有可以得到A = V（M-1 0 ）。
5. 奇异值分解应用于秩亏网平差
在经典平差中，都是以已知的起算数据为基础，将控制网固定在已知数据上，比如水准网必须至少知道已知网中某一点的高程，平面网至少要已知一个点的坐标、
一条边的边长和一条边的方位角。此时，误差方程的系数矩阵B 总是列满秩的，由此得出的法方程系数阵N = B T PB是个对称的满秩方阵，即R（N） = R（B）, 法方程有唯一解。当网中没有必要的起算数据时（引起秩亏的原因），网中所有点均为待定点，就为自由网，B为列亏矩阵，秩亏数为d（必要的起算数据个数）, 误差方程为：
V = Bx~ - l 组成的法方程为：
B T PBx~ - B T Pl = 0
若是按照直接解法用如下的方程组来解求x 的解：
V= Bx~ - l
{B T PBx~ - B T Pl = 0 （a）V T PV= min
可以得到|B T PB| = 0，即该方程组有解但不唯一，虽然满足最小二乘准则，但有x~无穷多组解，无法求得x~的唯一解，这是与经典平差的根本区别。
为了求得唯一解，必须增加新的约束条件。秩亏自由网平差就是在满足最小
二乘V T PV= min和最小范数x~T x~ = min的条件下，求参数一组最佳估值的平差
方法，也就是通过对如下的方程组来解求x~的唯一解：
V = Bx~ - l
{
B T PBx~ - B T Pl = 0
{ V T PV= min
x~T x~ = min
这是个复杂的方程组，如果按部就班按照正常求解的方法是很困难的，下面我们把矩阵的奇异值分解融合进来。
我们首先根据前面矩阵奇异分解的步骤求得矩阵 B 的奇异值分解： B =
U[M 0] V H,在此基础上令矩阵G = V[M-1°] U H。通过矩阵理论的学习我们知
0 0 0 0
道，我们可以通过如下的方式来验证G就是B的广义逆：
（1）BGB= U[M 0]V H V[M 0]U H U[M 0]V H= U[M 0]V H= B
0 0 0 0 0 0 0 0
(2)GBG=V[M0-1
0] U H U[M
00
0] V H V[M
00
0]
-1
U H = V[
M-10] U H
00
=G
(3)(BG)H= (U[M000]V H V[M0-10] U H)H =
BG
(4)(GB)H = (V [ M0-
10
0]U H U[M000]V H)H=GB
我们知道，对于不相容方程组Bx = b,使得x =:Gb为极小范数最小
—
乘的充
(b)
要条件是G为B的广义逆。而我们已经得到了G就是B的广义逆，那么就说明G是满足该方程式的极小范数最小二乘解。也就是说，我们得到未知参数的估值x~ = -1
Gl= V[M 0]U H|。通过这种方式，我们求解方程组（b）就简单多了，矩阵
00
的奇异分解令问题很容易的简单化了。
6. 结论矩阵的分解还有很多的应用，比如可以用来求矩阵的秩，对于阶数偏大的矩阵，即使用初等变换的方法，也是计算量很大的，而把矩阵分解后可以使计算简单。再如，在线性代数中求矩阵的n 次幂是很常见的，若是一板一眼的进行矩阵相乘，当n 较大时计算量可想而知，况且，当n逐渐增大或是非纯数据间的运算的情况下，根本就没有计算的可能，此时，矩阵分解方法的应用可以令问题变得简单而易懂。判断矩阵的正定性需要不断的计算行列式，计算量大而复杂，矩阵分解可以使之更简单直接。
矩阵的分解作用很广泛，在不同的领域都发挥着其独特的作用，只要应用得好，肯定可以使原有的问题简单而易于理解。我们知道，矩阵理论就其理论来说，对于
除了数学本专业的人而言，意义是不大的。纯理论的学习是枯燥而乏味的，只有和是具体问题的结合才会显出它的强大生命力。单看一个定理还是推论，我们会觉得它是简单而几乎没有意义的，甚至不知道怎么去理解它以及存在的意义，当运用到实
际的领域，一方面我们可以更好的了解相关的知识，重要的是解决了具体的问题。这应该就是学习的乐趣所在。在测量平差的秩亏网平差中，解求未知数的估计值时候和奇异值分解结合起来，不仅可以使得运算更加简单化，并且得到的结果更利于理解，算法也更容易应用于编程。
这门课程给我们的是一个工具的作用，在学习的过程中要结合实际问题尤其是
自己的专业方向来想问题，把矩阵的思想和算法用到对专业问题的解决中，才是学习的目的。
矩阵分解以及矩阵范数在数值计算中的应用 张先垒 （自动化与电气工程学院 控制科学与工程 2012210186） 【摘要】矩阵的分解是将一个矩阵分解为较为简单的或具有某种特性的若干矩阵的和或 者乘积，这是矩阵理论及其应用中比较常见的方法。由于矩阵的这些特殊的分解形式，一方面反映了矩阵的某些数值特性，如矩阵的秩、特征值、奇异值等；另一方面矩阵的分解方法与过程往往为某些有效的数值计算方法和理论分析提供了重要的依据，它是应用于解最优化问题、特征值问题、最小二乘方问题的主要数学工具。 关键词 ： 矩阵分解 对角化 逆矩阵 范数 条件数 1. 引言 矩阵分解在工程中的应用主要是在解线性方程组中,而这主要就是关系到储存和计算时间的问题上面,如何实现最小的储存和最少的计算时间是在工程计算中的头等问题。在这方年就牵涉到很多对矩阵进行怎样的分解，这篇文章介绍了基本的关于三角分解相关的内容以及关于界的稳定性的考虑。 2. 矩阵的三角分解求解线性方程组 数值求解线性方程组的方法中有一个主要是直接法，假设计算中没有舍入误差，经过有限次算术运算能够给出问题的精确解的数值方法。其中高斯消去法就是利用矩阵的分解实现的。矩阵论一种有效而且应用广泛的分解法就是三角分解法，将一个矩阵分解为一个酉矩阵（或正交矩阵）与一个三角矩阵的乘积或者三角矩阵与三角矩阵的乘积。（见课本P93例4.3）考虑一般的线性方程组，设其中的系数矩阵A 是可逆的， 1111 n m mn a a A a a ?? ? = ? ??? （1-1） 设矩阵A 的第一列中至少有一个是非零元素（否则A 就是奇异矩阵）不妨设为1i a 若一 般的记初等矩阵 [1] 如1-2式及矩阵论课本上的Givens 矩阵。
矩阵分解的研究及应用 摘要：将一矩阵分解为若干个矩阵的和或积，是解决某些线性问题的重要方法，其技巧性、实用性强。 本文首先分成四部分内容来阐述矩阵分解的形式及一些很常见的分解。最后举例说明矩阵分解的应用。 关键词：特征值分解 秩分解 三角分解 和分解 关于矩阵分解的形式的文献已有很多，但对于这个问题的分析各不相同。本文从四个方面来论述矩阵的分解的形式，并以一些具体的例子来说明矩阵分解在实际应用中的重要性。 一、特征值分解 性质1：任意n 阶矩阵A ，存在酉矩阵T ，使得1 10n A T T λλ-*?? ? = ? ??? ，其中1,,n λλ 为矩阵A 的 特征值。称形如这样的分解叫做矩阵A 的特征值分解。 性质1'：任意n 阶矩阵A ，存在酉矩阵T ，使得11s J A T T J -?? ? = ? ??? ，其中 11i i i i i i n n J λλλ??? ? ?= ? ? ? ? ，1,2,,i s = 且1,,s λλ 为矩阵A 的特征值。 对于对称矩阵有如下结论： 定理1.1：若A 为n 阶实对称矩阵，则存在正交矩阵T ，使得11n A T T λλ-?? ? = ? ??? ， 其中1,,n λλ 为矩阵A 的特征值。 证明 由性质1,知 存在酉矩阵T ，使得1 10n A T T λλ-*?? ? = ? ??? 又由于A 为n 阶实对称矩阵，因此 111 111000n n n A T T T T A T T λλλλλλ---'??**?????? ? ? ? ?'==== ? ? ? ? ? ? ? ?*??????? ? 从而，得 1 100n n λλλλ*???? ? ? = ? ? ? ?*???? 因此11n A T T λλ-?? ? = ? ??? 得证。
矩阵分解是指将一个矩阵表示为结构简单或具有特殊性质若干矩阵之积或之和，大体分为三角分解、分解、满秩分解和奇异值分解.矩阵地分解是很重要地一部分内容，在线性代数中时常用来解决各种复杂地问题，在各个不同地专业领域也有重要地作用.秩亏网平差是测量数据处理中地一个难点，不仅表现在原理方面，更表现在计算方面，而应用矩阵分解来得到未知数地估计数大大简化了求解过程和难度. 矩阵地三角分解 如果方阵可表示为一个下三角矩阵和一个上三角矩阵之积，即，则称可作三角分解.矩阵三角分解是以消去法为根据导出地，因此矩阵可以进行三角分解地条件也与之相同，即矩阵地前个顺序主子式都不为，即.所以在对矩阵进行三角分解地着手地第一步应该是判断是否满足这个前提条件，否则怎么分解都没有意义.矩阵地三角分解不是唯一地，但是在一定地前提下，地分解可以是唯一地，其中是对角矩阵.矩阵还有其他不同地三角分解，比如分解和分解，它们用待定系数法来解求地三角分解，当矩阵阶数较大地时候有其各自地优点，使算法更加简单方便.资料个人收集整理，勿做商业用途 矩阵地三角分解可以用来解线性方程组.由于，所以可以变换成，即有如下方程组：资料个人收集整理，勿做商业用途 先由依次递推求得,,……，，再由方程依次递推求得，，……，. 资料个人收集整理，勿做商业用途 必须指出地是，当可逆矩阵不满足时，应该用置换矩阵左乘以便使地个顺序主子式全不为零，此时有：资料个人收集整理，勿做商业用途 这样，应用矩阵地三角分解，线性方程组地解求就可以简单很多了. 矩阵地分解 矩阵地分解是指，如果实非奇异矩阵可以表示为，其中为正交矩阵，为实非奇异上三角矩阵.分解地实际算法各种各样，有正交方法、方法和方法，而且各有优点和不足.资料个人收集整理，勿做商业用途 ．正交方法地分解 正交方法解求分解原理很简单，容易理解.步骤主要有：）把写成个列向量（，，……，），并进行正交化得（，，……，）；) 单位化，并令（，，……，），（，，……，），其中；）. 这种方法来进行分解，过程相对较为复杂，尤其是计算量大，尤其是阶数逐渐变大时，就显得更加不方便.资料个人收集整理，勿做商业用途 ．方法地分解 方法求分解是利用旋转初等矩阵，即矩阵()来得到地，()是正交矩阵，并且(()).()地第行第列 和第行第列为，第行第列和第行第列分别为和，其他地都为.任何阶实非奇异矩阵可通过左连乘()矩阵（乘积为）化为上三角矩阵，另，就有.该方法最主要地是在把矩阵化为列向量地基础上找出和，然后由此把矩阵地一步步向上三角矩阵靠近.方法相对正交方法明显地原理要复杂得多，但是却计算量小得多，矩阵()固有地性质很特别可以使其在很多方面地应用更加灵活.资料个人收集整理，勿做商业用途 ．方法地分解 方法分解矩阵是利用反射矩阵，即矩阵，其中是单位列向量，是正交矩阵，.可以证明，两个矩阵地乘积就是矩阵，并且任何实非奇异矩阵可通过连乘矩阵（乘积为）化为上三角矩阵，则.这种方法首要地就是寻找合适地单位列向量去构成矩阵，
《线性代数与矩阵分析》课程小论文 矩阵分解及其应用 学生姓名：****** 专业：******* 学号：******* 指导教师：******** 2015年12月
Little Paper about the Course of "Linear Algebra and Matrix Analysis" Matrix Decomposition and its Application Candidate:****** Major:********* StudentID:****** Supervisor:****** 12,2015
中文摘要 将特定类型的矩阵拆解为几个矩阵的乘机称为矩阵的分解。本文主要介绍几种矩阵的分解方法，它们分别是矩阵的等价分解、三角分解、谱分解、奇异值分解和 Fitting 分解等。矩阵的分解理论和方法是矩阵分析中重要的部分，在求解矩阵的特征值、解线性方程组以及实际工程中有着广泛的运用。因此，本文将介绍矩阵等价分解、三角分解、奇异值分解的理论运用以及三角分解的工程运用。 关键词：等价分解,三角分解,奇异值分解,运用
Abstract Many particular types of matrix are split into the product of a matrix of several matrices, which is called decomposition of matrix. In this paper, we introduce some methods of matrix decomposition, which are equivalent decomposition, triangular decomposition, spectral decomposition, singular value decomposition, Fitting decomposition and so on. The decomposition theory and method of matrix is an important part of matrix analysis, which is widely used in solving the characteristic value, solving linear equations and the practical engineering. In this paper, we will introduce the theory of matrix equivalence decomposition, triangular decomposition, singular value decomposition and the engineering application of triangular decomposition. Key words：Equivalent Decomposition, Triangular Decomposition, Singular Value Decomposition, Application
机器学习中的数学 5 强大的矩阵奇异 值分解SVD 机器学习中的数学(5)-强大的矩阵奇异值分解(SVD)及其应用 版权声明： 本文由LeftNotEasy发布于本文可以被全部的转载或者部分使用，但请注明出处，如果有问题，请联系wheeleast@https://www.doczj.com/doc/7d4584013.html, 前言： 上一次写了关于PCA与LDA的文章，PCA的实现一般有两种，一种是用特征值分解去实现的，一种是用奇异值分解去实现的。在上篇文章中便是基于特征值分解的一种解释。特征值和奇异值在大部分人的印象中，往往是停留在纯粹的数学计算中。而且线性代数或者矩阵论里面，也很少讲任何跟特征值与奇异值有关的应用背景。奇异值分解是一个有着很明显的物理意义的一种方法，它可以将一个比较复杂的矩阵用更小更简单的几个子矩阵的相乘来表示，这些小矩阵描述的是矩阵的重要的特性。就像是描述一个人一样，给别人描述说这个人长得浓眉大眼，方脸，络腮胡，而且带个黑框的眼镜，这样寥寥的几个特征，就让别人脑海里面就有一个较为清楚的认识，实际上，人脸上的特征是有着无数种的，之所以能这么描述，是因为人天生就有着非常好的抽取重要特征的能力，让机器学会抽取重要的特征，SVD是一个重要的方法。 在机器学习领域，有相当多的应用与奇异值都可以扯上关系，比如做feature reduction的PCA，做数据压缩(以图像压缩为代表)的算法，还有做搜索引擎语义层次检索的LSI(Latent Semantic Indexing) 另外在这里抱怨一下，之前在百度里面搜索过SVD，出来的结果都是俄罗斯的一种狙击枪(AK47同时代的)，是因为穿越火线这个游戏里面有一把狙击枪叫做SVD，而在Google上面搜索的时候，出来的都是奇异值分解(英文资料为主)。想玩玩战争游戏，玩玩COD不是非常好吗，玩山寨的CS有神马意思啊。
矩阵的奇异值分解（SVD）及其应用 版权声明： 本文由LeftNotEasy发布于https://www.doczj.com/doc/7d4584013.html,, 本文可以被全部的转载或者部分使用，但请注明出处，如果有问题，请联系wheeleast@https://www.doczj.com/doc/7d4584013.html, 前言： 上一次写了关于PCA与LDA的文章，PCA的实现一般有两种，一种是用特征值分解去实现的，一种是用奇异值分解去实现的。在上篇文章中便是基于特征值分解的一种解释。特征值和奇异值在大部分人的印象中，往往是停留在纯粹的数学计算中。而且线性代数或者矩阵论里面，也很少讲任何跟特征值与奇异值有关的应用背景。奇异值分解是一个有着很明显的物理意义的一种方法，它可以将一个比较复杂的矩阵用更小更简单的几个子矩阵的相乘来表示，这些小矩阵描述的是矩阵的重要的特性。就像是描述一个人一样，给别人描述说这个人长得浓眉大眼，方脸，络腮胡，而且带个黑框的眼镜，这样寥寥的几个特征，就让别人脑海里面就有一个较为清楚的认识，实际上，人脸上的特征是有着无数种的，之所以能这么描述，是因为人天生就有着非常好的抽取重要特征的能力，让机器学会抽取重要的特征，SVD是一个重要的方法。 在机器学习领域，有相当多的应用与奇异值都可以扯上关系，比如做feature reduction的PCA，做数据压缩（以图像压缩为代表）的算法，还有做搜索引擎语义层次检索的LSI（Latent Sem antic Indexing） 另外在这里抱怨一下，之前在百度里面搜索过SVD，出来的结果都是俄罗斯的一种狙击枪（AK47同时代的），是因为穿越火线这个游戏里面有一把狙击枪叫做SVD，而在Google上面搜索的时候，出来的都是奇异值分解（英文资料为主）。想玩玩战争游戏，玩玩COD不是非常好吗，玩山寨的CS有神马意思啊。国内的网页中的话语权也被这些没有太多营养的帖子所占据。真心希望国内的气氛能够更浓一点，搞游戏的人真正是喜欢制作游戏，搞Data Mining的人是真正喜欢挖数据的，都不是仅仅为了混口饭吃，这样谈超越别人才有意义，中文文章中，能踏踏实实谈谈技术的太少了，改变这个状况，从我自己做起吧。 前面说了这么多，本文主要关注奇异值的一些特性，另外还会稍稍提及奇异值的计算，不过本文不准备在如何计算奇异值上展开太多。另外，本文里面有部分不算太深的线性代数的知识，如果完全忘记了线性代数，看本文可能会有些困难。 一、奇异值与特征值基础知识： 特征值分解和奇异值分解在机器学习领域都是属于满地可见的方法。两者有着很紧密的关系，我在接下来会谈到，特征值分解和奇异值分解的目的都是一样，就是提取出一个矩阵最重要的特征。先谈谈特征值分解吧： 1）特征值： 如果说一个向量v是方阵A的特征向量，将一定可以表示成下面的形式：
浅析矩阵分解的原理及其在人脸识别中的应用 摘要：矩阵分解方法有多种，本文首先对矩阵的分解方法做了简单的介绍，这些分解在数值代数和最优化问题的解决中都有着十分重要的角色以及在其它领域方面也起着必不可少的作用。人脸识别是指采用机器对人脸图像进行分析,进而提取有效的识别信息从而达到身份辨认的目的。近年来因其在安全、认证、人机交互、视频电话等方面的广泛应用前景而越来越成为计算机模式识别领域的热点。本文在分析矩阵分解的原理后详细针对其在人脸识别中的应用做了一些初步认识的总结。 关键词：矩阵分解QR分解奇异值分解非负矩阵分解人脸识别 矩阵是数学中最重要的基本概念之一，是代数学的一个主要研究对象，也是数学研究及应用的一个重要工具。在近代数学、工程技术、信息处理、经济理论管理科学中，也大量涉及到矩阵理论的知识，矩阵分解是指根据一定的原理用某种算法将一个矩阵分解成若干个矩阵的乘积或者一些矩阵之和。这些分解式的特殊形式，一是能明显地反映出原矩阵的某些特征；二是分解的方法与过程提供了某些有效的数值计算方法和理论分析依据。人脸识别是指采用机器对人脸图像进行分析 ,进而提取有效的识别信息从而达到身份辨认的目的。虽然人类能轻松地识别出人脸,但人脸的自动机器识别却是一个难度极大的课题,它涉及到图像处理、模式识别、计算机视觉和神经网络等学科,也和对人脑的认识程度紧密相关。现在矩阵分解在人脸识别中应用很广泛，有不同的算法来实现，本文将对现有的算法做总结和比较。 1 矩阵的分解方法 矩阵分解 (decomposition, factorization)是将矩阵拆解为数个矩阵的乘积，可分为三角分解、满秩分解、QR分解、Jordan分解和SVD（奇异值）分解等，常见的有三种：1)三角分解法 (Triangular Factorization)，2)QR 分解法 (QR Factorization)，3)奇异值分解法 (Singular Value Decomposition)。 1.1 矩阵的三角（LU）分解 LU分解，设A=()是n阶可逆矩阵，如果A的对角线下（上）方的元素全为零，即对i>j， =0（对i 矩阵分解及其简单应用 x=b，即有如下方程组：Ly=bUx=y 先由Ly=b依次递推求得y1, y2,……，yn，再由方程Ux=y依次递推求得 xn，xn-1，……， x1、必须指出的是，当可逆矩阵A不满足?k≠0时，应该用置换矩阵P左乘A以便使PA的n个顺序主子式全不为零，此时有： Ly=pbUx=y 这样，应用矩阵的三角分解，线性方程组的解求就可 以简单很多了。2、矩阵的QR分解矩阵的QR分解是指，如果实 非奇异矩阵A可以表示为A=QR，其中Q为正交矩阵，R为实非奇 异上三角矩阵。QR分解的实际算法各种各样，有Schmidt正交方法、Givens方法和Householder方法，而且各有优点和不足。2、1．Schmidt正交方法的QR分解Schmidt正交方法解求QR分解原 理很简单，容易理解。步骤主要有：1）把A写成m个列向量a= （a1，a2，……，am），并进行Schmidt正交化得=（α1， α2，……，αm）；2) 单位化，并令Q=（β1，β2，……，βm），R=diag（α1， α2，……，αm）K，其中a=K；3）A=QR、这种方法来进行QR分解，过程相对较为复杂，尤其是计算量大，尤其是阶数逐渐变大时，就显得更加不方便。2、2．Givens方法的QR分解Givens方 法求QR分解是利用旋转初等矩阵，即Givens矩阵Tij(c,s)来得 到的，Tij(c,s)是正交矩阵，并且det(Tij(c,s))=1。Tij(c,s)的第i行第i列和第j行第j列为cos，第i行第j列和第j行第i 列分别为sin和-sin，其他的都为0、任何n阶实非奇异矩阵A可通过左连乘Tij(c,s)矩阵（乘积为T）化为上三角矩阵R，另 Q=T-，就有A=QR。该方法最主要的是在把矩阵化为列向量的基础上找出c和s，然后由此把矩阵的一步步向上三角矩阵靠近。Givens方法相对Schmidt正交方法明显的原理要复杂得多，但是却计算量小得多，矩阵Tij(c,s)固有的性质很特别可以使其在很多方面的应用更加灵活。2、3．Householder方法的QR分解Householder方法分解矩阵是利用反射矩阵，即Householder矩阵H=E-2uuT，其中u是单位列向量，H是正交矩阵，detH=-1。可以证明，两个H矩阵的乘积就是Givens矩阵，并且任何实非奇异矩阵A可通过连乘Householder矩阵（乘积为S）化为上三角矩阵R，则A= QR。这种方法首要的就是寻找合适的单位列向量去构成矩阵H，过程和Givens方法基本相似，但是计算量要小一些。矩阵的QR分解可以用来解决线性最小二乘法的问题，也可以用来降低矩阵求逆的代价。矩阵的求逆是件不小的工程，尤其是阶数慢慢变大的情况时，而用先把矩阵QR分解成正交矩阵和上三角矩阵，就容易多了，况且正交矩阵的转置就是逆，这一点是其他的矩阵分解无法比拟的。在解求线性方程组中，如果系数矩阵的阶数比较大，可以利用QR分解来使计算简单化。另外，QR分解考虑的是n阶矩阵，其他的矩阵是不能用这种方法进行分解，由于QR 分解的这一前提条件，使得下面提到的满秩矩阵分解和奇异值分解就有了其特殊的意义。3、满秩分解满秩分解也称最大秩分 对矩阵分解及其应用 矩阵分解是指将一个矩阵表示为结构简单或具有特殊性质若干矩阵之积或之和，大体分为三角分解、QR 分解、满秩分解和奇异值分解。矩阵的分解是很重要的一部分内容，在线性代数中时常用来解决各种复杂的问题，在各个不同的专业领域也有重要的作用。秩亏网平差是测量数据处理中的一个难点，不仅表现在原理方面，更表现在计算方面，而应用矩阵分解来得到未知数的估计数大大简化了求解过程和难度。 1. 矩阵的三角分解 如果方阵A可表示为一个下三角矩阵L和一个上三角矩阵U之积，即A=LU 则称A可作三角分解。矩阵三角分解是以Gauss消去法为根据导出的，因此矩阵可以进行三角分解的条件也与之相同，即矩阵A的前n-1个顺序主子式都不为0, 即?k工0.所以在对矩阵A进行三角分解的着手的第一步应该是判断是否满足这个前提条件，否则怎么分解都没有意义。矩阵的三角分解不是唯一的，但是在一定的前提下， A=LDU勺分解可以是唯一的，其中D是对角矩阵。矩阵还有其他不同的三角分解，比如Doolittle 分解和Crout 分解，它们用待定系数法来解求 A 的三角分解，当矩阵阶数较大的时候有其各自的优点，使算法更加简单方便。 矩阵的三角分解可以用来解线性方程组Ax=b。由于A=LU，所以Ax=b可以变换成LU x=b，即有如下方程组： Ly = b { {Ux = y 先由Ly = b依次递推求得y i, y2, ........ ，y n，再由方程Ux = y依次递推求得X n， x n-1 ， ... ，X1 . 必须指出的是，当可逆矩阵A不满足?k工0时，应该用置换矩阵P左乘A以便使PA 的n个顺序主子式全不为零，此时有： Ly = pb { { Ux = y 这样，应用矩阵的三角分解，线性方程组的解求就可以简单很多了。 2. 矩阵的QF分解 矩阵的QR分解是指，如果实非奇异矩阵A可以表示为A=QR其中Q为正交矩阵，R为实非奇异上三角矩阵。QR分解的实际算法各种各样，有Schmidt正交方 浅谈矩阵的LU 分解和QR 分解及其应用 基于理论研究和计算的需要，往往有必要把矩阵分解为具有某种特性的矩阵之积，这就是我们所说的矩阵分解. 本文将介绍两种常用的矩阵分解方法，以及其在解线性方程组及求矩阵特征值中的应用. 1.矩阵的LU 分解及其在解线性方程组中的应用 1.1 高斯消元法 通过学习，我们了解到利用Gauss 消去法及其一些变形是解决低阶稠密矩阵方程组的有效方法.并且近些年来利用此类方法求具有较大型稀疏矩阵也取得了较大进展.下面我们就通过介绍Gauss 消去法，从而引出矩阵的LU 分解及讨论其对解线性方程组的优越性. 首先通过一个例子引入： 例1,解方程组 (1.1) (1. 2)(1.3) 解.1Step (1.1)(2)(1.3)?-+ 消去(1.3)中未知数,得到 23411x x --=-(1.4) 2Shep . (1.2)(1.4)+ 消去(1.4)中的未知数2 x 有12323364526x x x x x x ++=-=-=-????? 显然方程组的解为* x =123?? ? ? ? ?? 上述过程相当于 111604152211?? ?- ? ?-??~111604150411?? ?- ? ?---??~111 604150026?? ? - ? ? --?? 2-（）+ ()i i r 表示矩阵的行 由此看出，消去法的基本思想是：用逐次消去未知数的方法把原方程化为与其等价的三角方程组. 下面介绍解一般n 阶线性方程组的Gauss 消去法. 设111n n1nn a a a a A ?? ?= ? ??? 1n x X x ?? ?= ? ??? 1n b b b ?? ? = ? ??? 则n 阶线性方程组 AX b =(1.5) 并且A 为非奇异矩阵. 通过归纳法可以将AX b =化为与其等价的三角形方程，事实上： 及方程(1.5)为()()1 1 A X b =,其中 ()1A A =()1 b b = (1) 设(1) 11 0a ≠，首先对行计算乘数() ()1 1i11 11i a m m =.用1i m -乘(1.5)的第一个方程加到第 ()2,3,,i i n =?个方程上.消去方程(1.5)的第2个方程直到第n 个方程的未知数1x . 得到与(1.5)等价的方程组()()()11n 12n 111nn 0a a x x a ????? ? ? ? ? ? ?????? =()()112n b b ?? ? ? ??? 简记作 ()()22A b =(1.6) 其中()()() ()()()211211111 ij ij i ij i i i a m b b m a a b =-=- (2) 一般第()11k k n ≤≤-次消去，设第1k -步计算完成.即等价于 ()()k k A X b = (1.7) 且消去未知数121,,,k x x x -?.其中() ()()() ()() ()()()()11 1 11 12 12222 2k k k k kk kn k nk nna n n a a a a a A a a a a ?? ? ? ? ? = ? ? ? ?? ? 引言 数学是人类历史中发展最早，也是发展最为庞大的基础学科。许多人说数学是万理之源，因为许多学科的研究都是以数学做为基础，有了数学的夯实基础，人类才铸就起了众多学科的高楼大厦，所以数学的研究和发展一直在不断的发展壮大。在数学中有一支耀眼的分支，那就是矩阵。在古今矩阵的研究发展长河中产生了许多闪耀星河的大家。英国数学大家詹姆斯?约瑟夫?西尔维斯特，一个数学狂人，正是他的孜孜不倦的研究使得矩阵理论正式被确立并开启了矩阵发展的快速发展通道。凯莱和西尔维斯特是非常要好的朋友，他也是一位非常伟大的数学大师，正是他们伟大的友谊，加上两人的齐心协力最后他们共同发展了行列式和矩阵的理论。后来高斯在矩阵方面的研究取得重要的成就，尤其是高斯消去法的确立，加速了矩阵理论的完善和发展。 而在我国，矩阵的概念古已有之。从最早的数学大家刘徽开始我们古代数学大家都已或多或少的研究了矩阵。尤其在数学大家刘徽写的《九章算术》中，它最早提出了矩阵的类似定义。而且是将矩阵的类似定义用在了解决遍乘直除问题里了。这已经开始孕育出了最早的矩阵形式。 随着时间转移，矩阵的理论不断的完善，在对于那些大型矩阵的计算中如果用基本方法显得过于繁重，于是发展出了矩阵的分解，随着对矩阵分解的不断研究完善，矩阵分解方法和理论也日趋成熟 矩阵经常被当做是数学工具，因为在数学问题中要经常用上矩阵的知识。矩阵是一个表格，要掌握其运算法则，作为表格的运算与数的运算既有联系又有差别，在所有矩阵的运算方法中，矩阵的分解是他们中一种最重要并且也是应用最广泛。矩阵分解主要是对高斯消去法的延续和拓展。 在一些大型的矩阵计算中，其计算量大，化简繁杂，使得计算非常复杂。如果运用矩阵的分解，将那些大型矩阵分解成简单的矩阵的乘积形式，则可大大降低计算的难度以及计算量。这就是矩阵分解的主要目的。而且对于矩阵的秩的问题，特征值的问题，行列式的问题等等，通过矩阵的分解后都可以清楚明晰的反应出来。就连矩阵的奇异性也显而易见。在另一方面，对于哪些大型的数值计算问题，矩阵的分解方式以及分解过程也可以作为其计算的理论依据。 矩阵分解及应用 1 引言 矩阵是研究图形（向量）变换的基本工具许多数学模型都可以用矩阵表示,矩阵理论既是学习数学的基础,又是一门最有实用价值的数学理论.它不仅是数学的一个重要分支,而且业已成为现代各科领域处理大量有限维空间形式与数量关系强有力的工具.矩阵在代数学习课程中占有重要的地位,而矩阵的分解在矩阵理论研究及其应用中有着重要意义,是其他一些研究课题解决问题的工具. 本文介绍了矩阵的几种分解方法:三角分解、正交分解、满秩分解、奇异值分解以及各种分解方法的应用.三角分解在求线性方程组的过程中占有十分重要的作用;正交三角 )(QR 分解在计算数学中扮演十分重要的角色,尤其是以QR 分解所建立的QR 方法,已对数 值线性代数理论的近代发展起了关键的作用;矩阵的满秩分解和奇异值分解是近几十年来求各类最小二乘问题和最优化问题的重要数学工具. 2 矩阵的三角分解及应用 2.1 杜利特尔分解法 定义 2.1]1[ 对于n 阶矩阵A =)(ij a ,n j i ,,2,1,Λ=.如果LU A =,其中L 为单位下三角矩阵,U 为上三角矩阵,则称LU A =为矩阵A 的杜利特尔分解. 确定三角矩阵L 和U 的方法: 设LU A =,其中L =??????? ?????11 12121 ΛO ΛM n n l l l ,U =????? ? ??????nn n n u u u u u u M O ΛΛ22211211 按矩阵的乘法有 ij a = ∑=) ,m in(1 j i s sj is u l ,n j i ,,2,1,Λ= 由于 kk l =1 所以有 kj a =+ kj u ∑-=1 1 k s sj ks u l ,n k k j ,,1,Λ+= 所以 kj u =- kj a ∑-=1 1 k s sj ks u l ,n k k j ,,1,Λ+= 同理 ik l = kk sk k s is ik u u l a ∑-=-1 1 ,n k k i ,,2,1Λ++= 这样便可以得到三角矩阵L 和U . 2.2 克劳特分解法 定义 2.2]1[ 对于n 阶矩阵A =)(ij a ,n j i ,,2,1,Λ=,如果LU A =,其中L 为下三角矩阵,U 为单位上三角矩阵,称LU A =为矩阵A 的克劳特分解. 确定三角矩阵L 和U 的方法: 设LU A =,其中L =? ?????? ?????nn n n l l l l l l ΛO ΛM 2121 2111,U =????? ? ??? ???1112112M O ΛΛn n u u u 按矩阵的乘法有 ij a = ∑=) ,m in(1 j i s sj is u l ,n j i ,,2,1,Λ= 由于 kk u =1 所以有 ik a =+ ik l ∑-=1 1 k s sk is u l ,n k k i ,,1,Λ+= 所以 ik l =-ik a ∑-=1 1k s sk is u l .n k k i ,,1,Λ+=. 同理 §9. 矩阵的分解 矩阵分解是将一个矩阵分解为比较简单的或具有某种特性的若干矩阵的和或乘积，这是矩阵理论及其应用中常见的方法。由于矩阵的这些特殊的分解形式，一方面反映了原矩阵的某些数值特性，如矩阵的秩、特征值、奇异值等；另一方面矩阵分解方法与过程往往为某些有效的数值计算方法和理论分析提供了重要的依据，因而使其对分解矩阵的讨论和计算带来极大的方便，这在矩阵理论研究及其应用中都有非常重要的理论意义和应用价值。 这里我们主要研究矩阵的三角分解、谱分解、奇异值分解、满秩分解及特殊矩阵的分解等。 一、矩阵的三角分解——是矩阵的一种有效而应用广泛的分解法。 将一个矩阵分解为酉矩阵（或正交矩阵）与一个三角矩阵的乘积或者三角矩阵与三角矩阵的乘积，这对讨论矩阵的特征、性质与应用必将带来极大的方便。首先我们从满秩方阵的三角分解入手，进而讨论任意矩阵的三角分解。 定义1 如果(1,2,,)ii a i n = 均为正实数，()(,1,2,1;∈<=- ij a C R i j i n 1,2,),=++ j i i n 则上三角矩阵 1112122200 ?? ? ?= ? ??? n n nn a a a a a R a 称为正线上三角复（实）矩阵，特别当1(1,2,,)ii a i n == 时，R 称为单位上三角复（实）矩阵。 定义2如果(1,2,,)ii a i n = 均为正实数，()(,1,2,1;∈>=- ij a C R i j i n 1,2,),=++ j i i n 则下三角矩阵 1121 221 2 000?? ? ?= ? ??? n n nn a a a L a a a矩阵分解及其简单应用
(完整word版)矩阵分解及其简单应用
浅谈矩阵的LU分解和QR分解及其应用
矩阵分解及应用
矩阵分解及应用
矩阵的分解
相关主题
文本预览