下载文档原格式
实验二：KL 变换实验学时：4学时实验目的：1. 掌握特征提取的基本方法。
2. 掌握基于KL 变换的特征提取的方法。
3. 培养学生灵活使用KL 变换进行模式识别的能力。
实验内容：给出ORL 人脸数据库，共有400幅人脸图像（40人，每人10幅，大小为92*112象素）。
其中第一个人的图像如下图：选取数据库中的部分样本（每个人的前5张图片）作为训练样本，其余作为未知的测试样本。
从训练样本中得到KL 变换矩阵，然后对训练样本和测试样本都进行变换，用变换后的数据作最近邻识别，距离可以为对应灰度值之差的平方和，统计识别率。
KL 变换方法简介：设图像数据库图像大小为Width ⨯Height ，令d = Width ⨯Height ，则每幅图像可以用按行或者按列堆成一个d 维向量表示。
令111()()N T T t i i t t i S x m x m N N==--=ΦΦ∑，其中1(,,)t N x m x m Φ=-- 。
特征脸方法(KL 变换方法)是从PCA 方法导出的。
PCA 方法就是要寻找正交归一的变换矩阵12(,,,)d L L W u u u R ⨯=∈ ，1T WW =，使得判别准则()()T t J W tr W S W =达到最大，即arg max ()T t WW tr W S W =。
也就是在T y W x =的正交变换后使得总体散度矩阵y T t t S W S W =的迹最大，即各个样本分离得尽量远，将样本的方差尽量的保留下来，和原样本的均方误差尽量小。
可以证明求得12(,,,)L W u u u = 就是对应于矩阵t S 的前L 个最大的特征值的特征向量。
即12(,,,)L W u u u = 的各列向量是下面特征方程的解：t i i i S u u λ=显然，变换后的y T t t S W S W =是一个对角阵，对角线上的元素为相应的特征值，即1()dt i i tr S λ==∑，也就是说每个特征值都代表了相应的特征向量保留总体散度（方差）的能力。
人脸识别主要算法原理主流的人脸识别技术基本上可以归结为三类，即：基于几何特征的方法、基于模板的方法和基于模型的方法。
1. 基于几何特征的方法是最早、最传统的方法，通常需要和其他算法结合才能有比较好的效果；2. 基于模板的方法可以分为基于相关匹配的方法、特征脸方法、线性判别分析方法、奇异值分解方法、神经网络方法、动态连接匹配方法等。
3. 基于模型的方法则有基于隐马尔柯夫模型，主动形状模型和主动外观模型的方法等。
1. 基于几何特征的方法人脸由眼睛、鼻子、嘴巴、下巴等部件构成，正因为这些部件的形状、大小和结构上的各种差异才使得世界上每个人脸千差万别，因此对这些部件的形状和结构关系的几何描述，可以做为人脸识别的重要特征。
几何特征最早是用于人脸侧面轮廓的描述与识别，首先根据侧面轮廓曲线确定若干显著点，并由这些显著点导出一组用于识别的特征度量如距离、角度等。
Jia 等由正面灰度图中线附近的积分投影模拟侧面轮廓图是一种很有新意的方法。
采用几何特征进行正面人脸识别一般是通过提取人眼、口、鼻等重要特征点的位置和眼睛等重要器官的几何形状作为分类特征,但Roder对几何特征提取的精确性进行了实验性的研究，结果不容乐观。
可变形模板法可以视为几何特征方法的一种改进，其基本思想是:设计一个参数可调的器官模型(即可变形模板),定义一个能量函数，通过调整模型参数使能量函数最小化，此时的模型参数即做为该器官的几何特征。
这种方法思想很好，但是存在两个问题，一是能量函数中各种代价的加权系数只能由经验确定，难以推广，二是能量函数优化过程十分耗时，难以实际应用。
基于参数的人脸表示可以实现对人脸显著特征的一个高效描述，但它需要大量的前处理和精细的参数选择。
同时，采用一般几何特征只描述了部件的基本形状与结构关系，忽略了局部细微特征，造成部分信息的丢失，更适合于做粗分类，而且目前已有的特征点检测技术在精确率上还远不能满足要求，计算量也较大。
2. 局部特征分析方法（Local Face Analysis）主元子空间的表示是紧凑的，特征维数大大降低，但它是非局部化的，其核函数的支集扩展在整个坐标空间中，同时它是非拓扑的，某个轴投影后临近的点与原图像空间中点的临近性没有任何关系，而局部性和拓扑性对模式分析和分割是理想的特性，似乎这更符合神经信息处理的机制，因此寻找具有这种特性的表达十分重要。
K-L变换的性质。
归结起来，它消除了各分量之间的相关性，因而用它来描述事物时，可以减少描述量的冗余性，做到用最经济有效的方法描述事物。
下面结合一些应用实例来说明如何运用K-L变换的这一性质。
1．降维与压缩以人脸图象这个例子看，K-L变换的降维效果是十分明显的。
对一幅人脸图象，如果它由M行与N到象素组成，则原始的特征空间维数就应为M×N。
而如果在K-L变换以及只用到30个基，那么维数就降至30，由此可见降维的效果是极其明显的。
另一方面降维与数据压缩又是紧密联系在一起的。
譬如原训练样本集的数量为V，而现采用30个基，每个基实质上是一幅图象，再加上每幅图象的描述参数(式(补4-3)中的C)，数据量是大大降低，尤其是图象数很大时，压缩量是十分明显的。
2．构造参数模型使用K-L变换不仅仅起到降维与压缩数据的作用，更重要的是每个描述量都有明确的意义，因而改变某一个参数就可让图象按所需要的方向变化。
在没有使用K-L变换的原数据集中对图象的描述量是每个象素的灰度值，而弧立地改变某个象素的灰度值是没有意义的。
而在使用K-L变换后，每个描述量都有其各自的作用。
因此通过改变这些参数的值就可实现对模型的有效描述，这在图象生成中是很有用的。
因此利用K-L变换构造出可控制的，连续可调的参数模型在人脸识别与人脸图象重构采方面的应用是十分有效的。
3．人脸识别利用K-L变换进行人脸图象识别是一个著名的方法。
其原理十分简单，首先搜集要识别的人的人脸图象，建立人脸图象库，然后利用K-L变换确定相应的人脸基图象，再反过来用这些基图象对人脸图象库中的有人脸图象进行K-L变换，从而得到每幅图象的参数向量(试问用哪个公式？)并将每幅图的参数向量存起来。
在识别时，先对一张所输入的脸图象进行必要的规范化，再进行K-L变换分析，得到其参数向量。
将这个参数向量与库中每幅图的参数向量进行比较，找到最相似的参数向量，也就等于找到最相似的人脸，从而认为所输入的人脸图象就是库内该人的一张人脸, 完成了识别过程。
1 人脸识别研究的发展状况1.1 发展历史早在1888年和1920年Galton就在《Nature》上发表过两篇关于利用人脸进行身份识别的论文。
真正意义上的自动人脸识别的研究开始于二十世纪六十年代中后期 1965年Chen 和Bledsoe的报告是最早的关于自动人脸识别的文献。
1965到1990年之间是人脸识别研究的初级阶段 这一阶段的研究主要集中在基于几何结构特征的人脸识别方法 Geometric feature based 。
该阶段的研究基本没有得到实际的应用。
1991年到1997年间是人脸识别研究非常活跃的重要时期。
出现了著名的特征脸方法Eigenface 该方法由麻省理工学院的Turk和Pentland提出 之后有许多基于该方法的研究。
Brunelli和Poggio在1992年对基于结构特征的方法和基于模板匹配的方法进行了实验对比 并给出了后者优于前者的明确结论。
该时期内 美国国防部资助的FERET FacE Recognition technology Test 项目资助多项人脸识别研究 创建了著名的FERET人脸图像数据库。
该项目极大地促进了人脸识别算法的改进以及算法的实用化。
1998年至今 研究者开始针对非理想条件下的人脸识别进行研究。
光照、姿势等问题成为研究热点。
出现了基于3D模型的人脸建模与识别方法。
在商业化的应用方面 美国国防部在2000年和2002年组织了针对人脸识别商业系统的评测FRVT Face Recognition Vendor Test) 比较领先的系统提供商有Cognitec, Identix和Eyematic。
1.2 主要公共数据库人脸数据库对于人脸识别算法的研究是不可缺少的 而公共人脸图像数据库的建立方便不同研究者之间的交流学习 并有助于不同算法的比较 下面列举常用的人脸图像数据库。
FERET人脸数据库 是FERET项目创建的人脸数据库 该库包含14,051幅多姿态、不同光照条件的灰度人脸图像 是人脸识别领域应用最广泛的人脸数据库之一。
人脸识别主要算法原理主流的人脸识别技术基本上可以归结为三类，即：基于几何特征的方法、基于模板的方法和基于模型的方法。
1.基于几何特征的方法是最早、最传统的方法，通常需要和其他算法结合才能有比较好的效果；2.基于模板的方法可以分为基于相关匹配的方法、特征脸方法、线性判别分析方法、奇异值分解方法、神经网络方法、动态连接匹配方法等。
3.基于模型的方法则有基于隐马尔柯夫模型，主动形状模型和主动外观模型的方法等。
1.基于几何特征的方法人脸由眼睛、鼻子、嘴巴、下巴等部件构成，正因为这些部件的形状、大小和结构上的各种差异才使得世界上每个人脸千差万别，因此对这些部件的形状和结构关系的几何描述，可以做为人脸识别的重要特征。
几何特征最早是用于人脸侧面轮廓的描述与识别，首先根据侧面轮廓曲线确定若干显著点，并由这些显著点导出一组用于识别的特征度量如距离、角度等。
Jia等由正面灰度图中线附近的积分投影模拟侧面轮廓图是一种很有新意的方法。
采用几何特征进行正面人脸识别一般是通过提取人眼、口、鼻等重要特征点的位置和眼睛等重要器官的几何形状作为分类特征,但Roder对几何特征提取的精确性进行了实验性的研究，结果不容乐观。
可变形模板法可以视为几何特征方法的一种改进，其基本思想是:设计一个参数可调的器官模型(即可变形模板),定义一个能量函数，通过调整模型参数使能量函数最小化，此时的模型参数即做为该器官的几何特征。
这种方法思想很好，但是存在两个问题，一是能量函数中各种代价的加权系数只能由经验确定，难以推广，二是能量函数优化过程十分耗时，难以实际应用。
基于参数的人脸表示可以实现对人脸显著特征的一个高效描述，但它需要大量的前处理和精细的参数选择。
同时，采用一般几何特征只描述了部件的基本形状与结构关系，忽略了局部细微特征，造成部分信息的丢失，更适合于做粗分类，而且目前已有的特征点检测技术在精确率上还远不能满足要求，计算量也较大。
2.局部特征分析方法（Local Face Analysis）主元子空间的表示是紧凑的，特征维数大大降低，但它是非局部化的，其核函数的支集扩展在整个坐标空间中，同时它是非拓扑的，某个轴投影后临近的点与原图像空间中点的临近性没有任何关系，而局部性和拓扑性对模式分析和分割是理想的特性，似乎这更符合神经信息处理的机制，因此寻找具有这种特性的表达十分重要。
《模式识别》课程教学大纲课程编号：04226课程名称：模式识别英文名称：Pattern Recognition课程类型：专业课课程要求：选修学时/学分：32/2 （讲课学时：28 实验学时：4）适用专业：智能科学与技术一、课程性质与任务模式识别课程是智能科学与技术专业的•门选修课，是研究计算机模式识别的基本理论和方法、应用。
模式识别就是利用计算机对某些物理现象进行分类，在错误概率最小的条件下，使识别的结果尽量与事物相符。
这门课的教学目的是让学生掌握统计模式识别和结构模式识别基本原理和方法。
本课程的主要任务是通过对模式识别的基本理论和方法、运用实例的学习，使学生掌握模式识别的基本理论与方法，培养学生利用模式识别方法、运用技能解决本专业及相关领域实际问题的能力，为将来继续深入学习或进行科学研究打下坚实的基础。
本课程的教学目的是为了使学生能应用模式识别处理计算机自动识别事物，机器学习数据分析中有关的技术问题。
由于本课程的目标是侧重在应用模式识别技术，因此在学习内容上侧重基本概念的讲解，辅以必要的数学推导，使学生能掌握模式识别技术中最基本的概念，以及最基本的处理问题方法。
学生在学习过程中还会用到一些概率论的最基本知识，线性代数中的部分知识，对学生在数学课中学到知识的进一步理解与巩固起到温故而知新的作用。
（该门课程支撑毕业要求中1.1, 2.1, 3.1, 3.3, 4.1, 6.1, 10.1和12.1）二、课程与其他课程的联系先修课程：概率论与数理统计、线性代数、机器学习后续课程：智能感知综合实践先修课程概率论与数理统计和线性代数为学生学习模式识别技术中最基本的概念，必要的数学推导打下基础，机器学习可以使学生建立整体思考问题的方法，并具有系统性能优化的概念。
本课程为后续智能优化方法打下理论基础。
三、课程教学目标1. 学习模式识别基本理论知识，理解参数估计的基本思想，掌握最大似然和贝叶斯儿种典型算法，理解聚类分析的的基本思想，掌握聚类分析的几种典型算法：（支撑毕业要求1.1,2.1）2. 具有数学分析和识别的基本能力；（支撑毕业要求1.1）3. 掌握基本的识别优化创新方法，培养学生追求创新的态度和意识；（支撑毕业要求3.1）4. 培养学生树立正确的分析和识别思想，了解设计过程中国家有关的经济、环境、法律、安全、健康、伦理等政策和制约因素；（支撑毕业要求3.3）5. 培养学生的工程实践学习能力，使学生具有运用标准、规范、手册、图册和查阅有关技术资料的能力；（支撑毕业要求4.1, 6.1）6, 了解模式识别方法前沿和新发展动向；（支撑毕业要求10.1, 12.1）四、教学内容、基本要求与学时分配五、其他教学环节（课外教学环节、要求、目标）无六、教学方法本课程以课堂教学为主，结合作业、自学及洲验等教学手段和形式完成课程教学任务。
人脸识别的基本方法人脸识别的基本方法人脸识别的基本方法人脸识别的方法很多，以下介绍一些主要的人脸识别方法。
(1)几何特征的人脸识别方法几何特征可以是眼、鼻、嘴等的形状和它们之间的几何关系(如相互之间的距离)。
这些算法识别速度快，需要的内存小，但识别率较低。
(2)基于特征脸(PCA)的人脸识别方法特征脸方法是基于KL变换的人脸识别方法，KL变换是图像压缩的一种最优正交变换。
高维的图像空间经过KL变换后得到一组新的正交基，保留其中重要的正交基，由这些基可以张成低维线性空间。
如果假设人脸在这些低维线性空间的投影具有可分性，就可以将这些投影用作识别的特征矢量，这就是特征脸方法的基本思想。
这些方法需要较多的训练样本，而且完全是基于图像灰度的统计特性的。
目前有一些改进型的特征脸方法。
(3)神经网络的人脸识别方法神经网络的输入可以是降低分辨率的人脸图像、局部区域的自相关函数、局部纹理的二阶矩等。
这类方法同样需要较多的样本进行训练，而在许多应用中，样本数量是很有限的。
(4)弹性图匹配的人脸识别方法弹性图匹配法在二维的空间中定义了一种对于通常的人脸变形具有一定的不变性的距离，并采用属性拓扑图来代表人脸，拓扑图的任一顶点均包含一特征向量，用来记录人脸在该顶点位置附近的信息。
该方法结合了灰度特性和几何因素，在比对时可以允许图像存在弹性形变，在克服表情变化对识别的影响方面收到了较好的效果，同时对于单个人也不再需要多个样本进行训练。
(5)线段Hausdorff 距离(LHD) 的人脸识别方法心理学的研究表明，人类在识别轮廓图(比如漫画)的速度和准确度上丝毫不比识别灰度图差。
LHD是基于从人脸灰度图像中提取出来的线段图的，它定义的是两个线段集之间的距离，与众不同的是，LHD并不建立不同线段集之间线段的一一对应关系，因此它更能适应线段图之间的微小变化。
实验结果表明，LHD在不同光照条件下和不同姿态情况下都有非常出色的表现，但是它在大表情的情况下识别效果不好。
目录基于KL变换和PCA人脸识别方法 (2)摘要 (2)KL变换和PCA人脸识别方法.......... 错误！未定义书签。
1 简介 (3)2 KL变换和PCA分析 (3)2.1 KL变换原理............................................... 错误！未定义书签。
2.2 主成分分析法（PCA）............................. 错误！未定义书签。
2.3 人脸识别中PCA算法步骤及流程............... 错误！未定义书签。
3 实验及结果分析............................................ 错误！未定义书签。
4 总结 ............................................................. 错误！未定义书签。
5 展望 ............................................................. 错误！未定义书签。
参考文献 .......................... 错误！未定义书签。
基于KL变换和PCA人脸识别方法作者：摘要生物特征识别技术使用了人体本身所固有的生物特征，与传统的身份识别方法完全不同，具有更高的安全性、可靠性、和有效性，越来越受到人们的重视。
人脸识别技术作为生物特征识别技术的重要组成部分，在近三十年里得到了广泛的关注和研究，已经成为计算机视觉、模式识别领域的研究热点。
人脸识别在公共安全、证件验证、门禁系统、视频监视等领域中都有着广泛的应用前景。
本文是在人脸数据库的基础上做人脸特征提取和识别研究，主要内容如下：（1）介绍主成分分析法(PCA)、K-L变换，并利用特征脸方法实现了人脸识别。
（2）给出了基于matlab环境的编程及实验结果，并对结果进行分析。
关键词:人脸识别，特征脸，K-L变换，主成分分析1 简介我们希望将图像原特征做某种正交变换，获得的数据都是原数据的线性组合，从新数据中选出少数几个，使其尽可能多地反映各类模式之间的差异，又尽可能相互独立，一个常用的方法就是主成分分析(PCA)。
模式识别大作业班级：09030901题目：基于KL变换的人脸识别姓名：黎照学号：2009302320姓名：陈升富学号：2009302313姓名：益琛学号：2009302311日期：2012/4/25【摘要】本次实验论述了K_L变换在人脸识别中的应用，主要介绍人脸识别过程中的每个环节，整个过程包括人脸图像的采集、预处理、特征提取到训练和识别。
一、基本要求从网上下载人脸图像，构建人脸训练数据库和测试数据库，采用K-L变换进行特征脸提取，并实现人脸识别。
通过K-L变换在人脸识别中的应用，加深对所学内容的理解和感性认识。
二、主要思想基于特征脸的人脸识别方法是基于K-L变换的人脸识别方法，K-L变换是图像压缩的一种最优正交变换。
高维的图像空间经过K-L变换后得到一组新的正交基，保留其中重要的正交基，由这些基可以转成低维线性空间。
如果假设人脸在这些低维线性空间的投影具有可分性，就可以将这些投影用作识别的特征矢量，这就是特征脸方法的基本思想三、 实验原理1、K-L 变换设n 维随机向量()12,,...,Tnx x x x =其均值向量E x u ⎡⎤=⎢⎥⎣⎦，相关矩阵xTE R xx =⎡⎤⎣⎦，协方差矩阵()()Tx E C x u x u →→→→→=--⎡⎤⎢⎥⎣⎦，x 经正交变换后产生向量()12,,...,T ny y y y =。
设有标准正交变换矩阵T ，（即 T'T=I ）1212'()'(,)'n n y T x t t t x y y y ===，'i i y t x = (1,2,)i n =11(')ni i i x T y T y y t -====∑ （称为x 的K-L 展开式）取前m项为x 的估计值1ˆmi i i x y t ==∑ 1m n ≤<其均方误差为2T ˆˆ()()()m E x x x x ε⎡⎤=--⎣⎦2'11[][]n ni i i i m i m E y E y y =+=+==∑∑ 2()m ε211[][]nn ii ii m i m E yE y y =+=+'==∑∑11()nniiix ii m i m t E xx tt R t =+=+'''==∑∑在T‘T=I 的约束条件下，要使均方误差21ˆˆ()[()'()]'min nix ii m m E x xx x t R tε=+=--=→∑为此设定准则函数11'('1)n ni x i i i i i m i m J t R t t t λ=+=+=--∑∑由 0iJt ∂=∂得()0x i i R I t λ-= 1,...,i m n =+，即x i i i R t t λ= 1,...,i m n =+表明: λi 是x R 的特征值，而i t 是相应的特征向量。
人脸算法公式
人脸识别算法涉及多个步骤和公式，但具体公式取决于所使用的算法。
以下是其中两种常用的人脸识别算法及其相关公式：
1. 主成分分析（PCA，也被称为特征脸方法）：
PCA是一种以较少数量的特征对样本进行描述以达到降低特征空间维数的
方法，其基础是Karhunen-Loeve展开式，简称KL展开式。
具体来说，对于一个输入的测试样本x，可以求出它与平均脸之间的偏差y = x - x’，y在特征脸空间的投影可以表示为系数向量z = W(T)y，z就是KL变换的展开系数向量。
2. Gabor小波变换+图形匹配：
Gabor滤波器将Gaussian网络函数限制为一个平面波的形状，并且在滤波器设计中有优先方位和频率的选择，表现为对线条边缘反应敏感。
这种方法精确抽取面部特征点以及基于Gabor引擎的匹配算法，具有较好的准确性，能够排除由于面部姿态、表情、发型、眼镜、照明环境等带来的变化。
请注意，以上仅为简要介绍，并无法涵盖所有的人脸识别算法公式。
在实际应用中，建议根据具体需求和场景选择适合的算法，并深入学习相关算法和公式。
基于K-L 变换的人脸识别一、基本要求从网上下载人脸图像，构建人脸训练数据库和测试数据库，采用K-L 变换进行特征脸提取，并实现人脸识别。
通过K-L 变换在人脸识别中的应用，加深对所学内容的理解和感性认识。
1、或者从网上下载其它数据库，编程实现K-L 变换。
2、课堂报告、并提交实验报告及相应程序。
二、实验原理1、K-L 变换：就是以样本特征向量在特征空间分布为原始数据，通过变换，找 到维数较少的组合特征，达到降维的目的。
K-L 变换是一种正交变换，即将一个向量X ，在某一种坐标系统中的描述，转换成用另一种基向量组成的坐标系表示。
这组基向量是正交的，其中每个坐标基向量用j u 表示，∞=,2,1 ，j ，因此，一个向量X 可表示成 ∑∞==1j jjuc X如果我们将由上式表示的无限多维基向量坐标系统改成有限维坐 标系近似，即∑=∧=dj j j u c X 1表示X 的近似值或估计量，我们希望在同样维数条件下，使向量X 的估计量误差最小。
确切地说是使所引起的均方误差:)]ˆ()ˆ[(X X XX E T --=ξ 为最小。
K-L 变换可以实现这个目的。
因为⎩⎨⎧≠==ij ij u u i Tj 01将 ∑∞+=∧=-1d j jjuc X X 带入到)]ˆ()ˆ[(X X XX E T --=ξ中可得到 ][12∑∞==j jcE ξ容易看到 Xu c Tj j =因此 ][1∑∞+=d j TT j u XX u E ξ 由于j u 是确定性向量，因此上式可改写为 []∑∞+==1d j j TT j u XX E u ξ 令 []TXX E =ψ则 ∑∞+==1d j j T j u u ψξ用拉格朗日乘子法，可以求出在满足正交条件下，ξ取极值的坐标系统，即用函数∑∑∞+=∞+=--=11]1[d j j Tj j d j j Tjj u u u u u g λψ）（ 对j u ，∞+=,,1 d j 求导数，因此有∞+==,,1,0- d j u I j j ）（λψ 我们令0=d ，从而可得到以下的结论：以矩阵ψ的本征向量座位坐标轴来展开X 时，其截断均方误差具有极值性质，且当取d 个d j u j ,,2,1 =，来逼近X 时，其均方误差 ∑∞+==1d j jλξ式中j λ是矩阵ψ的相应本征值。
可以证明，当取d 个与矩阵ψ的d 个最大本征值对应的本征向量来展开X时，其截断均方误差和在所有其他正交坐标系情况下用d 个坐标展开X 时所引起的均方误差相比为最小。
这d 个本征向量所组成的正交坐标系称作X 所在的D 维空间的d 维K-L 变换坐标系，在坐标系上的展开系数向量称为X 的变换。
本实验所采用的人物脸部灰度图像默认已经过归一化，所以对于图像的归一化，我们不予处理。
可以以样本集的总体散布矩阵为产生矩阵，即：∑-=--=∑10))((1M i T i ix xMμμ其中：i x 表示第i 个训练样本图像 ，μ表示训练样本集的平均图像向量，M 为训练样本的总数。
2、奇异值分解：为了求22*N N 维∑矩阵的特征值和正交归一的特征向量，直接计算是困难的。
为此引入了SVD 定理：设A 是一秩为r 的n*r 维矩阵，则存在两个正交矩阵： I U U u u u U T rn r =ℜ∈=-*110],,,[I V V v v v V T rr r =ℜ∈=-*110],,,[以及对角阵rr r diag *110],,,[ℜ∈=Λ-λλλ ,且 110-≥≥≥r λλλ满足 TV U A 21Λ=其中：)1,,1,0(-=r i i λ为矩阵T AA 和A A T 的非零特征值，i u 和i v 分别为T AA 和 A A T 对应于i λ的特征向量。
上述分解称为矩阵的奇异值分解，简称SVD ，iλ为A 的奇异值。
又有推论 21Λ=AV U 易知1,,2,1,01-==M i Xv u iii λ这就是图像的特征向量。
它是通过计算较低为矩阵R 的特征值与特征向量而间接求出的。
3、特征向量的选取：我们总共的得到M 个特征向量。
虽然 M 比 2N 小很多。
但通常情况下，仍然会很大。
而事实上，根据应用的需要，并非所有的都有很大的保留意义。
考虑到使用变换作为对人脸图像的压缩手段，可以选取最大的前k 个特征向量，使得αλλ≥∑∑-==100M i iki i上式中，可以选取%99=α。
这说明样本及在前个轴上能量占整个能量的99%以上。
4、产生矩阵的选取： 在考虑到训练样本的类别信息，对人脸识别会有更大意义，以及节省计算量的前提下，我们采用训练样本集的类间散布矩阵作为K-L 变换的产生矩阵，即： ∑-=--=1))()((P i T i iib P S μμμμω其中：i μ为训练样本集中第i 个人的平均图像向量，P 为训练样本集中的总人数，本实验()i P ω不予考虑。
显然，与总体散布矩阵∑相比，特征脸的个数由M 降低到P ，因而在计算量上要减少很多。
对于每个人的训练样本的平均图像向量)1,,1,0(-==P i i μ，向由“特征脸”图像向量所展成的P 子空间上投影，其坐标系数向量就是其K-L 变换的展开系数向量，即： 1,,1,0,-==P i U c i T i μ可知T TV X U C 21∑== 其中：],,,[110-=P c c c C ，i c 为训练样本集中第i 个人的特征系数向量。
三、实验过程1、对于选取每个人n 幅脸图像作为训练样本集的正确率第一步： 搜集人脸图像，建立人脸库。
共40个人，每人9幅。
第二步：选定产生矩阵∑=--=70))()((i T i i i b P S μμμμω，分别选取每个人n(n=1,2,...,7)幅脸图像作为训练样本集，进行K-L 变换，利用奇异值 分解计算出相应的特征向量。
确定%99=α，计算选取出“特征脸” 向量并计算出每个人训练样本的平均图像向量)7,,1,0( =i iμ在由“特征脸”图像向量所张成的子空间上坐标系数向量。
第三步：选取所有人第8、9两张脸图像进行测试，分别计算出它们在特征脸 空间中的坐标系数向量，即特征系数向量。
第四步：分别计算测试样本特征系数向量与每个人训练样本特征系数向量的欧氏 距离，选取距离最小的样本类别作为识别结果，并与测试样本本身所属 于的类别比较，判断识别的正误。
第五步：统计正确的次数，计算正确率。
2、选取不同的α值计算测试样本的识别正确率第一步：产生矩阵依旧为 ∑=--=70))()((i T i i i b P S μμμμω。
确定训练样本集为所有人第1至7幅脸图像，测试样本集还是所有人第8、9张脸图像。
第二步：利用上面实验的部分结果，分别取α为不同值，计算并选取出对应的“特 征脸”向量。
第三步：对于不同的α值，计算出测试样本集的特征系数向量。
第四步：计算测试样本集特征系数向量与样本集中每个人的特征系数向量的欧 氏距离，选取距离最小的样本类别作为识别结果，并与测试样本本身所 属于的类别比较，判断识别的正误。
第五步：统计α取不同值的识别正确率，比较。
3、显示识别图像和特征脸图像选取训练样本集为所有人第1至7幅脸图像，测试样本集为随机选取的5个不同人脸图像，取%99=α，利用上面两个实验部分结果进行识别，并显示结果和部分特征脸图像。
四、实验结果：表1 以类间散布矩阵为产生矩阵的K-L 变换进行人脸识别正确率（%99=α） 训练集中每个人图片数 1 2 3 4 5 6 7 识别正确率 67.5% 78.75% 76.25% 80% 86.25% 90% 90%表2 不同的α值对人脸识别正确率的影响（训练集中每个人图片数为7）α值对识别正确率的影响α值50% 55% 65% 70% 75% 80% 85% 95% 99% 识别正确率 47.5% 62.5% 63.75% 70% 78.75% 88.75% 88.75% 90%90%部分识别人脸图像部分特征脸图像四、实验结论1、由表1可知测试样本集的识别正确率随着训练样本中的每个人的人脸图片数 的增加而增大（%99=α）。
2、由表2可知测试样本集的识别正确率在一定范围内随着α值的增大而增大（训 练集中每个人图片数为7）五、实验心得这个实验比较有意思，与生活中的某些应用也有联系，通过做这个作业，更加认识到理论应用于实际的作用，同时对课本这部分内容也有了更全面的了解。
六、附录（实验代码）clcclear all for i=1:40for j=1:9 %一共有40人的人脸图片，每人读取9张 if i<10strname=strcat('C:\Users\yeqi\Desktop\1\orl_00',num2str(i),'_00',num2str(j),'.bmp');%生成图片文件的路径 elsestrname=strcat('C:\Users\yeqi\Desktop\1\orl_0',num2str(i),'_00',n um2str(j),'.bmp');%生成图片文件的路径 endfid=imread(strname); [row,clo]=size(fid);face(:,9*(i-1)+j)=reshape(fid,[row*clo,1]); end endfu1=7; %训练样本选取每个人fu1张图像Total=40; %定义变量，标定了待识别的人数 X=zeros(row*clo,Total);%初始化变量X ，训练样本中元素由每个人的平均图像向量组成for i=1:TotalYangben=face(:,9*(i-1)+1: 9*(i-1)+fu1);%把样本集face 中的每个人的前fu 张图片组成训练集X(:,i)=mean(Yangben,2);%求得每个人的平均图像向量 endmeanvetor=mean(X,2);%求得总体的平均图像向量 X1=X;for i=1:TotalX(:,i)=X(:,i)-meanvetor;%求得训练集，由每个人平均图像向量减去总体平均图像向量得到endpmetrix=X'*X; %求X'*X，应用的原理是奇异值分解的推论[vet vetvalue]=eig(pmetrix);%求特征值和特征向量vet=fliplr(vet); %对特征值由大到小vetvalue=fliplr(vetvalue);%对特征值由大到小排列，相应的特征向量也进行变换for jj1=1:40U(:,jj1)=(1/sqrt(vetvalue(41-jj1,jj1)))*X*vet(:,jj1);%应用奇异值分解的推论得到正交化的特征脸endCvetvalue=sum(vetvalue);Ctotal=sum(Cvetvalue,2);a=0.99; %选取能量比for i=1:Totalparttotal=sum(Cvetvalue(1,1:i));ratio=parttotal/Ctotal;if ratio>a %选择最大的前i个特征值，由这些值的和在总特征值中占得比例大于a break;endendA= U(:,1:i)';%选择前i个特征值对应的特征向量组成特征脸y= A*X1;%求训练集中各图像在特征脸空间中的坐标bianshi=zeros(6,Total);for i=1:Totalface=double(face);for j=8:9 %每个人图像第8、9张做为待识别的图像ceshi=face(:,(i-1)*9+j);zbceshi=A*ceshi; %求得其在特征脸空间的坐标for k=1:Totalwucha=zbceshi-y(:,k);wuchametrix(:,k)=wucha'*wucha; %计算该坐标与训练集中各图像坐标之间的距离end[h,I]=min(wuchametrix); %最近邻法进行人脸识别if I==i %统计每个待辨识图像是否成功识别，成功为1，失败为0bianshi(j-7,i)=1;elsebianshi(j-7,i)=0;endendendgg=sum(bianshi);gg=sum(gg,2);chenggongratio=gg/(2*Total) %用识别正确的图像个数除以总图像个数得到识别正确率for n1=1:20 %显示前20张特征脸A1=U(1:row*clo/3,n1);[min1,num1]=min(A1);[max1,num2]=max(A1);A1=(1/(max1-min1))*A1;B=reshape(A1,row,clo/3);B1=mat2gray(B);subplot(4,5,n1),imshow(B)hold onend。
