下载文档原格式
k-l变换原理
k-l变换（Kullback-Leibler transform）是一种用于描述两个概
率分布之间的差异的数学方法。
k-l变换被广泛应用于信息论、统计学和机器学习等领域。
其
原理是基于信息熵的概念，即用来描述一个随机变量不确定性的度量。
信息熵可以表示一个概率分布的平均不确定性。
给定两个概率分布P和Q，k-l变换用来计算从P到Q的信息
熵差异，记为D(P||Q)。
其计算公式如下：
D(P||Q) = Σ P(x) log(P(x)/Q(x))
其中，P(x)和Q(x)分别代表P和Q在某个取值x处的概率。
该公式的基本含义是，对于每个取值x，计算P(x)相对于Q(x)的
比例，并求其对数。
然后将所有取值的结果求和。
k-l变换的值越小，表示P和Q之间的差异越小，即两个概率
分布越接近。
当且仅当P和Q是完全相同的分布时，k-l变换
的值为0。
k-l变换可以用于多种任务，如分类、聚类和降维等。
在分类
任务中，k-l变换可以用来计算一个样本与某个类别之间的相
似度。
在聚类任务中，k-l变换可以用来度量不同簇之间的差异。
在降维任务中，k-l变换可以用来选择最具信息量的特征。
总之，k-l变换是一种用于衡量概率分布之间差异的方法，通
过计算两个概率分布之间的信息熵差异来量化它们的相似度或差异性。
实验二利用K-L变换法进行人脸识别
一、实验目的
主分量分析是一种有效的通过线性变换来降低特征维数的方法，也称为Karhunen-Loeve变换（K-L变换）。
此变换是一种基于目标统计特性的最佳正交变换，它的最佳性体现在变换后产生的新的分量正交或不相关。
编写利用K-L变换进行人脸识别的程序，体会K-L变换的基本思路，掌握K-L变换的性质，理解利用该方法进行人脸识别的原理。
二、实验要求
1、编写用K-L变换法进行人脸识别的程序，对标准图像库进行人脸识别实验。
ORL_faces图像库中有40组人脸图像，每组内的10幅图像取自同一个人，部分人脸图像如下图所示。
利用每组中的前5幅人脸图像（共200幅）作为训练样本，生成人脸识别的分类器，显示“平均脸”图像和“特征脸”图像。
用剩下的200幅图像作为测试样本，输出识别结果，检测识别率。
2、（选做）对自建图像库进行人脸识别实验，利用每组中的前5幅人脸图像作为训练样本，生成人脸识别的分类器，显示“平均脸”图像和“特征脸”图像。
用剩下的图像作为测试样本，输出识别结果，检测识别率。
三、实验报告要求
1、写出自己编写的程序（不用全抄下来，只写要求编写的部分即可）。
2、回答下列问题：
（1）K-L变换的特殊性体现在哪里？
（2）为什么利用K-L变换可以进行人脸识别？（3）如何理解“特征脸”？
（4）何谓“主分量”？。
K-L变换K-L变换（Karhunen-Loeve Transform）是建立在统计特性基础上的一种变换，有的文献也称为霍特林（Hotelling）变换，因他在1933年最先给出将离散信号变换成一串不相关系数的方法。
K-L变换的突出优点是相关性好，是均方误差（MSE，Mean Square Error）意义下的最佳变换，它在数据压缩技术中占有重要地位。
假定一幅N x N的数字图像通过某一信号通道传输M次，由于受随机噪音干扰和环境条件影响，接收到的图像实际上是一个受干扰的数字图像集合对第i次获得的图像fi(x,y) ，可用一个含N2 个元素的向量Xi 表示，即该向量的第一组分量（N个元素）由图像fi(x,y) 的第一行像素组成，向量的第二组分量由图像f i(x,y) 的第二行像素组成，依此类推。
也可以按列的方式形成这种向量，方法类似。
X向量的协方差矩阵定义为：m f定义为：C f 和m f 的表达式中，“E ”是求期望。
对于M幅数字图像，平均值向量m f 和协方差矩阵C f可由下述方法近似求得：可以看出，m f 是N2 个元素的向量，C f 是N2 x N2 的方阵。
根据线性代数理论，可以求出协方差矩阵的N2 个特征向量和对应的特征值。
假定是按递减顺序排列的特征值，对应的特征向量ei = 。
则K-L变换矩阵A定义为：从而可得K-L变换的变换表达式为：该变换式可理解为，由中心化图像向量X - mx 与变换矩阵A相乘即得到变换后的图像向量Y。
Y的组成方式与向量X相同。
K-L变换虽然具有MSE意义下的最佳性能，但需要先知道信源的协方差矩阵并求出特征值。
求特征值与特征向量并不是一件容易的事，维数较高时甚至求不出来。
即使能借助计算机求解，也很难满足实时处理的要求，而且从编码应用看还需要将这些信息传输给接收端。
这些因素造成了K-L变换在工程实践中不能广泛使用。
人们一方面继续寻求解特征值与特征向量的快速算法，另一方面则寻找一些虽不是“最佳”、但也有较好的去相关与能量集中的性能且容易实现的一些变换方法。
《模式识别》实验报告K-L变换特征提取基于K-L 变换的iris 数据分类⼀、实验原理K-L 变换是⼀种基于⽬标统计特性的最佳正交变换。
它具有⼀些优良的性质：即变换后产⽣的新的分量正交或者不相关；以部分新的分量表⽰原⽮量均⽅误差最⼩；变换后的⽮量更趋确定，能量更集中。
这⼀⽅法的⽬的是寻找任意统计分布的数据集合之主要分量的⼦集。
设n 维⽮量12,,,Tn x x x =x ，其均值⽮量E=µx ，协⽅差阵()T x E=--C x u)(x u ，此协⽅差阵为对称正定阵，则经过正交分解克表⽰为x =TC U ΛU ,其中12,,,[]n diag λλλ=Λ，12,,,n u u u =U 为对应特征值的特征向量组成的变换阵，且满⾜1T-=UU。
变换阵TU 为旋转矩阵，再此变换阵下x 变换为()T -=x u y U ,在新的正交基空间中，相应的协⽅差阵12[,,,]xn diag λλλ==x U C U C。
通过略去对应于若⼲较⼩特征值的特征向量来给y 降维然后进⾏处理。
通常情况下特征值幅度差别很⼤，忽略⼀些较⼩的值并不会引起⼤的误差。
对经过K-L 变换后的特征向量按最⼩错误率bayes 决策和BP 神经⽹络⽅法进⾏分类。
⼆、实验步骤（1）计算样本向量的均值E =µx 和协⽅差阵()T xE ??=--C x u)(x u5.8433 3.0573 3.7580 1.1993??=µ，0.68570.0424 1.27430.51630.04240.189980.32970.12161.27430.3297 3.1163 1.29560.51630.12161.29560.5810x----=--C （2）计算协⽅差阵xC 的特征值和特征向量，则4.2282 , 0.24267 , 0.07821 , 0.023835[]diag =Λ-0.3614 -0.6566 0.5820 0.3155 0.0845 -0.7302 -0.5979 -0.3197 -0.8567 0.1734 -0.0762 -0.4798 -0.3583 0.0755 -0.5458 0.7537??=U从上⾯的计算可以看到协⽅差阵特征值0.023835和0.07821相对于0.24267和4.2282很⼩，并经计算个特征值对误差影响所占⽐重分别为92.462%、5.3066%、1.7103%和0.52122%，因此可以去掉k=1~2个最⼩的特征值，得到新的变换阵12,,,newn k u u u -=U。
K-L 变换（Karhunen-Lo éve ）离散K-L 展开式的矩阵表示设非周期随机过程)(t x ，在采样区间[a, b]作均匀采样，采样样本表示为向量⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡=)()()(21D t x t x t x x （理解为每个样本向量有D 个特征）其相关函数][T xx E 为D 维方阵，有D 个线性无关的特征向量。
【假如有N 个采样样本，⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡=⨯DN D D N N ND x x x x x x x x x212222111211x ， 相关函数][Txx E ＝TN D N D N⨯⨯x x 1】 则采样序列x 的展开式仅含有D 项∑-=Dj j c 1jx ϕ，式中，j ϕ为第j 个正交基函数（也叫基向量），j c 为对应的展开式系数。
【对于“K-L 展开式满足正交变换，且是最小均方误差的”证明如下：】假设向量集合),2,1}({ =i i x 中的x 可以用完备正交归一向量系或者称为变换基向量),,2,1(∞= j i u 来展开，则有∑∞==1j j j c u x基向量满足正交性⎩⎨⎧≠==i j ij j T i ,0,1u u在离散情况下使用有限基向量集合来表示，即∑==dj jj c 1ˆux其均方误差为][)]()[()]ˆ()ˆ[(1211∑∑∑∞+=∞+=∞+===--=d j jd j jjT d j jjTcE c c E E u u x x xx ξ将展开式系数x u Tj j c =（理解为x 在基坐标上的投影，而展开式系数就是坐标值）代入均方误差表达式，有∑∑∑∞+=∞+=∞+====111)(][d j jT jd j j TT jd j j TT jE E ψuu u xx uu xx u ξ（理解上式中j TT j j c u x x u ==，因为是行向量和列向量）)(T E xx ψ=为自相关矩阵（这是一个对称矩阵，因为T T T xx xx =)(）由拉格朗日条件极值法求均方误差的极限，相应的拉格朗日函数为]1[)(11--=∑∑∞+=∞+=jT jd j jd j j Tjj L u u ψu uu λ令0)(=j jL d du u （理解j 从的d ＋1取到无穷，总共就有这么多方程） 则022=-j j j u ψu λ得0)(=-j j u E ψλ，∞+=,,1 d j 【 这是矩阵的导数问题！相关概念知识如下： 令A 是一个与列向量x 无关的矩阵，则T ∂=∂x A A x ， ()T T T ∂=+=+∂x AxAx A x A A x x 特别地，若A 为对称矩阵，则有2T ∂=∂x AxAx x证明：前半部分：假设111221112222111112212211122111222222()()()()Tx a x a x a x a x x a a aa x a x a x a x a x x ∂∂⎡⎤++⎢⎥∂∂⎡⎤∂⎢⎥===⎢⎥∂∂∂⎢⎥⎣⎦++⎢⎥∂∂⎣⎦x A A x 后半部分：11nnTij i j i j A x x ===∑∑x Ax — 一个多项式梯度T ∂∂x Axx（是一个列向量）的第k 个分量为1111[]T n n n nk ij ijik ikjji j i j kA x x A x A xx ====∂∂==+∂∂∑∑∑∑x Ax x()T T T ∂=+=+∂x AxA x Ax A A x x】 其解就是使均方误差为极小的基向量j u ，同时求得的j u 为矩阵ψ的特征向量，其对应的特征值为j λ，则截断均方误差为∑∞+==1d j jλξ（此处用矩阵对角化的概念理解j j T j λ=ψu u ），式中j λ为矩阵ψ的特征值。
模式识别大作业班级：09030901题目：基于KL变换的人脸识别姓名：黎照学号：2009302320姓名：陈升富学号：2009302313姓名：益琛学号：2009302311日期：2012/4/25【摘要】本次实验论述了K_L变换在人脸识别中的应用，主要介绍人脸识别过程中的每个环节，整个过程包括人脸图像的采集、预处理、特征提取到训练和识别。
一、基本要求从网上下载人脸图像，构建人脸训练数据库和测试数据库，采用K-L变换进行特征脸提取，并实现人脸识别。
通过K-L变换在人脸识别中的应用，加深对所学内容的理解和感性认识。
二、主要思想基于特征脸的人脸识别方法是基于K-L变换的人脸识别方法，K-L变换是图像压缩的一种最优正交变换。
高维的图像空间经过K-L变换后得到一组新的正交基，保留其中重要的正交基，由这些基可以转成低维线性空间。
如果假设人脸在这些低维线性空间的投影具有可分性，就可以将这些投影用作识别的特征矢量，这就是特征脸方法的基本思想三、 实验原理1、K-L 变换设n 维随机向量()12,,...,Tnx x x x =其均值向量E x u ⎡⎤=⎢⎥⎣⎦，相关矩阵xTE R xx =⎡⎤⎣⎦，协方差矩阵()()Tx E C x u x u →→→→→=--⎡⎤⎢⎥⎣⎦，x 经正交变换后产生向量()12,,...,T ny y y y =。
设有标准正交变换矩阵T ，（即 T'T=I ）1212'()'(,)'n n y T x t t t x y y y ===，'i i y t x = (1,2,)i n =11(')ni i i x T y T y y t -====∑ （称为x 的K-L 展开式）取前m项为x 的估计值1ˆmi i i x y t ==∑ 1m n ≤<其均方误差为2T ˆˆ()()()m E x x x x ε⎡⎤=--⎣⎦2'11[][]n ni i i i m i m E y E y y =+=+==∑∑ 2()m ε211[][]nn ii ii m i m E yE y y =+=+'==∑∑11()nniiix ii m i m t E xx tt R t =+=+'''==∑∑在T‘T=I 的约束条件下，要使均方误差21ˆˆ()[()'()]'min nix ii m m E x xx x t R tε=+=--=→∑为此设定准则函数11'('1)n ni x i i i i i m i m J t R t t t λ=+=+=--∑∑由 0iJt ∂=∂得()0x i i R I t λ-= 1,...,i m n =+，即x i i i R t t λ= 1,...,i m n =+表明: λi 是x R 的特征值，而i t 是相应的特征向量。
模式识别作业报告组员：2011302265 孔素瑶2011302268 马征2011302273 周昳慧一、实验要求用FAMALE.TXT 和MALE.TXT 的数据作为本次实验使用的样本集，利用K-L 变换对该样本集进行变换，与过去用Fisher 线性判别方法或其它方法得到的分类面进行比较，从而加深对所学内容的理解和感性认识。
二、具体做法1． 不考虑类别信息对整个样本集进行K-L 变换（即PCA ），并将计算出的新特征方向表示在二维平面上，考察投影到特征值最大的方向后男女样本的分布情况并用该主成分进行分类。
2． 利用类平均向量提取判别信息，选取最好的投影方向，考察投影后样本的分布情况并用该投影方向进行分类。
3． 将上述投影和分类情况与以前做的各种分类情况比较，考察各自的特点和相互关系。
三、实验原理设n 维随机向量T n x x x x ),,(21⋯=，其均值向量][x E u =，相关矩阵][Tx xx E R =，协方差矩阵]))([(Tx u x u x E C --=，x 经正交变换后产生向量T n y y y y ),,(21⋯=。
设有标准正交变换矩阵)),,((21n t t t T T ⋯=，（即I T T T=）Tn T n y y y x t t t x T y ),,(),,(2121⋯=⋯==，x t y Ti i = (1,2,)i n =∑=-===ni i i Tt y y T y T x 11（称为 x 的K-L 展开式）取前m 项为x 的估计值1ˆmi i i xy t ==∑ 1m n ≤<其均方误差为∑∑+=+=∧∧==--=nm i ii nm i iTy y E yE x x x x E m 1'12][][)]()[()(ξ∑∑∑+=+=+====nm i i x inm i inm i ii t R ttx x E t y y E m 1'1''1')(][)(ξ在I T T ='的约束条件下,要使均方误差min )]()[()(1''→=--=∑+=∧∧nm i i x it R tx x x x E m ξ为此设定准则函数∑∑+=+=--=nm i i Ti i nm i i x Ti t t t R t J 11)1(λ由0iJt ∂=∂可得()0x i i R I t λ-= 1,...,i m n =+ 即x i i i R t t λ= 1,...,i m n =+表明: λi 是x R 的特征值，而i t 是相应的特征向量。
博士□兽医硕士专业学位□硕士□农业推广硕士专业学位□同等学力在职申请学位□中职教师攻读硕士学位□工程硕士专业学位□高校教师攻读硕士学位□风景园林硕士专业学位□西北农林科技大学研究生课程考试试卷封面（课程名称：）学位课□选修课□补修课□研究生年级、姓名所在学院及专业任课教师姓名考试日期考试成绩评卷教师签字处K-L 变换实验报告摘要K-L 变换，又称霍特林（Hotelling ）变换或者主成分分析(PCA)是均方差意义下的最佳变换，其突出优点是相关性好，得到的主成分是互相线性不相关的。
该方法是很多方面的常用算法，如人脸识别、图像压缩和信号传输等，其基本原理就是用较少数量的特征对样本进行描述以达到降低特征空间维数的方法，方法的基础是Karhunen-Loeve 展开式简称K-L 展开式。
本报告介绍了K-L 变换的基本原理，及其应用该方法进行人脸识别的基本步骤，并比较了基于总体散布矩阵和类间散布矩阵做为产生矩阵的K-L 变换进行的人脸识别，并对识别率进行了统计。
1. K-L 变换的基本原理特征脸方法是基于K-L 变换的人脸识别方法，K-L 变换是图像压缩的一种最优正交变换。
高维的图像空间经过K-L 变换后得到一组新的正交基，保留其中重要的正交基，由这些基可以张成低维线性空间。
如果假设人脸在这些低维线性空间的投影具有可分性，就可以将这些投影用作识别的特征矢量，这就是特征脸方法用于人脸识别的基本思想。
在人脸识别中，可以用离散K-L 变换对人脸图像的原始空间进行转换，即构造人脸图像数据集的协方差矩阵，对之进行正交变换，求出协方差矩阵的特征向量，再依据特征值的大小对这些特征向量进行排序，每一个向量表示人脸图像中一个不同数量的变量，这些特征向量表示特征的一个集合，它们共同表示一个人脸图像。
在人脸识别领域，人们常称这些特征向量为特征脸。
每一个体人脸图像都可以确切地表示为一组特征脸的线性组合。
这样我们首先通过有指导的训练（给定训练样本集已知分类）得到样本集在特征脸空间中的坐标。
训练完成后，输入待辨识图像，求得在特征脸空间的坐标，采用最近邻法，就可以实现人脸识别。
一般说K-L 变换是均方差意义下的最佳变换，理论推导如下。
假设任何信号X 都可以被表示为：∑∞==1i i i u c X ，其中⎩⎨⎧≠==j i ji u u j Ti,0,1 (1.1)K-L 变换是一种正交变换，即将一个向量X ，在某一种坐标系统中得描述，转换成用另一种基向量组成的坐标系表示。
这组基向量是正交的，其中每个坐标基向量用u i 表示，c i 为其分量数值，变换的目的是如何将(1.1)表示的无限多维基向量系统改成有限d 维坐标系近似。
如X 的近似值或者估计量表示为：∑==di i i u c X 1ˆ (1.2)要使向量X 的估计量误差小，即使引起的均方误差[])ˆ()ˆ(X X XX E T --=ε (1.3) 为最小，而K-L 变换就实现了这个目的，下面详细证明。
求某一个数据X 的相应的ci 值，可以通过X 与对应某个基u i 的点积来计算。
由于不同的基之间是相互正交的，这个点积值就是c i的值，即Xu c Ti i =，如果我们要求一组系数c i ,并将其表示成一个向量形式T c c C ,...),(21=,则我们可以得：UX X u u C T T=⎪⎪⎪⎭⎫ ⎝⎛=...21 (1.4)则U 就是一个变换矩阵，其中每一行是某一个正交基向量的转置，由X 计算C 称为对X 的分解。
反过来，如果我们希望用C 重构信号X ，则根据(1.2)，它是各个成分之和。
如果我们将重构信号表示为T d x x x X),...,,(ˆ21=，则()CU c c c u u u x x X T d d d =⎪⎪⎪⎪⎪⎭⎫⎝⎛=⎪⎪⎪⎭⎫⎝⎛= 21211,..,,ˆ (1.5) 我们称∑∞+==-1ˆd i i i u c X X 为残差，带进(1.3)中我们可以得到：[][][]∑∑∑∞+=∞+=∞+==⋅=--=1211)ˆ()ˆ(d i i d i d j T j j T i i T c E u c u c E X X X X E ε另外：i Tj j T i j j j j T iT i i u X u u c u c uX u c ∑∑∞=∞=====11，故：[][]∑∑∑∑∞+=∞+=∞+=∞+=ψ===11112][d i iT i d i i TTid i i TTid i iu u u XX E u u XX u E c E 欲使该均方误差为最小，就变成在保证正交变换的条件下，使ε最小的问题，设一函数： ，并对其进行求导可得：∞+==-ψ,...,1,0)(d i u I i i λ (1.6)可见向量u i 应是ψ矩阵的特征值i λ的特征向量，而此时截断误差为∑∞+==1d i i λε，如将按其大小顺序排列，即 ≥≥≥≥d λλλ21，则取前d 项特征值对应的特征向量组成的坐标系，可使向量的均方误差为最小。
满足上述条件的变换就是K-L 变换。
∑∑∞+=∞+=--ψ=11)1()(d i i T i i d i i T i i u u u u u g λ2.K-L 变换人脸识别实验2.1 数据准备本节的实验数据是随机产生的1.给定样本集，在这里样本集的大小为360，一共是40人，每人9张图片。
我选取每人5张图片一共200张作为训练集，训练集的大小是可选的，它的大小将直接影响到识别的正确率，在后面我对采用不同大小的训练集进行识别的正确率进行了统计。
2.确定采用何种产生矩阵，有总体散布矩阵（{()()}T E x x μμ--）和类间散布矩阵（1()()()p Tbi i i i Sp ωμμμμ-==--∑），后面的例子程序中分别采用了这两种产生矩阵，并进行了识别正确率的比较。
3.根据产生矩阵计算出特征脸，这里要用到奇异值分解，其基本原理就是通过计算较低维数矩阵的特征值与特征向量而间接求出较高维数矩阵的特征向量（特征脸），从而达到简化计算的目的。
4.分别求得训练集中各图像在特征脸空间中的坐标。
2.2 识别过程首先求得待辨识图像相对于训练集平均脸的差值图像，然后求得该图像在特征脸空间中的坐标，最后采用最近邻法对图像进行归类。
2.3 处理过程1) 以类间散布矩阵为产生矩阵的K-L 变换进行人脸识别 主体代码如下：Total=40; %定义变量，标定了待识别的人数X=zeros(row*clo,Total);%初始化变量X ，训练样本中元素由每个人的平均图像向量组成for i=1:TotalYangben=face(:,9*(i-1)+1: 9*(i-1)+5);%把样本集face 中的每个人的前三张图片组成训练集X(:,i)=mean(Yangben,2);%求得每个人的平均图像向量 endmeanvetor=mean(X,2);%求得总体的平均图像向量 for i=1:TotalX(:,i)=X(:,i)-meanvetor;%求得训练集，由每个人平均图像向量减去总体平均图像向量得到 endpmetrix= X *X'; %求协方差矩阵，应用的原理是奇异值分解的推论 [U vetvalue s]=svd(pmetrix);%求特征值和特征向量 Cvetvalue=sum(vetvalue); Ctotal=sum(Cvetvalue,2); for i=1:Totalparttotal=sum(Cvetvalue(1:i),2);ratio=parttotal/Ctotal;if ratio>0.99break;endend %选择最大的前n个特征值，由这些值的和在总特征值中占得比例大于99% A= U(:,1:i)';%选择前n个特征值对应的特征向量组成特征脸y= A*X;%求训练集中各图像在特征脸空间中的坐标bianshi=zeros(4,Total);for i=1:Totalfor j=6:9 %每个人图像的前三张作为训练集，则后6张就做为待识别的图像ceshi=face(:,(i-1)*9+j)-meanvetor;%待识别图像减去总体平均图像向量zbceshi=A*ceshi; %求得其在特征脸空间的坐标for k=1:Totalwucha=zbceshi-y(:,k);wuchametrix(:,k)=wucha'*wucha;end %计算该坐标与训练集中各图像坐标之间的距离[h,I]=min(wuchametrix); %最近邻法进行人脸识别if I==ibianshi(j-5,i)=1;elsebianshi(j-5,i)=0;end %统计每个待辨识图像是否成功识别，成功为1，失败为0endendgg=sum(bianshi);gg=sum(gg,2);chenggongratio=gg/(4*Total) %用识别正确的图像个数除以总图像个数得到识别正确率2)以总体散布矩阵为产生矩阵的K-L变换进行人脸识别主体代码如下：Total=40;Shumu=5;X=zeros(row*clo,Total*Shumu);%初始化训练集，其元素由每个人各Shumu张图像组成for i=1:TotalX(:,Shumu*(i-1)+1: Shumu*i)=face(:,9*(i-1)+1: 9*(i-1)+Shumu);end %为训练集赋初值，取每个人的头shumu张图像组成训练集meanvetor=mean(X,2); %求得总体平均图像向量for i=1:Total*ShumuX(:,i)=X(:,i)-meanvetor;end %各图像减去总体平均图像向量得到差值图像向量pmetrix=X*X';[U vetvalue s]=svd(pmetrix);Cvetvalue=sum(vetvalue);Ctotal=sum(Cvetvalue,2);for i=1:Total*Shumuparttotal=sum(Cvetvalue(1:i),2);ratio=parttotal/Ctotal;if ratio>0.99break;endend %选择取值最大的前99%的特征值，进一步降低维数A= U(:,1:i)';%由选取的特征值得到对应的特征向量组成特征脸y= A*X; %求得训练集中各图像在特征脸空间中的坐标bianshi=zeros(4,Total);for i=1:Totalfor j=6:9 %样本集ceshi=face(:,(i-1)*9+j)-meanvetor;zbceshi=A*ceshi;for k=1:Total*Shumuwucha=zbceshi-y(:,k);wuchametrix(:,k)=wucha'*wucha;end[h,I]=min(wuchametrix); %最近邻法进行图像识别B= ceil(I/Shumu);if B==ibianshi(j-5,i)=1;elsebianshi(j-5,i)=0;end %识别正确为1，错误为0endendgg=sum(bianshi);gg=sum(gg,2);chenggongratio=gg/(4*Total) %统计识别正确率图2.1是训练样本的过程中生成的一些特征脸(eigenface).图2.1 根据样本生成的一些特征脸(eigenface) 2.4 识别率统计图2.2 基于两种产生矩阵的识别正确率统计3. 结论通过对分别采用类间散布矩阵和总体散布矩阵为产生矩阵的K-L变换进行人脸识别的正确率的统计可以看出，应用总体散布矩阵作为产生矩阵的K-L变换进行人脸识别的正确率明显要高。
