GLRAM与LDA相结合的人脸识别
- 格式:pdf
- 大小:269.64 KB
- 文档页数:4
Computer Engineering and Applications计算机工程与应用2010,46(13)1引言人脸识别技术是生物识别技术的一种,与其他生物特征相比,由于人脸识别具有主动性、非侵犯性和用户友好等优点,因此一直是计算机视觉和模式识别领域的重要研究课题,近些年来在诸多领域得到了广泛的应用。
PCA(主成分分析)和LDA(线性判别分析)是两个使用较多的对人脸图像进行降维的方法。
PCA方法是将人脸图像按行(列)展开所形成的高维向量看作是一个随机向量,因此可采用K-L变换获得其正交K-L基底,对应于其中较大特征值的基底具有与人脸相似的形状,故称为特征脸[1]。
利用相对较小的特征脸集描述人脸,这样,每幅人脸图像就对应于一个维数较低的权向量。
因此,人脸识别可以在降维后的空间上进行。
然而,这个方法的缺点是,得到的特征在一般情况下是最佳描述特征,而不是最佳分类特征[2]。
LDA方法[3]的焦点是如何降维和抽取有效的鉴别特征,它选择与类内散布的正交矢量作为特征脸空间,从而能够压制图像之间的与识别信息无关的差异,对光照及人脸表情的变化都不太敏感。
这种方法的最终目的就是找到一些特征使得类间离散度和类内离散度的比值最大。
LDA可以在降维后将各类数据分开,但不保证误差是最小的[4]。
由于PCA方法需要将人脸图像矩阵预先转换成一维向量,然后以向量作为原始特征进行特征提取。
而转换后的一维向量的维数一般较高,于是给随后的特征提取带来困难,使得后续算法具有较高的计算复杂度[5]。
为此,Yang等人提出了二维PCA方法进行人脸图像的特征提取,此方法不需要预先将人脸图像矩阵展开成一维向量,有效地提高了特征提取的速度,并取得了较高的识别率。
后来,为了减少计算成本,Ye[6]提出了一种名为GLRAM(矩阵的广义低秩逼近)的新算法作为对二维PCA方法的进一步扩展。
经验证,GLRAM可以获得比2DPCA更高的压缩比和更好的分类性能。
采用二维的图像矩阵而不是一维的图像向量,因此这些算法在处理大矩阵时能获得较高的效率。
考虑到GLRAM的上述优越性以及LDA好的分类特性,提出了将GLRAM与LDA相结合的人脸识别方法。
人脸图像的实验结果表明,所提出的方法在分类性能上效果较好。
2GLRAM方法GLRAM是Generalized Low Rank Approximations of Ma-trices的缩写,即矩阵的广义低秩逼近。
它的目的是用低秩矩阵来逼近给定的矩阵。
广义低秩逼近问题和低秩逼近问题的主要区别在于数据表示模型不同。
传统的低秩逼近是使用向量空间模型,向量空间模型通过计算数据矩阵的奇异值而对矩阵的低秩逼近产生简单的闭合形式的解。
然而,奇异值分解高度的时间和空间复杂度限制了奇异值分解不能用于维数较小的矩阵。
提出了一个不同的数据表示模型,每个数据被表示为一个矩GLRAM与LDA相结合的人脸识别徐冬冬,陈秀宏XU Dong-dong,CHEN Xiu-hong江南大学信息工程学院,江苏无锡214122School of Information Engineering,Jiangnan University,Wuxi,Jiangsu214122,ChinaE-mail:xd8326@XU Dong-dong,CHEN Xiu-hong.Face recognition combining GLRAM with puter Engineering and Applications,2010,46(13):194-196.Abstract:This paper proposes a method of face recognition combining GLRAM(Generalized Low Rank Approximations of Matri-ces)with LDA(Linear Discriminant Analysis).Firstly,effective feature can be obtained using GLRAM,and then LDA is used to depress the feature dimension and acquire the best classification feature.This enhances the discriminatory power of extracted fea-tures.Experimental results demonstrate that higher recognition rate can be achieved in shorter time.This proposed method outper-forms GLRAM and LDA methods.Key words:face recognition;Generalized Low Rank Approximations of Matrices(GLRAM);Linear Discriminant Analysis(LDA)摘要:提出了一种GLRAM(矩阵的广义低秩逼近)与LDA(线性判别分析)相结合的人脸识别方法。
首先利用GLRAM方法获得人脸图像的有效特征,然后通过LDA对获得的特征进行进一步的降维并获得最佳分类特征。
这样使得抽取特征的判断能力得到了显著增强。
实验结果表明,该算法在较短的时间内取得了较高的识别率,效果优于单独运用GLRAM方法和LDA方法。
关键词:人脸识别;矩阵的广义低秩逼近(GLRAM);线性判别分析(LDA)DOI:10.3778/j.issn.1002-8331.2010.13.058文章编号:1002-8331(2010)13-0194-03文献标识码:A中图分类号:TP391.41作者简介:徐冬冬(1983-),女,硕士,主要研究方向:模式识别;陈秀宏(1964-),男,博士,教授,主要研究方向:优化理论与方法、模式识别。
收稿日期:2008-10-23修回日期:2009-01-131942010,46(13)阵,数据集合被表示成矩阵集合。
广义的低秩逼近问题变换成低秩逼近矩阵集合的问题[6]。
设Ai∈R r×c(i=1,2,…,n)为训练集中的n个数据。
GLRAM方法就是要计算出矩阵L∈R r×p和R∈R c×p,使得LDiR T(i=1,2,…,n)是Ai 的一个逼近,其中Di∈R p×q。
换句话说,GLRAM方法就是解下面的最小化问题[7]:minL∈R r×p∶L T L=I pR∈R c×q∶R T R=IqDi ∈R p×qni=1Σ‖A i-LD i R T‖2F(1)算法如下:(1)给L赋初值L0,L=I詛1‖‖,I詛1为詛1×詛1的单位矩阵。
设置i为1。
(2)矩阵DR =nj=1ΣA T j L i-1L T i-1A j,计算D R的前詛2个最大特征值所对应的詛2个特征向量{准Rj}詛2j=1,Ri=[准R1,准R2,…,准R詛2]。
(3)矩阵DL =nj=1ΣA j R i R T i A T j,计算D L的前詛1个最大特征值所对应的詛1个特征向量{准Lj}詛1j=1,Li=[准L1,准L2,…,准L詛1]。
(4)i=i+1,重复步骤(2)和(3),直到算法收敛。
(5)L=Li-1,R=Ri-1,Dj=L T AjR。
该算法是一个计算L和R的迭代过程。
给定L,可以通过计算矩阵DR的特征向量来计算R,再利用得出的R,通过计算矩阵DL的特征向量更新L。
这个过程被重复直到算法收敛。
这里就涉及到算法收敛的条件。
收敛条件表示如下:R E(i-1)-R E(i)R E(i-1)<η(2)其中,η=10-6,R E(i-1)和R E(i)分别为算法的第i-1次和第i次迭代的人脸图像重建误差。
重建误差的表达式如下:R E≡1nni=1Σ‖A i-LD i R T‖2F姨3LDAFisher线性判别方法(Fisher linear discriminant analysis,简称LDA)的目的是从高维特征空间里提取出最具有判别能力的低维特征,这些特征能帮助将同一个类别的所有样本聚集在一起,不同类别的样本尽量分开,即选择使得样本类间离散度和类内离散度的比值最大的特征。
也就是说,投影后保证模式样本在新的空间中有最大的类间距离和最小的类内距离,即模式在该空间中有最佳的可分离性。
LDA提取的特征向量集强调的是不同人脸的差异而不是照明条件、人脸表情和方向的变化。
因而,采用LDA方法对光照条件、人脸姿态等的变化不太敏感,从而有助于提高识别效果[8]。
然而,由于在正常情况下人脸识别问题总是一个小样本问题,故其类内散布矩阵总为奇异阵而使此方法的求解变得很困难。
因为LDA以使样本的可分性最好为目标,所以,与PCA相比,LDA更适用于模式识别问题[9]。
样本的类内散布矩阵定义为:S w =Ci=1ΣP i S iSi定义为:Si=x∈C iΣ(x-m i)(x-m i)T(i=1,2,…,C)样本的类间散布矩阵定义为:Sb=Ci=1ΣP i(m i-m)(m i-m)T其中,Pi是先验概率,mi是Ci类的均值,m是所有样本的均值。
用Fisher准则函数JF(W)作为LDA算法中样本可分性的度量标准:JF(W)=W T SBWW T SWW容易证明,使得准则函数J(·)最大化的W必须满足SbW=λSwW如果SW非奇异,上式就是一个广义特征值问题。
矩阵Sb最多只有C-1个非零特征值,C是类别数目。
如果Sw奇异,有很多方法可以解决此问题,规则线性判别分析,就是在SW上加一个扰动项是解决这一问题的最简单方法。
4GLRAM与LDA相结合的方法考虑到GLRAM方法在图像重建误差、分类性能和时间复杂度方面的优点,以及LDA方法较好的识别效果,提出了GLRAM与LDA相结合的方法。
该方法首先利用GLRAM方法获得人脸图像的有效特征,然后将这些有效特征经过LDA的处理,这样不仅可以有效地降低维数,而且使识别能力得到了显著增强。
该方法是在GLRAM算法的基础上增加了LDA方法。
具体算法如下:(1)执行第2章的GLRAM算法,得到矩阵Di。
GLRAM算法的收敛条件同式(2)。
(2)将特征矩阵Di转换成向量vi。
(3)根据LDA方法类内散布矩阵和类间散布矩阵的定义,构成类内散布矩阵SW和类间散布矩阵Sb。
计算SbW=λSwW的前t个最大特征值所对应的特征向量,构成LDA投影矩阵Wlda。
(4)将Di投影到一个t维空间,得出所有样本的最佳分类特征Yi=WldaDi(i=1,2,…,N)。