模式识别读书报告
- 格式:docx
- 大小:115.73 KB
- 文档页数:12
模式识别研读报告论文出处:Hongjun Jia and Aleix M. Martinez .学院: *******姓名: *******学号:*******Support VectorMachi nes in Face Recog niti on with Occlusi ons.Proc. of CVPR, 2009.基于SVM的闭塞人脸识别》的研读报告1、问题提出:作者提出支撑向量机(SVM)在人脸识别中是非常有用技术,但是作为定义样本的特征向量丢失时,SVM不起作用。
这篇文章提到,当人脸部分发生遮挡时,特征向量的数据就会丢失。
支撑向量机的目标就是找到两类之间的最大空白区域。
由于不知道采取哪个子空间的测试矢量,这与最小化类超平面和子空间之间的重叠区域是对等的。
然而得到的解与获得的使空白区域最大化的可视数据存在矛盾,为了解决这个问题,作者定义一个标准,最大化地减少重叠概率,并且有效解决优化问题。
作者还用丰富的实验,证该方法在温和条件下能够保证全局最小误差。
2、传统人脸识别技术的缺陷:作者提出,基于外观为基础的人脸识别技术在计算机算法里已经相当成功支撑向量机(SVM)已经作为一种将图像的像素值重新形成向量,然后应用于因为在这种情况下,被遮挡的尺寸是未知的。
作者提出了目前为止解决面部遮挡问题的方法并对他人的方法进行评价。
即用没有遮挡的脸部来学习脸部的外观表示,当需要识别有遮挡的脸部时,仅识别可见的共同部分。
这种方法可以通过子空间技术和稀疏表达来实现。
但是这种方法不能从闭塞的图像中处理模型重建。
为了说明情况,作者展示了3个场景中人脸识别应允的真实图像。
组1 :研究最多的,即非闭塞面孔做训练,闭塞图像做测试。
组2:闭塞和非闭塞面孔作为训练。
组3:仅仅是闭塞面孔作为训练。
作者的方法基于组3,即用闭塞面孔作为训练。
3、作者算法的提出:这篇文章,作者推导出能适用以上3种情况的SVM判别准则。
作者的方法与经典SVM 不同之处在于经典的标准SVM在以上3中情况都不能被适用。
因为经典SVM假设所有特征可见。
作者推导准则对缺失成分的样本和测试特征向量适用,为了区分经典SVM,作者命名为偏支撑向量机(PSVM)。
与经典SVM 类似,PSVM 的目标也是尽可能区分超平面中两类样本。
与传统SVM 不同的是PSVM 会受到不完整数据的限制。
在作者提出的PSVM 中,作 者将全部缺失训练样本的所有可能值作为特征空间中的一个映射空间 ,以此来设计使得仿射空间和分离平面重叠概率最小的判别准则。
为了实现模型,作者将仿射空间和超平面之间的角度公式化。
在温和条件下,目标函数具有全局最 优解,前提是判别准则所定义的凸区域靠近原点。
3.1作者算法的详细过程:为了突出自己的算法,作者先简单引述经典SVM 算法,并说明经典SVM 的 不足,经典SVM 的约束条件为:在使用SVM 之前填补这些空白数据。
然而由于这些数据无知,如果填补错误将 导致更坏的结果。
作者的思想就是将这些缺失的数据的所有可能情况作为一个 单元,并能在映射空间中正确分类。
这意味着超平面与所有的不完整数据组成 的映射空间平行。
mm訥F + c 工扁i=i- &) > 1 - 6^ T = 1,…力仏公式1作者指出, AlZ当一些特征丢失时,有些距离无法计算,一种解决的办法就是为了说明以上观点,作者用图2进行说明,加入的P3向量有一个数值丢失,丢失的数值可能是p31,p32,p33,对于经典SVM,每个值都会给一个超平面。
然而我们发现,任何一个给出的超平面都无法正确分类。
为解决以上问题,作者侧重于在概率条件下对正确部分数据进行分类。
超平面和映射空间之间的夹角:特征向量所缺失的元素定义在映射空间中,在映射空间中能给正确分类的超平面概率依赖于:1、映射空间与超平面的关系;2、缺失元素分类结果。
Figure 2+ Classical SVM solutions for different (potential) tilling ins. \ pi ?p2 \ and {qt} qj} are in classes I and 2* respectively.The incomplete feature vector pa = (3*)r e class LFigure 3. The Probability of Correct Classification (PCC) of a hy- pcrplanc・(a) Assuming a Gaussian distribution of S, (b) the angle between S and k is proportiona 1 to the distance d(毛qo).(b)作者用图3说明,如果超平面和映射空间不平行,映射空间将被分为S1,S2,缺 失的可能值在S1中会被正确归类,而在S2中则错误归类。
因此可以计算在映 射空间S 中正确分类的超平面概率为:PCC(l, S)公式2q € S. p(q)概率密度函数;基于上述模型,目标就是最小化类中样本最有可能值间的重叠概率,阻止超平面割裂丢失项的值。
为了计算概率,作者假设样本数据服从高斯分布,P (q ) € N (X ,c)。
最大化PCC 等同于最大化D (X ,Q0)。
注意到,固定的样本 空间,超平面和映射子空间S 的夹角9(S ,L )与D (X ,Q0)成反比关系,因 此B (S ,L )与X 向量丢失元素的可能值相关。
目标函数:为了解决 数据不完 整问题,作者先为每 一个样本向 量定义闭塞 遮掩 llLi G -',如果中的特征被遮掩,则为0,否则为1。
映射空间由所有不完 整的样本组成,超平面L 区分两类由约束:w Tx = b, where w = (wi 厂…:叫)丁公式3公式4将所有的夹角取权重和:取正,否则为0。
为了获取最大可能的 PCC ,应该映射空间和超平面L 之间的夹角9(,L )由下式给出:,为权重值,当不完整时最大化。
类似经典SVM 算法,作者给出解模型:其中K>0是调整参数。
在超平面的性能与不完整数据的正确分类间起到折中作 用。
以下的问题就是解公式5的问题了,由于公式5非线性,非二次,因此文章中对得到以上解模型后,就是最优化过程。
作者分别讨论了线性可分情况可非线性 可分情况zii 诚TH _Xi — 6) > 1, 2 = 1.……■,仏公式7专注于W 。
虽然W 对目标函数是非凸的,但是利用 W 仍可以进一步优化,假 设,,有,r>1则:max wI + KEL L ^II W JII 2llwlFS.t.yi(w rx i - — 6) > 1,公式5进行变换:公式6— ^) > 1: i — 1? . - , , 77-,公式51、线性可分情况:max/(w)= 通过公式 7, 可以解决线性情况问题。
b 值对凸状区域无影响,因此分析中作者 max wi I 力角如尸叫rI2f=l (™li)2力f=L (rt^li)2上公式表明,目标函数是经过原点且单调递增的为了最大化目标函数的边界下限,作者加入一个条件约束:|(i + 工(工Xi 诚)工 r or Sf=i < i-这样就演变成问题:这样得到的目标函数和约束就成了凸规划问题,保证了有全局最优解,即: 7niax > 10 =max{g,……如人(10)是方程9的解。
非线性可分问题求解:在分类问题中,大多数问题是非线性问题。
在这种情况下,将松弛变量■ 一「〔丨・•…匚J和调整参数C>0加入到公式6中,由于不完整的数据目前没被正确分类,因此要根据松弛变量的值来调整角度权值,具体如下:/(w l)=<= f(W2)・(8)Ki(w TXi -6) > 1 一&& > oJ = 1 卜…四利用经典SVM 的解作为初始值,再进行迭代运算,就可以得到模型中有关 W 和 的解。
若固定,g (w弋)可以像线性可分情况一样得到最大化的解。
若W 固 定, 就是一个简单的凸规划问题。
至此作者已经得到线性与非线性情况的模型解 ,可以用于对测试特征向量 分类。
对于不完整的图像,还需要去知道值的概率,为此作者要对数据进行重 建。
对于一幅测试图像,用I 弑::皿J 去描述图像所缺失的部分, 表示M 矩阵的第j 行,有n 个值,因此重建的特征模板L 就有 种情况。
假设可 以对特征进行重建,那么可以分成2部分r 和n ,『为测试图像的观察特征 n 为掩埋特征。
这样权值{必“ E 可以通过公式15求得。
■ 1arg mmt r<- -E^jxp・(⑸1jsL1 十X 丈 ^(1-6)K<||W ;||3n ◎ II 讣 ------------- C 举=iyi(w r^i — 6) > 1 — & 忑 >0,i = 1,._ ,T n,由于sgn 函数并不连续,作者通过一个价值函数进行优化:maxw ,b£.t rrt . -ni+K E &)K 训Ti 严一□£ Mi-ir 吃宁i 电=丄曲 WX _ b) > 1 -> 0,7 = h...,7l T这样就得到了作者的PSVM 算法,模型描述如下:maxw, tg(w£ =1+ E?=i 硯(£)硏公式11公式12(14)max w ?£>将求得的权值去估计模板中丢失的部分4、实验部分:为了展示PSVM 算法,作者选取了既有人工合成遮掩和实际遮掩的人脸图 像作为测试,测试图像来源AR 人脸数据库和FRGC 数据库。
在实验中,控制参 数K 均为1。
遮挡部分,从独立的人脸图像中通过肤色检测重建。
对于人工合成 遮掩,直接在脸部打上一块黑方块,并且设置黑方块的不同尺寸,测试在各种 表情下的分类准确度,作者给出的结果如图5显示Figure 5. Classitication accuracy with synthetic occlusions on the AR database and the FRGC 山iki-sei.作者的实验还将PSVM 算法与他人的算法比较,结果显示PSVM 算法比他人的 算法无论是在无遮掩还是有遮掩情况下都具有优势 。
当有这遮掩时,优势更大。
Trai clingPSVM [4J価・皿fiS^ S5.7卜;90L8 M.7 g 点匚皿 Ml88 J B2.C[旳5M.S 52.0 辭匚的心kfl 1唧83J 75.5Fable L Experimental results (recognition rate in percentag 亡玷 with a variety of training and testing sets.60■丄ci的70讥Table 2. Ex.perinicnia] results (recognition rule in percenlageb) with incomplete data in the training set.文章作者最后总结了自己的算法,认为改进的SVM算法对有遮掩的训练样本和测试样本都是有效的,并且与参考文献中其他人的算法相比,PSVM的识别准确率都要高。