扩展型HMM在表情识别中的应用研究
- 格式:pdf
- 大小:351.68 KB
- 文档页数:7
第2}眷第l期 2008年3月 宁波人学学报f :版) JOURNAL OF NlNGBO UN{VERS{TY(NSEE Vol 2I No{ Mat.2008
文章编号:1001.5 132(2008)01.0055.07
扩展型HMM在表情识别中的应用研究
郑芳颖,赵杰煜
(宁波大学汁算机科学技术研究所,浙江宁波315211)
摘要:根据表情与人脸表情特征关系,提出采用隐马尔可夫模型进行人脸表情识别;又鉴于人
脸图像二维特性,提出了更具健壮性、更易处理二维数据的扩展型隐马尔可夫模型.该模型相比
伪二维隐马尔可夫模型,简化了复杂度.为提高模型的识别效率,根据敏感度不一,提出多重感
兴趣区域替代单一的感兴趣区域.为提高表情子库内样本的聚合度及库间样本离散度,提出相应
的改进方案.首先通过人脸检测,实现表情样本采集;然后采用二维离散余弦实现图像频域转化, 并结合低频数据生成特征向量;最后采用扩展型隐马尔可夫模型进行表情建模,实现表情训练
与识别.实验表明:采用扩展型隐马尔可夫模型可有效识别表情,尤其是优化后的设计方案.
关键词:扩展型隐马尔可夫;人脸特征提取;多重感兴趣区域;样本耦合度;样本离散度
中图分类号:TP391.4l 文献标识码:A
人类对表情的研究,史来已久.最初表隋相关
的研究主要集中在生理学、心理学和认知科学等领
域.20世纪70年代Ekman和Friesen提出一种人脸表
情运动编码系统(Facial Action Coding System, FACS)…,将表情分为6种基本表情:生气、厌恶、
害怕、伤心、高兴和吃惊,他们认为这6种基本表
情是和种族文化相独立的,其具有全人类性的口1.
此观点说明表情识别研究可以抛开人种、文化以及
性别等因素,使问题集中为1个多类别分类问题. 1 978年Suwa等人I3 J做了在图像序列中自动进行表
情分析的研究后,表情分析才得以从心理学的研究
领域进入到机器视觉领域.
目前表情识别主要是基于图像和视频流的研 究, ̄llEssa和Pentland通过结合光流技术、三维模
型方法和肌肉模型来提取脸部运动,实现自动特征 提取与表隋识别I4 ;Black和Yacoob通过参数模型来 跟踪识别钢性和非钢性的脸部运动[51;Yacoob和
Davis1)l1]采用简化的FAcs规则来识别基本的6种表 情等等I6 J.这些方法对人脸运动特征进行了详尽地
分析,其重要性体现于长远研究,但由于运算相当
的复杂,并不适合于实际应用. 隐马尔可夫模型{Hidden Markov Mode,HMM)[ 1
的理论基础是1 970年前后由Baum等人建立起来
的,随后由CMU的Baker和IBM的Jelinek等人将其
应}{{到语音识别中.近年来,HMM也已被引入到
人脸检测和表隋识别等相关领域, ̄[1Nefian等人采 用HMM实现人脸识别 1,Sanaria采用伪二维HMM
实现人脸识别 J,Otsuka和Ohya采用简单的HMM 模型进行表情识别l1。J等.
本文针对基于HMM的表情识别模型不易处
收稿日期:2007—07-14. 宁波大学学报(理工版)Iqtlk:http://3xb.nbu edu cn 基金项目:973重大基础研究前期研究专项(2005CCA04400);国家自然科学基金(NSFC.00672071) 第一作者:郑芳颖({980一),女,浙江衢州人,在渎硕七研究生, 要研究方向:图模型及自动学 J算法E-ma
维普资讯 http://www.cqvip.com 56 宁波大学学报(理工版) 2008
理二维数据特点,提出了1种更具健壮性、更易处 理二维数据,且相比伪二维隐马尔可夫模型复杂度 不高的扩展型隐马尔可夫模型.文章同时结合人
脸表隋处理时特殊情况,提出了2点基本改进方案.
本文的创新点在于提出扩展型隐马尔可夫模型,并
针对眼、眉和嘴的几何特征在表达表情状态实时特 征变化尤为明显特性,将脸部单一的脸部感兴趣区
域划分为眼、眉、嘴多重感兴趣区域,同时为提高 库内样本聚合度与库问样本离散度,提出了相应的
算法改进方案.
1 扩展型隐马尔可夫模型
HMM是用参数表示、用于描述双重随机过程 统计特征的概率模型.作为观察者只能通过观测
值来推断状态,并称这些有限的状态为隐状态.隐
状态之间遵循Markov特性,而观测值与隐状态间
存在着某种特定的联系,即一般概率特性.对于人
脸来说,最重要的人脸特征至上而下依次为头发、 前额、眼睛、鼻子、嘴巴和下颚.即使人脸在平面
内或垂直平面上经历小幅度旋转后,这些特征依然
会被保持,并且符合top—to—bottom HMM.然而, 人脸不仅具有垂直分布特性,同样也具水平分布特
性.根据人脸特征,可至上而下地将人脸划分为对
应的表隋特征区,然后自左向右按照敏感度将各个
垂直特征区域再进行细分,如图l(a所示).为垂直 分布的特征从上至下进行HMM建模,每个隐状态
代表1个特征,并将每个状态扩展为1个HMM模
型,称扩展的HMM为内部HMM,并称其状态为
内部状态,而对应的被扩展的状态称为外部状态.
,称这种将原来HMM中每个状态扩展为一维HMM,
而形成2层结构的HMM模型为扩展型隐马尔可夫 模型,如图l(b1所示.
E—HMM可视为HMM的变形.扩展的HMM
之间遵循的是马尔可夫性的随机过程,而扩展的 HMM自身又符合了HMM的规律. (b)E.HMM.36663模型
图l E-HMM人脸表情信息建模 E—HMM可用符号 ={Ni, ,A.,A}来描述,
具体参数描述如下:
(1)外部状态集S.=S ,i∈【1,…,Ⅳl】,其中,
Ⅳ。为外部状态总数, 表示外部状态f; (2) ={7/" },i∈【1,…,Ⅳl】,为外部状态初始
概率分布,其中,7/". 表示外部状态i的初始概率;
(3)A,= } 。为外部状态问概率转移矩
阵,其中,a 为从外部状态i向外部状态.,的转移 概率;
(4)A={A”,…,/fⅣI }为扩展的HMM描述符,
其中,A¨=(No'¨, ¨,B似 )为外部状态k对应的扩
展的HMM;其又可分为以下几种情况: (i)外部状态k对应的内部状态集so'¨=( ), i∈【1,…, ¨】,其中,M¨表示外部状态k中内部
状态总数;
(ii)4¨={ } , 扣表示外部状态七中内部 状态之间转移概率矩阵;
(iii)B )_{ ¨( 。)}表示由内部状态激发可
态的概率矩阵,其中,0, .表示第t 行第t。列获取 的观测向量,
( .)=∑ 。 Ⅳ( .., , , ), (1)
其中,c 为第m个混合高斯于外部状态k中内部 蟹一
维普资讯 http://www.cqvip.com 第1期 郑芳颖,等:扩展型HMM在表情 别中的应H]tf-亢
状态f的混合系数,N(q... /.1(k. .(,,i¨m’))为均值 和协方差【, ’的混合高斯概率分布函数。
2表情识别的系统框架
系统通过已训练过的对象E—HMM计算各个
情绪最大似然值,然后进行筛选。本实验采用视频
作为数据源,对获取的关键帧加以跟踪检测获取脸
部表情信息,通过对获取图像2D—DCT变化后得到
系统输入的观测向量,然后采用已对当前实验对象 训练好的E—HMM模型对当前对象进行隋绪状态
识别.将系统计算的可能情绪似然值降序排列,并
输出规定的前几个隋绪状态。图2为基于脸部信息
的动态表情识别系统整体设计流程.
==II.: 脸 标 脸 表 岭/, 部 记 部 嚣 跟一 _'- 脸 —.'- 归 ’ 情 踪 部
— ij{ 频\: 捡 特 别 流 测 征 化
图2识别系统整体设计的流程
3 E—HMM训练
表隋识别主要由脸部定位、脸部特征提取与表
情分类3部分组成,而表情识别的关键在于脸部特
征提取,并采用有效的模型对表情加以分类. 3。1表情库采样 脸部定位是为获取相应表情的模型训练样本
与待识别表情样本,实现感兴趣区域提取。人脸识
别方法很多,为提高鲁棒性,本文采用多特征结合 肤色的人脸定位方案.根据表情分类I ,将其分别
为高兴、伤心、惊讶、愤怒、生气与恐惧5种表隋,
进行表隋样本的采集,形成5种基本表隋库,图3
为对应表情库的部分样本。
3。2表情特征提取与表示 人脸分布具有连续性,为保证特征的完整性, 本文通过设计采样窗口(视窗,大小为L X P)进行获 高兴 伤心 惊讶 愤怒 生气 恐惧 图3表情库显示
取特征块。考虑到视窗与视窗问区域也是连续分
布的,由此另为视窗设置步长(重叠区,大小为Q X
M),实现视窗的重叠采样,以降低信息丢失的概
率,其方式如图4所示。
Oi, Oi… 。‘一…‘一’。‘ : : : O . o ¨. ・・一…・■…・
图4观测数据块采样与特征向量萃取 针对每个已获取的特征块的考虑时,若仅仅考
虑像素点是不可取的。主要原 为:(1)像素点割断 了特征内部的相关性,而实际.LI',I特征分布是连续
的;(2)像素点所包含的信息量比较少,而且由于
采用多次扫描方式将导致特征块数量增加的问题,
如粜直接处理像素点将会导致计算量巨增.鉴于 2D DCT…J可将信号变换到适当的域中,并根据
2D DCT具有“去相关性”与“能量集中性”的特
性,我们可利用2D—DCT将被提取出的人脸图像观 测块预先进行变换,取系数强度大的前儿个系数值
组合成观测向量。 3.3 E HMM的训练流程
模型洲练是没汁方案的核心之一,基本流程参 看图5。 模型洲练流程具体如下: (1)根据外部状态数及每个扩展HMM对应的
l太J部状态数,采用top—to—bottom和left—to—right的
E HMM原型结构对表情进行建模,实现模型参数 维普资讯 http://www.cqvip.com