扩展型HMM在表情识别中的应用研究

  • 格式:pdf
  • 大小:351.68 KB
  • 文档页数:7

第2}眷第l期 2008年3月 宁波人学学报f :版) JOURNAL OF NlNGBO UN{VERS{TY(NSEE Vol 2I No{ Mat.2008 

文章编号:1001.5 132(2008)01.0055.07 

扩展型HMM在表情识别中的应用研究 

郑芳颖,赵杰煜 

(宁波大学汁算机科学技术研究所,浙江宁波315211) 

摘要:根据表情与人脸表情特征关系,提出采用隐马尔可夫模型进行人脸表情识别;又鉴于人 

脸图像二维特性,提出了更具健壮性、更易处理二维数据的扩展型隐马尔可夫模型.该模型相比 

伪二维隐马尔可夫模型,简化了复杂度.为提高模型的识别效率,根据敏感度不一,提出多重感 

兴趣区域替代单一的感兴趣区域.为提高表情子库内样本的聚合度及库间样本离散度,提出相应 

的改进方案.首先通过人脸检测,实现表情样本采集;然后采用二维离散余弦实现图像频域转化, 并结合低频数据生成特征向量;最后采用扩展型隐马尔可夫模型进行表情建模,实现表情训练 

与识别.实验表明:采用扩展型隐马尔可夫模型可有效识别表情,尤其是优化后的设计方案. 

关键词:扩展型隐马尔可夫;人脸特征提取;多重感兴趣区域;样本耦合度;样本离散度 

中图分类号:TP391.4l 文献标识码:A 

人类对表情的研究,史来已久.最初表隋相关 

的研究主要集中在生理学、心理学和认知科学等领 

域.20世纪70年代Ekman和Friesen提出一种人脸表 

情运动编码系统(Facial Action Coding System, FACS)…,将表情分为6种基本表情:生气、厌恶、 

害怕、伤心、高兴和吃惊,他们认为这6种基本表 

情是和种族文化相独立的,其具有全人类性的口1. 

此观点说明表情识别研究可以抛开人种、文化以及 

性别等因素,使问题集中为1个多类别分类问题. 1 978年Suwa等人I3 J做了在图像序列中自动进行表 

情分析的研究后,表情分析才得以从心理学的研究 

领域进入到机器视觉领域. 

目前表情识别主要是基于图像和视频流的研 究, ̄llEssa和Pentland通过结合光流技术、三维模 

型方法和肌肉模型来提取脸部运动,实现自动特征 提取与表隋识别I4 ;Black和Yacoob通过参数模型来 跟踪识别钢性和非钢性的脸部运动[51;Yacoob和 

Davis1)l1]采用简化的FAcs规则来识别基本的6种表 情等等I6 J.这些方法对人脸运动特征进行了详尽地 

分析,其重要性体现于长远研究,但由于运算相当 

的复杂,并不适合于实际应用. 隐马尔可夫模型{Hidden Markov Mode,HMM)[ 1 

的理论基础是1 970年前后由Baum等人建立起来 

的,随后由CMU的Baker和IBM的Jelinek等人将其 

应}{{到语音识别中.近年来,HMM也已被引入到 

人脸检测和表隋识别等相关领域, ̄[1Nefian等人采 用HMM实现人脸识别 1,Sanaria采用伪二维HMM 

实现人脸识别 J,Otsuka和Ohya采用简单的HMM 模型进行表情识别l1。J等. 

本文针对基于HMM的表情识别模型不易处 

收稿日期:2007—07-14. 宁波大学学报(理工版)Iqtlk:http://3xb.nbu edu cn 基金项目:973重大基础研究前期研究专项(2005CCA04400);国家自然科学基金(NSFC.00672071) 第一作者:郑芳颖({980一),女,浙江衢州人,在渎硕七研究生, 要研究方向:图模型及自动学 J算法E-ma

 维普资讯 http://www.cqvip.com 56 宁波大学学报(理工版) 2008 

理二维数据特点,提出了1种更具健壮性、更易处 理二维数据,且相比伪二维隐马尔可夫模型复杂度 不高的扩展型隐马尔可夫模型.文章同时结合人 

脸表隋处理时特殊情况,提出了2点基本改进方案. 

本文的创新点在于提出扩展型隐马尔可夫模型,并 

针对眼、眉和嘴的几何特征在表达表情状态实时特 征变化尤为明显特性,将脸部单一的脸部感兴趣区 

域划分为眼、眉、嘴多重感兴趣区域,同时为提高 库内样本聚合度与库问样本离散度,提出了相应的 

算法改进方案. 

1 扩展型隐马尔可夫模型 

HMM是用参数表示、用于描述双重随机过程 统计特征的概率模型.作为观察者只能通过观测 

值来推断状态,并称这些有限的状态为隐状态.隐 

状态之间遵循Markov特性,而观测值与隐状态间 

存在着某种特定的联系,即一般概率特性.对于人 

脸来说,最重要的人脸特征至上而下依次为头发、 前额、眼睛、鼻子、嘴巴和下颚.即使人脸在平面 

内或垂直平面上经历小幅度旋转后,这些特征依然 

会被保持,并且符合top—to—bottom HMM.然而, 人脸不仅具有垂直分布特性,同样也具水平分布特 

性.根据人脸特征,可至上而下地将人脸划分为对 

应的表隋特征区,然后自左向右按照敏感度将各个 

垂直特征区域再进行细分,如图l(a所示).为垂直 分布的特征从上至下进行HMM建模,每个隐状态 

代表1个特征,并将每个状态扩展为1个HMM模 

型,称扩展的HMM为内部HMM,并称其状态为 

内部状态,而对应的被扩展的状态称为外部状态. 

,称这种将原来HMM中每个状态扩展为一维HMM, 

而形成2层结构的HMM模型为扩展型隐马尔可夫 模型,如图l(b1所示. 

E—HMM可视为HMM的变形.扩展的HMM 

之间遵循的是马尔可夫性的随机过程,而扩展的 HMM自身又符合了HMM的规律. (b)E.HMM.36663模型 

图l E-HMM人脸表情信息建模 E—HMM可用符号 ={Ni, ,A.,A}来描述, 

具体参数描述如下: 

(1)外部状态集S.=S ,i∈【1,…,Ⅳl】,其中, 

Ⅳ。为外部状态总数, 表示外部状态f; (2) ={7/" },i∈【1,…,Ⅳl】,为外部状态初始 

概率分布,其中,7/". 表示外部状态i的初始概率; 

(3)A,= } 。为外部状态问概率转移矩 

阵,其中,a 为从外部状态i向外部状态.,的转移 概率; 

(4)A={A”,…,/fⅣI }为扩展的HMM描述符, 

其中,A¨=(No'¨, ¨,B似 )为外部状态k对应的扩 

展的HMM;其又可分为以下几种情况: (i)外部状态k对应的内部状态集so'¨=( ), i∈【1,…, ¨】,其中,M¨表示外部状态k中内部 

状态总数; 

(ii)4¨={ } , 扣表示外部状态七中内部 状态之间转移概率矩阵; 

(iii)B )_{ ¨( 。)}表示由内部状态激发可 

态的概率矩阵,其中,0, .表示第t 行第t。列获取 的观测向量, 

( .)=∑ 。 Ⅳ( .., , , ), (1) 

其中,c 为第m个混合高斯于外部状态k中内部 蟹一

 维普资讯 http://www.cqvip.com 第1期 郑芳颖,等:扩展型HMM在表情 别中的应H]tf-亢 

状态f的混合系数,N(q... /.1(k. .(,,i¨m’))为均值 和协方差【, ’的混合高斯概率分布函数。 

2表情识别的系统框架 

系统通过已训练过的对象E—HMM计算各个 

情绪最大似然值,然后进行筛选。本实验采用视频 

作为数据源,对获取的关键帧加以跟踪检测获取脸 

部表情信息,通过对获取图像2D—DCT变化后得到 

系统输入的观测向量,然后采用已对当前实验对象 训练好的E—HMM模型对当前对象进行隋绪状态 

识别.将系统计算的可能情绪似然值降序排列,并 

输出规定的前几个隋绪状态。图2为基于脸部信息 

的动态表情识别系统整体设计流程. 

==II.: 脸 标 脸 表 岭/, 部 记 部 嚣 跟一 _'- 脸 —.'- 归 ’ 情 踪 部 

— ij{ 频\: 捡 特 别 流 测 征 化 

图2识别系统整体设计的流程 

3 E—HMM训练 

表隋识别主要由脸部定位、脸部特征提取与表 

情分类3部分组成,而表情识别的关键在于脸部特 

征提取,并采用有效的模型对表情加以分类. 3。1表情库采样 脸部定位是为获取相应表情的模型训练样本 

与待识别表情样本,实现感兴趣区域提取。人脸识 

别方法很多,为提高鲁棒性,本文采用多特征结合 肤色的人脸定位方案.根据表情分类I ,将其分别 

为高兴、伤心、惊讶、愤怒、生气与恐惧5种表隋, 

进行表隋样本的采集,形成5种基本表隋库,图3 

为对应表情库的部分样本。 

3。2表情特征提取与表示 人脸分布具有连续性,为保证特征的完整性, 本文通过设计采样窗口(视窗,大小为L X P)进行获 高兴 伤心 惊讶 愤怒 生气 恐惧 图3表情库显示 

取特征块。考虑到视窗与视窗问区域也是连续分 

布的,由此另为视窗设置步长(重叠区,大小为Q X 

M),实现视窗的重叠采样,以降低信息丢失的概 

率,其方式如图4所示。 

Oi, Oi… 。‘一…‘一’。‘ : : : O . o ¨. ・・一…・■…・ 

图4观测数据块采样与特征向量萃取 针对每个已获取的特征块的考虑时,若仅仅考 

虑像素点是不可取的。主要原 为:(1)像素点割断 了特征内部的相关性,而实际.LI',I特征分布是连续 

的;(2)像素点所包含的信息量比较少,而且由于 

采用多次扫描方式将导致特征块数量增加的问题, 

如粜直接处理像素点将会导致计算量巨增.鉴于 2D DCT…J可将信号变换到适当的域中,并根据 

2D DCT具有“去相关性”与“能量集中性”的特 

性,我们可利用2D—DCT将被提取出的人脸图像观 测块预先进行变换,取系数强度大的前儿个系数值 

组合成观测向量。 3.3 E HMM的训练流程 

模型洲练是没汁方案的核心之一,基本流程参 看图5。 模型洲练流程具体如下: (1)根据外部状态数及每个扩展HMM对应的 

l太J部状态数,采用top—to—bottom和left—to—right的 

E HMM原型结构对表情进行建模,实现模型参数 维普资讯 http://www.cqvip.com