当前位置：文档之家 › K子空间和时延自相关器的英汉音素识别

K子空间和时延自相关器的英汉音素识别

  • 格式：pdf
  • 大小：217.58 KB
  • 文档页数：4

第35卷 第1期 电 子 科 技 大 学 学 报 Vol.35 No.1 2006年2月 Journal of UEST of China Feb. 2006

·计算机工程与应用·

K子空间和时延自相关器的英汉音素识别 罗万伯1 ，罗霄岚2，陈 炜2，彭 舰1，吴端培2(1. 四川大学计算机学院 成都 610064; 2. 美国克莱姆森大学电子与计算机工程学院, SC29634) 【摘要】提出了用于音素识别的K子空间和时延自相关器神经网络结构，用将时延设计加入线性自相关器，以扩展音素滤波神经网络的方法，产生p维子空间，并采用迭代过程修改划分，以便捕获语音信号中的时间序列信息。这种带不分类训练过程的体系结构提供了一种高识别性能的方法，没有大多数常规语音识别神经网络所常有的网络输出值不表示候选者似然性的缺陷。通过英语音素和汉语音素的初步试验，识别正确率为84.38%，比音素滤波神经网络方法好。 关 键 词 语音识别; 音素识别; 神经网络; 汉语音素; 时延自相关 中图分类号 TP 399; TN 912 文献标识码 A

English and Chinese Phonemes Recognition Using K-Subspaces and Time-Delay Auto-Associators

LUO Wan-bo1，LUO Xiao-lan2，CHEN Wei2，PENG Jian1，WU Duan-pei2(1. Computer Science College, Sichuan University Chengdu 610064; 2. Electrical and Computer Engineering College, Clemson University, SC29634 US)

Abstract A neural network architecture, K-subspaces and time-delay auto-associators, is proposed for phoneme recognition. It extends the phoneme filter neural networks approach by adding linear auto-associators to create p-dimension subspace, and an iteration is employed to improve the decision. It is good to capture the time-sequence information in speech signal. The architecture proposed could provide a high recognition performance without traditional neural network’s shortcoming. Some recognition simulations for both English and Chinese phonemes are conducted, and the recognition rate is 84.38% which is better than phoneme filter neural networks approach. Key words speech recognition; phoneme recognition; neural network; Chinese phoneme; time-delay auto-associators

许多研究者研究了主元分析(Principal Component Analysis，PCA)的神经网络实现，并应用于数据压缩和特征抽取[1]。文献[2]指出自相关器与PCA非常相近；具有p个隐蔽单元的线性自相关器没有最小平方误差意

义下的局部最小值，但存在唯一的全局最小值。在全局最小值点，具有p个隐蔽单元的线性自相关器形成一个K维子空间，它由与训练数据相关的协方差矩阵前面的p个主元本征矢量产生。对于子空间，新输入模式的失真由输入与子空间的距离决定，为该空间的生成问题提供了一个精确的定量答案。为了更好地适应多种模式的数据，文献[3]提出了一种称为向量量化PCA(Vector Quantization，VQPCA)的算法，训练数据首先被聚类进N个Voronois元，然后对每一个元形成一个局部PCA。 基于3个隐蔽层的非线性自相关器，文献[4]提出了一种用于音素识别的Nakamura法，称为音素滤波神经网络方法。该方法的基础是自相关器能从统计角度特征化训练数据并形成一个好的生成。在该方法中，每一个音素类与一个且只与一个自相关器相关联。每一个自相关器独立地用属于该音素类的语音数据训练。使用该方法进行音素识别的优点是：(1) 不像大多数传统的语音识别神经网络，该方法的网络输出值反映了候选者的似然性；(2) 当一个新音素类添加入准备分类时，已被训练的网络不需重训练。当然，这种网络缺乏捕获语音信号中固有的时间序列信息的能力。仿真表明，对于辅音识别，特别是像/b/，/d/和/g/之类的浊

收稿日期：2003 − 06 − 25 作者简介：罗万伯(1946 − )，男，硕士，教授，主要从事信息安全、多媒体技术和计算机仿真方面的研究. 第1期 罗万伯 等: K子空间和时延自相关器的英汉音素识别 67

辅音，识别精度相当差(见表1)。 本文提出了一种新的高性能的神经网络方法，该方法将时延设计引入线性自相关器，以扩展Nakamura法，捕获语音信号中的时间序列信息，并且让每一个音素类都使用K个自相关器，以便处理语音数据。

1 时延自相关器

图1是单隐蔽层时延自相关器(Time Delay Auto-Association，TDAA)的示意图。图中，虚线箭头线表示信号流方向，实线箭头线表示带权因子的连接。输入层定义一个d帧窗口，给出一个任意时刻t的n×d维输入向量，称为加窗向量。图1中，n = 3。在训练和识别两个阶段，语音数据以一个时刻一帧的方式，一步一步地进入输入层。 对线性单元用于隐蔽层和输出层，虽然一些研究者指出有3个隐蔽层的非线性自相关器可能比线性自相关器好，但未得到理论或实验证明。非线性自相关器存在局部最小值。当训练过程达到此值时，不能保证非线性自相关器仍比线性自相关器好。非线性相关器的另一缺点是收敛速率低，因为只存在唯一的全局最小值而不存在局部最小值[2]。训练线性自相关器的收敛速度通常比较快。使用Karhuman-Loève变换进行分析，可能

得到权因子矩阵。所以，本文提出的方法采用线性自相关器。

X′(t)输出层(n×d单元)

隐蔽层(P单元X′(t)

输入层(n×d单元)

)

图1 时延自相关器结构

用自相关器重构一个加窗向量的失真(distortion)定义为： 1'01(,)(()(,))dnjjijdsatXtiXati−===−−∑∑2− (1)

式中 Xj(t)是n维输入向量的第j元素在时刻t的值；X′j (a,t)是用自相关器a重构的Xj(t)；d是时间延迟数。加窗

向量失真在训练和测试两个过程中都要被用到。

2 用于音素识别的带时延自相关器的K子空间

用于与讲话者无关的音素识别的语音数据数量应当足够大，以便能覆盖音素在各种语句环境的变化。因此，通常需要大量讲话者来生成语音数据。每一个讲话者的语句有不同的统计特性，只使用一个自相关器来刻画用于与讲话者无关的音素识别的语音数据的大量变异是不行的。 为了进一步改进用于音素识别的TDAA的性能，对每一个音素类都需构建K个自相关器，并用一种聚类过程对数据进行划分，聚类过程与K均值算法K元素均值类似，差别在于聚类器的每一数据均值用对应的带p个隐蔽单元的自相关器产生的p维子空间代替。训练过程不像TDAA或容忍移位的线性向量量化(Linear Vector Quantization，LVQ)[5]，而是采用一种无分类训练方式，因此每一个音素类可以单独训练。

本文提出的这种K子空间聚类过程可以视为是文献[3]中的VQPCA的扩展，采用误差后向传播算法训练的线性自相关器产生p维子空间，并采用迭代过程修改划分代替VQPCA中的一遍训练方案。K子空间聚类过程如下： 步骤 1 初始化步骤 (1) 用K均值算法将以加窗向量形式给出的每个音素类的训练数据集划分成K的聚类。文献[6]提出的修正的K均值算法被用于以欧几里德失真量度的仿真中。 (2) 建立K个线性自相关器，每个聚类器一个；用一个小的随机数初始化这些自相关器，并将每个自相关器的输出层偏差设置为相应聚类的数据均值[2]。

步骤 2 迭代步骤 (1) 使用相应聚类的数据，直到采用误差后向传播算法训练的每个线性自相关器收敛为止。候选的方法则是用Karhuman-Loève变换。在此训练期间，输出层偏差保持不变。 (2) 按式(1)给出的失真在整个训练集上修正划分，并计算每个聚类的新的数据均值。 (3) 如果在迭代步骤的(2)里划分没有变化，则停止迭代，训练过程完成；否则，继续迭代步骤(4)。 电 子 科 技 大 学 学 报 第35卷 68

(4) 用相应聚类的新数据均值修改每个自相关器的输出偏差，然后转到迭代步骤(1)。 使用Karhuman-Loève变换，可保证以上的过程收敛，主要基于两点事实：(1)迭代步骤(2)的修正使整个训练集上的总失真总是减少或维持不变；(2)在每个聚类中，使用Karhuman-Loève变换，整个训练集上的总失真被最小化。因此，对任何新划分，每个聚类的总失真总是比用自相关器的旧的权矩阵计算出来的初始失真减少或维持不变。应该注意的是，迭代步骤(4)被用来改进神经网络训练。因为训练数据均值是找到最佳输出偏差向量的关键[6]，迭代步骤(4)将不会影响每个聚类的总失真的最小值。对于误差后向传播来说，

冲量α 和学习率ε 需要仔细调整，以避免凹点。在本文的仿真里，选择α =0.9，并让ε 为迭代次数n的倒数

(1/n)的函数。

3 音素识别仿真

本文进行了4种音素识别仿真。 第1种：仿真是TDAA英语音素识别，用于评价TDAA对英语音素/b/，/d/和/g/的识别性能。音素标记从TIMIT语音数据库中抽取，参与神经网络训练的是120个讲话者提供的623个音素标记，用另外120个讲话者提供的621个音素标记来测试。数据经20个通道的基于短时谱的滤波器组处理，频率范围从20 Hz到7 000 Hz，每10 ms一个抽样帧。 每一种音素都构造了3个TDAA，每一个TDAA具有相同的维数即(20×20)×8×(20×7)单元，并分别用对应的音素，采用标准误差向后传播学习进行训练，直到失真不再减少为止。 对于识别过程，仍采用文献[7]中提出的方案。特别是在时刻t，类别c的激活性由下式给出，即：

合集下载

【国家自然科学基金】_近邻算法_基金支持热词逐年推荐_【万方软件创新助手】_20140803

【国家自然科学基金】_近邻算法_基金支持热词逐年推荐_【万方软件创新助手】_20140803


自适应粒子分布法 自适应扰动算子 自适应开关 膜蛋白 脑电信号 脑-机接口 聚类分析 聚类 维数约减 组合方法 线性近邻传递算法 纹理特征 精确重建 类代表点 离群样本 离散源 离散增量 离散余弦变换 离子浓度预测 磁共振 相似性检索 相似性 电子商务 生理信号 特征降维 特征融合 特征空间 特征抽取 特征向量 特征值提取 牛顿插值 灰色案例推理 滤波 滑动窗口 混杂案例推理 测地线距离 水解酶 模糊隶属度 模糊线性鉴别分析 模糊支持向量机 椒盐噪声 案例检索 朴素贝叶斯 木材细胞 最近邻距离 最优阈值 早熟收敛 旅行商问题 数据流 故障诊断 故障检测 情感识别 快速映射 微粒群优化(ps0)
2009年 序号 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52
2008年 序号 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52
107 108 109 110 111 112 113 114 115
串行Байду номын сангаас构 sutton-chen势 nn-svm算法 mean shift算法 k近邻分类器 k-近邻 island+算法 gupta势 csift
1 1 1 1 1 1 1 1 1
【浙江省自然科学基金】_特征识别_期刊发文热词逐年推荐_20140812

【浙江省自然科学基金】_特征识别_期刊发文热词逐年推荐_20140812

2008年 序号 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52
最小平方误差方法 时频混合矩 时频分布 故障诊断 支持向量机(svm) 支持向量机 提升小波重构 探地雷达 情感语音 情感聚类 径向基函数神经网络 局部离散余弦变换 局部二元模式 尺度不变特征变换算法 小波调制 小波矩 小波增强 小波变换 导联选择 对比敏感度函数 家用绣化机 实证研究 定位模型 太湖 基频 基因 土壤污染 图像质量评估 图像特征 双目视觉 双曲型特征 卡尔曼滤波 判别融合 分类器 入侵检测 光照归一化 光照变化 傅里叶变换红外光谱 信号处理 传统识别方法 仿人机器人 人类视觉系统 产品设计 产品族 二维主元分析 二值边缘特征 主成分分析 中医 两类核fisher鉴别分析 三维人脸 roi提取 peer-to-peer modis mfcc
科研热词 推荐指数 人脸识别 4 特征提取 2 支持向量机 2 奇异值分解 2 鲍 1 高阶距 1 颜色信息熵 1 随机游动 1 遗传算法 1 运动历史图像 1 调制识别 1 诊断 1 药物光谱数据 1 自动售货机 1 胰腺癌 1 缺陷类型识别 1 统计形状分析 1 统一特征空间 1 结构损伤识别 1 组合神经网络 1 线性判别分析 1 纸币识别系统 1 约柬线性描述分析 1 系统进化 1 精子识别蛋白 1 粒子群算法 1 白化变换 1 特征参数提取 1 灵敏度 1 浮游生物 1 水平衰减全反射傅里叶变换红外光谱法 1 正交子空间投影 1 模式识别 1 模式分类 1 模块2dpca 1 核直接fisher描述分析 1 最佳逼近 1 最优鉴别矢量集 1 数学形态学 1 故障诊断 1 扩展证据理论 1 径向基函数神经网络 1 度量换算 1 并发故障 1 小波调制 1 小波特征提取 1 小波变换 1 小波包分析 1 小波分解 1 实时人脸特征提取 1 复小波变换 1 声强信号 1
人脸识别核心算法及MATLAB代码

人脸识别核心算法及MATLAB代码

人脸识别核心算法在检测到人脸并定位面部关键特征点之后，主要的人脸区域就可以被裁剪出来，经过预处理之后，馈入后端的识别算法。

识别算法要完成人脸特征的提取，并与库存的已知人脸进行比对，完成最终的分类。

我们在这方面的主要工作包括：∙基于LGBP的人脸识别方法问题：统计学习目前已经成为人脸识别领域的主流方法，但实践表明，基于统计学习的方法往往会存在“推广能力弱”的问题，尤其在待识别图像“属性”未知的情况下，更难以确定采用什么样的训练图像来训练人脸模型。

鉴于此，在对统计学习方法进行研究的同时，我们还考虑了非统计模式识别的一类方法。

思路：对于给定的人脸图像，LGBP方法首先将其与多个不同尺度和方向的Gabor滤波器卷积(卷积结果称为Gabor特征图谱)获得多分辨率的变换图像。

然后将每个Gabor特征图谱划分成若干互不相交的局部空间区域，对每个区域提取局部邻域像素的亮度变化模式，并在每个局部空间区域内提取这些变化模式的空间区域直方图，所有Gabor特征图谱的、所有区域的直方图串接为一高维特征直方图来编码人脸图像。

并通过直方图之间的相似度匹配技术（如直方图交运算）来实现最终的人脸识别。

在FERET四个人脸图像测试集合上与FERET97的结果对比情况见下表。

由此可见，该方法具有良好的识别性能。

而且LGBP方法具有计算速度快、无需大样本学习、推广能力强的优点。

参见ICCV2005表.LGBP方法与FERET'97最佳结果的对比情况∙基于AdaBoost的Gabor特征选择及判别分析方法问题：人脸描述是人脸识别的核心问题之一，人脸识别的研究实践表明：在人脸三维形状信息难以准确获取的条件下，从图像数据中提取多方向、多尺度的Gabor特征是一种合适的选择。

使用Gabor特征进行人脸识别的典型方法包括弹性图匹配方法（EGM）和Gabor特征判别分类法（GFC）。

EGM在实用中需要解决关键特征点的定位问题，而且其速度也很难提高；而GFC则直接对下采样的Gabor特征用PCA降维并进行判别分析，尽管这避免了精确定位关键特征点的难题，但下采样的特征维数仍然偏高，而且简单的下采样策略很可能遗漏了非常多的有用特征。

人脸识别主要算法原理

人脸识别主要算法原理

人脸识别主要算法原理主流的人脸识别技术基本上可以归结为三类，即：基于几何特征的方法、基于模板的方法和基于模型的方法。

1. 基于几何特征的方法是最早、最传统的方法，通常需要和其他算法结合才能有比较好的效果；2. 基于模板的方法可以分为基于相关匹配的方法、特征脸方法、线性判别分析方法、奇异值分解方法、神经网络方法、动态连接匹配方法等。

3. 基于模型的方法则有基于隐马尔柯夫模型，主动形状模型和主动外观模型的方法等。

1. 基于几何特征的方法人脸由眼睛、鼻子、嘴巴、下巴等部件构成，正因为这些部件的形状、大小和结构上的各种差异才使得世界上每个人脸千差万别，因此对这些部件的形状和结构关系的几何描述，可以做为人脸识别的重要特征。

几何特征最早是用于人脸侧面轮廓的描述与识别，首先根据侧面轮廓曲线确定若干显著点，并由这些显著点导出一组用于识别的特征度量如距离、角度等。

Jia 等由正面灰度图中线附近的积分投影模拟侧面轮廓图是一种很有新意的方法。

采用几何特征进行正面人脸识别一般是通过提取人眼、口、鼻等重要特征点的位置和眼睛等重要器官的几何形状作为分类特征,但Roder对几何特征提取的精确性进行了实验性的研究，结果不容乐观。

可变形模板法可以视为几何特征方法的一种改进，其基本思想是:设计一个参数可调的器官模型(即可变形模板),定义一个能量函数，通过调整模型参数使能量函数最小化，此时的模型参数即做为该器官的几何特征。

这种方法思想很好，但是存在两个问题，一是能量函数中各种代价的加权系数只能由经验确定，难以推广，二是能量函数优化过程十分耗时，难以实际应用。

基于参数的人脸表示可以实现对人脸显著特征的一个高效描述，但它需要大量的前处理和精细的参数选择。

同时，采用一般几何特征只描述了部件的基本形状与结构关系，忽略了局部细微特征，造成部分信息的丢失，更适合于做粗分类，而且目前已有的特征点检测技术在精确率上还远不能满足要求，计算量也较大。

2. 局部特征分析方法（Local Face Analysis）主元子空间的表示是紧凑的，特征维数大大降低，但它是非局部化的，其核函数的支集扩展在整个坐标空间中，同时它是非拓扑的，某个轴投影后临近的点与原图像空间中点的临近性没有任何关系，而局部性和拓扑性对模式分析和分割是理想的特性，似乎这更符合神经信息处理的机制，因此寻找具有这种特性的表达十分重要。