基于GABP神经网络的脱机手写藏文识别方法
- 格式:doc
- 大小:27.50 KB
- 文档页数:6
基于GABP神经网络的脱机手写藏文识别方法
摘要:通过对当前流行的各种识别技术进行分析比较,在对藏文手写体特征展开深入研究的基础上,考虑到将来的研究趋势及可扩展性,提出了一套基于手写藏文识别的技术方法,即基于GABP神经网络的藏文识别方案,并着重对手写藏文识别中的特征提取和分类器设计进行了分析,提出了藏文识别领域今后的发展方向。
关键词:脱机手写藏文识别;GABP神经网络;特征提取
0引言
模式识别在各个领域中的应用非常多,从这些应用中可以看到它们的共性,即一个模式识别系统通常包括原始数据的获取和预处理、特征提取与选择、分类或聚类、后处理4个主要部分。
其中藏文识别需要解决的关键问题是模式分类,其理论基础是模式识别技术,其中最常用的方法是统计模式识别方法和结构模式识别方法。
近年来也有很多人将隐马尔科夫模型用于手写识别领域,取得了良好的效果。
本文主要介绍统计模式识别、结构模式识别以及使用较多的隐马尔科夫模型和人工神经网络模型。
1模式识别
1.1统计模式识别
统计模式识别是依据统计的原理来建立分类器,其分类器设计方法主要有贝叶斯决策理论和判别函数。
贝叶斯决策理论基本思想为:在类条件概率密度和先验概率已知或者可以估计的条件下,利用贝叶
斯公式比较样本属于两类的后验概率,然后将类别决策为后验概率大的一类,从而使总体错误率最小。
常见的一种贝叶斯决策为最小错误率贝叶斯决策<sup>[1]</sup>,其决策规律如下:
如果P(w\-1|x)>P(w\-2|x),则x∈w\-1;反之,则x∈w \-2。
通过贝叶斯公式,后验概率的比较可以转化为类条件概率密度的比较,离散情况下也是类条件概率的比较,而这种条件概率或条件密度则反映了在各类模型下观察到当前样本的可能性或似然度,因此可以定义两类之间的似然比或对数似然比进行决策。
该方法的主要优点是抗干扰能力强,且易于实现,但是应用中的主要缺点是细分能力较弱,区分相似字的能力较差。
1.2结构模式识别
藏文文字结构复杂,但同时具有相当的规律性,这种文字都含有丰富的结构信息,因此可以获取这些组字的规律以及藏文字符信息的结构特征作为识别的依据。
结构模式识别<sup>[2]</sup>的主要思想就是文字图像划分为很多基本组合,然后利用一些相似性度量准则确定出这些组合之间的关系,以及这些字符图像模式和一些典型模式之间利用一些相似性度量准则确定的相似程度。
1.3隐马尔科夫模型
HMM模型<sup>[3]</sup>是将特征值和一个状态转移模型联系起来,它是一个双重随机过程,其中状态转移过程是不可观察即隐藏的马尔科夫模型,而可观察事件的随机过程是隐藏状态转换过程的随
机函数。
HMM有3个基本问题及常用算法:①评估问题:前后向递推算法;②解码问题:Viterbi算法;③学习问题:BaumWelch算法。
HMM模型可以用一种特定的神经网络模型来模拟<sup>[4]</sup>,该模型收敛性较差,易陷入局部极值。
1.4人工神经网络模型
神经系统是由大量神经细胞构成的复杂网络,是一个由大量简单的处理单元组成的高度复杂的大规模非线性自适应系统。
神经网络是一个高度并行的分布处理结构,它是非线性的,具有自组织和自学习的能力。
神经网络与传统的模式识别不同,能够直接输入数据并进行学习,用样本训练网络并实现识别。
它是非参数的识别方法,不需要传统方法中的建模、参数估计以及参数校验、重新建模等复杂过程。
在字符识别领域常用的网络模型有:BP网络、RBF网络、自组织网络、Hopfield网络、SVM网络等。
BP网络是一种多层前馈网络<sup>[5]</sup>,是一种依靠反馈值来不断调整节点之间的连接权值而构建的一种网络模型。
它由输入层、隐藏层、输出层相互连接构成,其结构如图1所示。
网络的学习训练过程由信号的正向传播与误差的反向传播组成,其中正向传播是把输入样本从输入层输入,经各隐层处理后传向输出层,若输出层的实际输出和期望输出不符,则转入误差的反向传播阶段。
误差反传是将输出误差以某种形式通过隐层向输入层逐层反传,并将误差分摊给各层的所有单元,从而获得各层单元的误差信号,此误差信号即作为修正各单元权值的依据。
各层权值调整过程是周而复
始地进行,直到网络输出的误差减少到可以接受的程度。
2遗传算法改进的BP网络
藏文字符识别是中国多文种信息处理系统的重要组成部分,脱机手写藏文识别在很多领域有广阔的使用前景。
在现有汉字以及数字识别方法的基础上,提出了很多预处理和模式识别的方法,大大提高了手写藏文的识别精度。
为了提高脱机手写藏文识别精度,本文将GABP神经网络应用于脱机手写藏文识别分析中,识别过程分为两步:训练阶段、识别阶段。
在训练阶段,提取训练样本集的特征,建立网络模型,以输入为目标,保存网络的连接权值和阈值以及字符特征;在识别阶段,将待识别的藏文特征送入网络运行,待网络运行到平衡状态,将输出结果与数字特征库的值进行比较,识别出藏文字符。
BP网络是目前应用最多的神经网络,这主要是因为BP算法<sup>[6]</sup>有较强的非线性映射能力、泛化能力以及容错能力。
但是它本身存在大量的问题,突出表现在:BP算法的学习速度很慢,需要较长的训练时间;网络训练失败的可能性较大,易陷入局部极小点,逼近局部极小值<sup>[5]</sup>。
为了改善这些缺点,通常会改变隐层数量,隐藏层一般根据具体情况制定,但是增加隐藏层的层数和隐藏层神经元个数不一定总能够提高网络精度和表达能力。
而遗传算法的基本作用对象是多个可行解的集合,而非单个可行解。
它同时处理多个个体,同时对搜索空间中的多个解进行评估,使得遗传算法具有较好的全局搜索性能,减少了陷于局部最优解的可能性,同时,它本身具有良好的并行性。
所以用遗传算法学习神经网络的权重及拓
扑结构<sup>[6]</sup>,对神经网络进行改进,提高了神经网络的精度,同时也提高了遗传算法的局部搜索能力。
在模式分类应用中进行数据预处理,利用遗传算法进行特征提取,其后用神经网络进行分类。
GABP混合学习算法结构如图2所示,采用GA优化BP网络权值。
①BP网络参数初始化;
②按BP网络的权值和阈值连接随机产生染色体;
③计算染色体的适应值以及迭代次数,如果达到要求,则结束GA算法,产生最佳个体,如果没有达到,进行下一步;
④按适应度进行选择、交叉和变异操作,产生新的染色体,重复上一步;
⑤将产生的最好个体依次映射到BP网络中对应的权值和阈值,并将此作为BP网络的初始值;
⑥利用BP网络,判断误差是否达到预定要求,达到就结束,如果没有,则BP网络反向传播,返回上一步。
3结语
本文分析了文字识别的常用方法及其优缺点,着重分析了手写藏文识别中特征提取和分类器设计两个关键技术,并对藏文识别研究领域今后的研究方向和发展前景提出了一些看法。
在原BP网络的基础上改进GABP神经网络,可以提高其学习速度,加快收敛速度,相比而言识别精度较高、训练时间较短,且具有较强的鲁棒性。
由于神经网络和遗传算法已经发展得比较成熟,将两者结合的方法用于藏文识别,具有很大的实用价值,同时将GABP神经网络用于藏文识别,
有助于神经网络用于藏文识别的可能性和有效性。
参考文献:
[1]张学工.模式识别[M].北京:清华大学出版社,2010.
[2]吴刚,德熙嘉措,黄鹤鸣.印刷体藏文识别技术[C].第十届全国少数民族语言文字信息处理学术研讨会论文集,2005.
[3]刘卫,李和成.基于局部保持投影与隐马尔可夫模型的维文字符识别[J].计算机应用,2012,32(8).
[4]梁弼,王维兰,钱建军.基于HMM的分类器在联机手写藏文识别中的应用[J].微电子学与计算机,2009,26(4).
[5]田雨波.混合神经网络[M].北京:科学出版社,2009.
[6]李菲.基于BP神经网络的字符识别技术研究[D].成都:电子科技大学,2009.。