基于BP人工神经网络的手写体数字识别

总第３０４期　２０１５年第２期　计算机与数字工程　

Ｃｏｍｐｕｔｅｒ＆Ｄｉｇｉｔａｌ　Ｅｎｇｉｎｅｅｒｉｎｇ　Ｖｏ１．４３　Ｎｏ．２　

２２３　

基于ＢＰ人工神经网络的手写体数字识别　秦鑫　张昊　（１．新乡医学院生物医学工程学院新乡４５３００３）（２．新乡医学院三全学院新乡４５３００３）　

摘要手写体数字识别是模式识别研究领域多年来的热点，ＢＰ人工神经网络是目前应用最广泛的神经网络模型之　一。

将两者融合并结合Ｍａｔｌａｂ软件，提出了一种简单的基于ＢＰ神经网络数字识别的方法，仿真实验结果表明，该方法识　

别效果良好，准确率高，有一定实用性。　关键词ＢＰ神经网络；手写体数字识别；模式识别　中图分类号ＴＰ１８３　ＤＯＩ：１０．３９６９／ｊ．ｉｓｓｎ１６７２—９７２２．２０１５．０２．０１６　

Ｈａｎｄｗｒｉｔｔｅｎ　Ｎｕｍｅｒａｌ　Ｒｅｃｏｇｎｉｔｉｏｎ　Ｂａｓｅｄ　ｏｎ　ＢＰ　Ｎｅｕｒａｌ　Ｎｅｔｗｏｒｋ　ＱＩＮ　Ｘｉｎ　ＺＨＡＮＧ　Ｈａｏｚ　（１．Ｓｃｈｏｏｌ　ｏｆ　Ｂｉｏｍｅｄｉｃａｌ　Ｅｎｇｉｎｅｅｒｉｎｇ，Ｘｉｎｘｉａｎｇ　Ｍｅｄｉｃａｌ　Ｕｎｉｖｅｒｓｉｔｙ，Ｘｉｎｘｉａｎｇ　４５３００３）　（２．Ｘｉｎｘｉａｎｇ　Ｍｅｄｉｃａｌ　Ｕｎｉｖｅｒｓｉｔｙ　Ｓａｎｑｕａｎ　Ｍｅｄｉｃａｌ　Ｃｏｌｌｅｇｅ，Ｘｉｎｘｉａｎｇ　４５３００３）　

Ａｂｓｔｒａｃｔ　Ｈａｎｄｗｒｉｔｔｅｎ　ｎｕｍｅｒａｌ　ｒｅｃｏｇｎｉｔｉｏｎ　ｈａｓ　ｂｅｅｎ　ａ　ｈｏｔｓｐｏｔ　ｏｆ　ｐａｔｔｅｒｎ　ｒｅｃｏｇｎｉｔｉｏｎ　ｒｅｓｅａｒｃｈ　ｆｉｅｌｄ　ｆｏｒ　ｍａｎｙ　ｙｅａｒｓ　ｗｈｉｌｅ　ｔｈｅ　ＢＰ　ａｒｔｉｆｉｃｉａｌ　ｎｅｕｒａｌ　ｎｅｔｗｏｒｋ　ｉＳ　ｏｎｅ　ｏｆ　ｔｈｅ　ｍｏｓｔ　ｗｉｄｅｌｙ　ｕｓｅｄ　ｎｅｕｒａｌ　ｎｅｔｗｏｒｋ　ｍｏｄｅｌｓ．Ａ　ｓｉｍｐｌｅ　ｍｅｔｈｏｄ　ｏｆ　ｎｕｍｅｒａｌ　ｒｅｃｏｇｎｉｔｉｏｎ　ｂａｓｅｄ　ｏｎ　ＢＰ　ｎｅｕｒａ１　ｎｅｔｗｏｒｋ　ｉｓ　ｐｒｏｐｏｓｅｄ　ｗｉｔｈ　ｔｈｅ　ｃｏｍｂｉｎａｔｉｏｎ　ｏｆ　ｔｈｅ　ａｂｏｖｅ　ｔＷＯ　ｓｏｆｔｗａｒｅｓ　ａｎｄ　Ｍａｔｌａｂ　ｓｏｆｔｗａｒｅ．　Ｔｈｅ　ｓｉｍｕｌａｔｉｏｎ　ｅｘｐｅｒｉｍｅｎｔ　ｒｅｓｕｌｔｓ　ｓｈｏＷ　ｔｈａｔ　ｔｈｅ　ｍｅｔｈｏｄ　ｉｓ　ｖｅｒｙ　ｐｒａｃｔｉｃａｌ　ｗｉｔｈ　ｉｔｓ　ｅｆｆｅｃｔｉｖｅ　ｒｅｃｏｇｎｉｔｉｏｎ　ａｎｄ　ｈｉｇｈ　ａｃｃｕｒａｃｙ．　Ｋｅｙ　Ｗｏｒｄｓ　ｎｅｕｒａｌ　ｎｅｔｗｏｒｋ，ｈａｎｄｗｒｉｔｔｅｎ　ｎｕｍｅｒａｌ　ｒｅｃｏｇｎｉｔｉｏｎ，ｐａｔｔｅｒｎ　ｒｅｃｏｇｎｉｔｉｏｎ　ＣＩ鹅ｓ　Ｎｕｍｂｅｒ　ＴＰ１　８３　

１　引言　人工神经网络是由大量处理单元互联组成的　非线性自适应信息处理系统，模拟人类思维模式，　进行分布式并行信息处理的算法数学模型［１ｑ］。　ＢＰ（Ｂａｃｋ　Ｐｒｏｐａｇａｔｉｏｎ）神经网络是一种按误差逆　传播学习算法训练的多层前馈网络，全称是基于误　差反向传播算法的人工神经网络，目前应用最广泛　的神经网络模型之一［２叫］。ＢＰ网络能学习和存贮　大量的输入一输出模式映射关系，而无需事先揭示　描述这种映射关系的数学方程。手写体数字识别　是多年来模式识别的热点课题，其在邮政系统、税　务、银行等行业使用很广泛［５］。由于是个人手写字　符，导致每个字体有一定差异，传统识别方法的识　别度都不高，稳定性不好。将ＢＰ神经网络应用于　数字识别，在文字识别领域近年来取得了一定的突　

破［　。本研究利用ＢＰ神经网络算法结合Ｍａｔｌａｂ　建立了一个手写数字字符０～９的识别分类器，经　实验表明，该方法合理可行，且其识别效果正确有　效，对于数字识别技术有一定借鉴意义。　

２　ＢＰ神经网络算法程序流程　ＢＰ神经网络算法程序实现具体步骤如下：　１）初始化所有权系数Ｗ　、Ｗ　，学习速率刁，　迭代次数ｚ＝＝＝１，累计误差；　２）输入一个样本Ｘ＝＝＝（Ｘ　，Ｘ。，…，　）　，期望　输出　一（　１，ｄ２，…，ｄ　）；　１　３）计算隐含层各节点　一∑ＷｊｉＯ。，Ｏｉ—ｘ　，　

＝１　＋１—１，　一厂（ｙｆ），　一１，２，…，ｈ；　

．ｈ．．＋——ｌ　４）计算输出各节点　一∑　，　＋　＝＝＝１，　

＊收稿日期：２０１４年８月５日，修回日期：２０１４年９月２７日　作者简介：秦鑫，女，硕士，讲师，研究方向：电子技术及信号处理。　秦鑫等：基于ＢＰ人　申经　络的手写体数字识别　第４３卷　一／’（　），ｋ一１，２，…，Ｃ；　５）计算误差∑（　ｋ－－　）。；　

６）修正输出层ｗ　一（　一Ｏｋ）ｏｋ（１一　），　Ｗｋｊ＝Ｗｋｊ＋　．居一１，２，…，（、；　

７）修正隐含层Ｗｊ　一　（１一　）∑　ｗ　，　ｋ一１　一　＋孵　，是＝＝＝１，２，…　；　

８）检查系统是否对所有训练样本完成一轮训　练Ｐ＞Ｎ，若尸＜Ｎ，计数器（Ｐ＋１），重返回步骤　２）：　９）检查网络总误差是否达到精度要求，若满　足Ｅ＜Ｅ　，训练结束，否则Ｅ置０，Ｐ置１，返回步　骤２）。　

３　基于ＢＰ神经网络对数字识别的设计　３．】　样本学习　１）隐层结点数和权系数初值设定　在数字识别系统实验中所用的样本是由不同　人手写的４０组０～９共１０类数据，每组ｌ０个，共　４００个训练样本，从样本库选取１００数字作为测试　样本ｌ＾～　。对网络反复训练得到以下结论：（１）ｌ当　权系数初始值为［Ｏ，１］之间时隐层结点数过多（大　于２５）迭代次数超过最大迭代次数１０００，正确率　０．１，不能收敛。所以隐层结点数过多可能对训练　样本造成“过拟合”，实际应用效果差。（２）当权系　数初始值为［０，１］隐层节点数较小时，迭代次数不　稳定，正确率不稳定，但是迭代次数越多，正确率越　高。迭代次数少时（０￣２００），正确率偏低。这可能　是达到极小值而不是最小值造成的。经反复实验　可得当隐层结点数为１５～２０之间时，正确率较高　０．９８以上。（３）当权系数初始值为［一１，１］，与初　始值［０．１］相比网络变得稳定。而且迭代次数明显　减少，适用的隐含层结点数范嗣变大，所以权系数　初始值的作用很大，且样本正确率也比较高而且稳　定。所以网络权值初始值设在［一１，１］为好。　２）学习速率对网络的影响　学习速率叩要选择恰当的值。如果学习速率７７　较小，学习速度比较慢，当学习速率小于０．１时学　习时问增加。网络要经过几个不同的学习速率的　训练，并且观察每一次训练后的误差平方和的下降　速率，以此判断选定的学习速率合适否。如果误差　平方和下降的很快，则说明速率合适，如图１（ａ）所　示，该图对应的原样本正确率为１００　，学习速率　为０．８；若误差平方和出现震荡现象。则说明学习　速率过大。如图１（ｂ）所示该图的学习速率为５，不　

能收敛，所以比较理想的学习速率是０．６附近的　值。　

图１　误差平方和的下降速率曲线　３）最大误差的选取　期望最大误差过大如０．１、０．０１则正确识别率　降低，所以经实验证明０．００１为较好的值。　经过参数讨论，最终确定的网络结构：设定学　习参数隐含层神经元个数２０，最大迭代次数】０００，　最大误差０．００１，学习速率０．５，进行３００个样本的　学习，点击“开始学习”按钮将得到修正后的输ｆ｝｛层　权系数和隐含层的权系数以及迭代误差．迭代次　数，所用的学习时间。如图２所示。　

匦　菱　｝　匾困　

图２学习参数设定及学习结果　３．２样本测试　样本测试包括原样本测试，检验样本测试两个　内容。原样本测试主要目的是测试正确率。通过　调整学习参数，分析样本测试的正确率与学习参数　的关系。经过实验原样本测试结果正确率１　００　。　检验样本测试包括以下－＝个内容：首先检验样　本的生成，输入检验样本数，然后在画板上写数字，　每写一个数字就点击“记录检验样本”按钮，这将把　所写的数字保存到矩阵中，然后点击“重置”按钮，　画板清空然后写下一个数字。第二显示检验样本．　点击“显示检验样本”按钮将显示出待检验的样本。　最后计算正确率，点击“检验样本测试”将计算　正　确率。图３为其中１组样本和测试结果。　本实验中按以上确定好的网络结构对待侧的　十组样本进行了测试，每组从０～９共１０个数字，　２０１５年第２期　计算机与数字工程　２２５　正确识别率只有一组是８０　，其他在９０　以上。　

图３样本测试　本实验中按以上确定好的网络结构对待侧的　ｌＯ组样本进行了测试，每组从Ｏ～９共１Ｏ个数字，　正确识别率如表１所示。　表１正确识别率　样本　正确率　样本　正确率％　Ｎ０．１　９Ｏ　Ｎ（）．６　１００　Ｎ（）．２　１００　Ｎ（）．７　１００　Ｎ０．３　８０　Ｎ（）．８　９Ｏ　Ｎ０．４　９Ｏ　Ｎ（）．９　９Ｏ　Ｎ０．５　１００　Ｎ（）．１Ｏ　９Ｏ　

４　结语　本系统运用Ｍａｔｌａｂ软件，基于ＢＰ神经网络的　手写体数字识别设计，经过网络样本训练和样本测　试表明，对于数字识别，该方法能基本达到对其识　别，有一定可行性和有效性　一　“　。但是由于网络的　单元数的选择在理论上尚未成熟，所以本实验中通　过反复比较才确定了网络的结构。因此网络存在　很大的冗余性，在一定程度上增加了网络学习的负　担，在后续研究中进一步改进。　

参考文献　［１］颜培玉，张国栋．基于人工神经网络的手写体数字识别　方法ＥＪ］．沈阳航空工业学院学报，２００８，２５（２）：６６—６９．　ＹＡＮ　Ｐｅｉｙｕ，ＺＨＡＮＧ　Ｇｕｏｄｏｎｇ．Ｈａｎｄｗｒ　ｉｔｔｅｎ　ｎｕｍｅｒ　ｉｃａｌ　ｒｅｃｏｇｎ　ｉｔｉｏｎ　ｍｅｔｈｏｄ　ｂａｓｅｄ　ｏｎ　ＢＰｎｅｕｒａｌ　ｎｅｔｗｏｒｋ　［Ｊ］．Ｊｏｕｒｎａｌ　ｏｆ　Ｓｈｅｎｙａｎｇ　Ｉｎｓｔｉｔｕｔｅ　ｏｆ　Ａｅｒｏｎａｕｔｉｃａｌ　Ｅｎ—　ｇｉｎｅｅｒｉｎｇ，２００８，２５（２）：６６—６９．　［２］张充，史青宣，苗秀芬，等．基于ＢＰ神经网络的手写体　数字识别［Ｊ］．计算机技术与发展，２００８，１８（６）：１２８～　ｔ３０，ｌ６３．　ＺＨＡＮＧ　Ｃｈｏｎｇ，ＳＨＩ　Ｑｉｎｇｘｕａｎ，ＭＩＡＯ　ＸｉｕｆｅｒＬ　Ｈａｎｄ—　ｗｒｉｔｔｅｎ　Ｎｕｍｅｒａｌ　Ｒｅｃｏｇｎｉｔｉｏｎ　Ｂａｓｅｄ　ｏｎ　ＢＰ　Ｎｅｕｒａｌ　Ｎｅｔｗｏｒｋ　［Ｊ］．Ｃｏｍｐｕｔｅｒ　Ｔｅｃｈｎｏｌｏｇｙ　ａｎｄ　Ｄｅｖｅｌｏｐｍｅｎｔ，２００８，１８　（６）：１２８—１３０，ｌ６３．　［３］马宁，常骥．基于ＢＰ神经网络的手写数字识别研究　［Ｊ］．哈尔滨师范大学自然科学学报，２００９．２５（４）：８９—　９１．　ＭＡ　Ｎｉｎｇ，ＣＨＡＮＧ　Ｊｉ．Ｒｅｓｅａｒｃｈ　ｏｆ　Ｈａｎｄｗｒｉｔｔｅｎ　Ｄｉｇｉｔ—　ａｌ　Ｒｅｃｏｇｎｉｔｉｏｎ　Ｂａｓｅｄ　ｏｎ　Ｂａｃｋ　Ｐｒｏｐａｇａｔｉｏｎ　Ｎｅｕｒａｌ　Ｎｅｔ　ｗｏｒｋ［，Ｊ］．Ｎａｔｕｒａｌ　Ｓｃｉｅｎｃｅｓ　Ｊｏｕｒｎａｌ　ｏｆ　Ｈａｒｂ　ｉｎ　Ｎｏｒｍａｌ　Ｕｎｉｖｅｒｓｉｔｙ．２００９，２５（４）：８９—９１．　［４］刘文杰，吴刚．基于ＡＲＭ９的手写体数字识别技术设计　与实现［Ｊ］。计算机与数字Ｔ程，２０１３，４１（９）：１４９８—　１５ｌＯ．　ＬＩＵ　Ｗｅｎｊ　ｉｅ，ＷＵ　ＧＡＮＧ．Ｄｅｓｉｇｎ　ａｎｄ　ｒｅａｌｉｚａｔｉｏｎ　ｏｆ　ｈａｎｄｗｒｉｔｔｅｎ　ｄｉｇｉｔ　ｒｅｃｏｇｎｉｔｉｏｎ　ｔｅｃｈｎｏｌｏｇｙ　ｂａｓｅｄ　ｏｎ　ＡＲＭ９［Ｊ］．Ｃｏｍｐｕｔｅｒ　ａｎｄ　Ｄｉｇｉｔａｌ　Ｅｎｇｉｎｅｅｒｉｎｇ，２０１３．４　ｌ　（９）：１４９８—１５ｌ０．　［５］苏睿，张晓杰．基于ＢＰ神经网络的数字识别研究［Ｊ］．　电脑知识与技术，２０１３，９（１４）：３３６２—３３６５．　ＳＵ　Ｒｕｉ，ＺＨＡＮＧ　Ｘｉａｏｊｉｅ．Ｓｔｕｄｙ　ｏｆ　Ｄｉｇｉｔａｌ　Ｒｅｃｏｇｎｉｔｉｏｎ　Ｂａｓｅｄ　ｏｎ　ＢＰ　Ｎｅｕｒａｌ　Ｎｅｔｗｏｒｋ［Ｊ］．Ｃｏｍｐｕｔｅｒ　Ｋｎｏｗｌ—　ｅｄｇｅ　ａｎｄ　Ｔｅｃｈｎｏｌｏｇｙ，２０１３，９（１４）：３３６２—３３６５．　［６］赵元庆，吴华．多尺度特征和神经网络相融合的手写体　数字识别口］．计算机科学，２０１３，４０（８）：３１６—３１８　ＺＨＡＯ　Ｙｕａｎｑｉｎｇ．ＷＵ　ｈｕａ．Ｈａｎｄｗｒｉｔｔｅｎ　Ｎｕｍｅｒａｌ　Ｒｅｃｏｇｎｉｔｉｏｎ　Ｂａｓｅｄ　ｏｎ　Ｍｕｌｔｉ—ｓｃａｌｅ　Ｆｅａｔｕｒｅｓ　ａｎｄ　Ｎｅｕｒａｌ　Ｎｅｔｗｏｒｋ［，Ｊ］．Ｃｏｍｐｕｔｅｒ　Ｓｃｉｅｎｃｅ，２０１３，４０（８）：３１６—３１８　［７］王晓乾，张莉，何书萍，等．一种新的李群分类器在手写　体数字中的应用［Ｊ］．计算机工程与科学，２０１３，３５（２）：　８５—９Ｏ．　ＷＡＮＧ　Ｘｉａｏｑｉａｎ，ＺＨＡＮＧ　Ｌｉ，ＨＥ　Ｓｈｕｐｉｎｇ，ｅｔ　ａ１．Ａ　ｎｏｖｅｌ　Ｌｉｅ　ｇｒｏｕｐ　ｃｌａｓｓｉｆｉｅｒ　ａｎｄ　ｉｔｓ　ａｐｐｌｉｃａｔｉｏｎ　ｏｎ　ｈａｎｄ—　ｗｒｉｔｔｅｎ　ｄｉｇｉｔｓ［Ｊ］．Ｃｏｍｐｕｔｅｒ　Ｅｎｇｉｎｅｅｒｉｎｇ　ａｎｄ　Ｓｃｉｅｎｃｅ，　２Ｏｌ３，３５（２）：８５—９０．　［８］王婷，江文辉，肖南峰．基于改进ＢＰ神经网络的数字识　别［Ｊ］．电子设计工程，２０１ｌ，１９（３）：１０８—１１２．　ＷＡＮＧ，ｒｊｎｇ，ＪＩＡＮＧ　Ｗｅｎｈｕｉ，ＸＩＡＯ　Ｎａｎｆｅｎｇ．Ｎｕｍｅｒｉｃａｌ　ｒｅｃｏｇｎｉｔｉｏｎ　ｂａｓｅｄ　ｏｎ　ｉｍｐｒｏｖｅｄ　ＢＰ　ｎｅｕｒａｌ　ｎｅｔｗｏｒｋ［，Ｊ］．Ｅ—　ｌｅｃｔｒｏｎｉｃ　Ｄｅｓｉｇｎ　Ｅｎｇｉｎｅｅｒｉｎｇ，２０１１，１９（３）：１０８一ｌｌ２．　Ｅ９３樊雷松，强彦，赵涓涓，等．无线传感网中基于ＢＰ神经　网络的数据融合方法［Ｊ］．计算机工程与设计，２０１４，３５　（１）：６２—６６．　ＦＡＮ　Ｌｅｉｓｏｎｇ，ＱＩＡＮＧ　Ｙａｎ，ＺＨＡＯ　Ｊｕａｎｊｕａｎ，ｅｔ　ａ１．　Ｄａｔｅ　ｆｕｓｉｏｎ　ｍｅｔｈｏｄ　ｂａｓｅｄ　ｏｎ　ＢＰ　ｎｅｕｒａｌ　ｎｅｔｗｏｒｋ　ｉｎ　ｗｉｒｅｌｅｓｓ　ｓｅｎｓｏｒ　ｎｅｔｗｏｒｋｓ［Ｊ］．Ｃｏｍｐｕｔｅｒ　Ｅｎｇｉｎｅｅｒｉｎｇ　ａｎｄ　Ｄｅｓｉｇｎ，２０１４，３５（１）：６２—６６．　［１Ｏ］张德丰．ＭＡＴＬＡＢ神经网络应用设计［Ｍ］．北京：机　械工业出版社，２００９．　ＺＨＡＮＧ　Ｄｅｆｅｎｇ．Ｔｈｅ　ａｐｐｌｉｃａｔｉｏｎ　ｏｆ　ＭＡＴＬＡＢ　ｎｅｕｒａｌ　ｎｅｔｗｏｒｋ　ｄｅｓｉｇｎ［Ｍ］．Ｂｅｉｊｉｎｇ：Ｍａｃｈｉｎｅｒｙ　Ｉｎｄｕｓｔｒｙ　Ｐｒｅｓｓ，２００９．