基于BP神经网络的字符识别系统_图文

1、计算机与现代化2009年第1期J I S UANJ I Y U X I A NDA I HUA总第161期文章编号:100622475(20090120063203收稿日期:2007205211基金项目:河南省自然科学基金资助项目(0511011500作者简介:张可(19842,女,河南三门峡人,南京航空航天大学信息科学与技术学院硕士研究生,研究方向:图像处理;张高燕(19872,女,河南三门峡人,北京师范大学信息科学与技术学院硕士研究生,研究方向:图像与语音信号处理;吴苏(19872,男,河南南阳人,哈尔滨工程大学计算机科学与技术学院硕士研究生,研究方向:I nternet 应用软件;范海菊

2、(19792,女,河南新乡人,河南师范大学计算机与信息技术学院讲师,研究方向:语音和图像信号处理。基于BP 神经网络的字符识别系统张可1,张高燕2,吴苏3,范海菊4(1.南京航空航天大学信息科学与技术学院,江苏南京210016;2.北京师范大学信息科学与技术学院,北京100875;3.哈尔滨工程大学计算机科学与技术学院,黑龙江哈尔滨150001;4.河南师范大学计算机与信息技术学院,河南新乡453007摘要:基于BP 神经网络设计了一个字符识别系统。首先,对字符图像进行二值化处理,构造输入向量矩阵。其次,通过选取初始权值、隐层节点数和权值学习算法,创建BP 神经网络,对样本数据进行训练,之后对

3、加有噪声的样本再次进行训练,以提高网络的鲁棒性。最后进行仿真测试并制作图形用户界面G U I 来模拟与演示该系统。仿真结果显示,该BP 网络对噪声系数小于0.8的字符识别率可达95%,且网络训练时间可接受。关键词:BP 神经网络;G U I ;字符识别;鲁棒性中图分类号:TP311.52文献标识码:ASystem of Character Recogn iti on Ba sed on Back 2propaga ti on Neura l NetworkZHANG Ke 1,Z HANG Gao 2yan 2,WU Su 3,F AN Hai 2ju4(1.College of I nf o

4、r mati on Science and Technol ogy,Nanjing University of Aer onautics and Astr onautics,Nanjing 210016,China;2.College of I nf or mati on Science and Technol ogy,Beijing Nor mal University,Beijing 100875,China;3.College of Computer Science and Technol ogy,Harbin Engineering University,Harbin 150001,C

5、hina;4.College of Computer and I nfor mati on Technol ogy,Henan Nor mal University,Xinxiang 453007,China Abstract:This article designs a character recogniti on syste m based on the Back 2Pr opagati on neural net w ork .First,the character i m age is p r ocessed in binary t o construct the input vect

6、 or matrix .Second,by choosing the initial weight,the nu mber of hide nodes and the learning algorith m of weight,a perfect BP neural net w ork is created .And then the net w ork carries on the training t o the samp le data and after wards t o the sa mp le with noise once more,t o enhance the net w

7、ork r obustness .Finally,it carries on the si m ulati on test and manufactures graphical user interface t o si m ulate and demonstrate this system.The si m ulati on result shows that the character recogniti on rate of thisBP net w ork is possible t o reach 95%with the noise fact or less than 0.8,and

8、 the training ti m e is accep table .Key words:BP neural net w ork;G U I ;character recogniti on;r obustness0引言为了解决计算机对字符的自动识别问题,使计算机达到真正智能化,人们对计算机的自动识别进行了多年研究,并取得了很大的进步。字符识别一般通过基于字符结构的识别法及模板匹配法来进行处理,前者一般更适用于字母和数字的识别;后者程序实现起来比较容易,但识别精度不高。为了提高识别率,就必须寻求新的方法和途径。近年来,BP 神经网络技术取得了巨大发展,它是一种前馈型神经网络,具有64计算机与

9、现代化2009年第1期分布式存储信息、并行处理信息、自组织、自学习信息等优点。本文所介绍的字符识别系统正是借助BP 神经网络基本原理并结合Matlab 仿真软件来实现的。1BP 神经网络神经网络是由大量简单的处理单元来模拟真实人脑神经网络的机构和功能以及若干基本特性,是一个高度复杂的非线性自适应动态处理系统。从系统观点看,BP 神经网络是由大量神经元通过极其丰富和完善的连接而构成。由于神经元之间有着不同的连接方式,所以组成不同结构形态的神经网络系统是可能的,大致的结构如图1所示。 图1神经元模型 其中X 1,X 2,X n 为输入信号,U i 为神经元内部状态,Y i 为阈值,S i 为外部输

10、入信号,右部为输出1。BP 神经网络的主要思想就是在确定了网络结构后,通过输入和输出样本集对网络进行训练和学习,以使网络实现给定的输入和输出映射关系。BP 神经网络的学习过程可分为两个阶段:第一个阶段是输入已知学习样本,通过设置网络结构和前一次迭代的权值和阈值,从网络的第一层向后计算各神经元的输出;第二阶段是对权值和阈值进行修改,从最后一层向前计算各权值和阈值对总误差的影响,据此对各权值和阈值进行修改2。对以上两个过程反复交替,直到达到收敛为止。2基于BP 网络的字符识别1.输入向量和目标向量的生成。利用Matlab 软件对字符图像进行二值化处理,生成BP 神经网络的输入向量A l phabe

11、t 和目标向量Targets 3。其中A l phabet 为35×26的矩阵,第1列到第26列代表字符A 到Z,每个字符由35个像素组成。Targets 为26×26的单位矩阵,每个字符输入时在26个字符中它所排顺序的位置上输出为1,而在其他位置上的输出为0。考虑到所设计的网络应当具有鲁棒性,本文利用Matlab 中的randn 函数产生随机噪声,并与al phabet加权,生成有噪声的输入向量(噪声系数可调对网络进行训练。2.BP 神经网络的构建。(1初始权值的选取。初始权值直接影响网络的收敛速度,初始权值若选得不好,网络将处于饱和区导致难于收敛或陷入局部极小。选取时以

12、211之间均匀分布的随机值较好4。(2隐层节点数的选取。本文选取35个输入节点和26个输出神经元。隐层神经元数目会对网络训练的收敛速度、字符识别的实时性和识别效果有一定的影响。神经元太少,会造成网络的不适性,识别效果较差;太多又会引起过适性,导致训练时间过长等缺点。并且经实验发现,隐层节点数增加、迭代训练次数增多和网络识别效果之间并不是线性关系,而是趋势。依据实验经验,本文选取隐层节点数为8。在实际训练中,效果若不理想,可适当增加隐层结点数。(3权值学习算法。BP 网络对网络权值的修正是沿着负梯度方向,即称为梯度下降法。其学习算法为5:x k +1=x k -k g k(1其中k 是学习速率,

13、g k 是表现函数的梯度,x k 是当前的权值矩阵。梯度下降法没有考虑到以前积累的学习经验,即上一时刻的梯度方向,从而导致学习过程发生振荡,收敛速度过慢,或收敛于局部极小点。采用双动量的梯度下降法可以修正以上缺点。其算法如下:x k +1=x k -k (1-g k -g k -1+x k +1-x k (2式中:,均为动量因子。第3项g k -1可视为上一时刻的学习经验,当与本次梯度g k 方向相同时,起加速作用,否则为阻尼项,可减小学习过程的振荡趋势,从而改善收敛性,提高网络的稳定性。第4项对学习过程起到平滑作用从而避免收敛到局部极小。3.字符识别网络的训练。将训练样本送BP 神经网络训练

14、,通过在梯度方向上不断调整权值使网络平方和误差最小。为使网络对输入向量有一定鲁棒性,可先用无噪声的样本对网络进行训练,直到其平方和误差最小,再用含噪声的样本进行两次训练,保证网络对噪声不敏感。同时选取不同隐层神经元数目,观察其收敛速度。在网络训练后,再将其输出经过一层竞争网络函数compet 的处理,使网络只是在最接近输入值的输出位置为1,其余位置输出为0。训练完毕,把待识别字符送BP 神经网络中进行仿真测试。字符识别系统流程图2009年第1期张可等:基于BP 神经网络的字符识别系统65如图2所示。 图2字符识别系统流程图3图形用户界面设计为了增强字符识别的直观效果,本文应用Matlab 的图

15、形技术来设计直观的图形用户界面G U I 。它有四大优点:简单易学;代码短小高效;计算功能强大;强大的图形表达功能。而本文主要应用它的图形显示功能。本文采用两个坐标系来分别显示待识别的有噪声字符图像和识别结果,使用滑动条来改变噪声系数大小,并观察其对识别结果的影响。为方便对网络训练的理解,设计了网络训练按钮来直观显示网络训练过程,识别结果显示在可编辑文本框中。其界面如图3与图4所示。 图3字符识别系统界面图4等待输入字符4仿真结果及分析由图5的收敛曲线可以看出,本文所建立的BP神经网络模型,其收敛速度比较快,达到了预期误差目标的精度,网络具有较好的样本泛化能力。 图5训练收敛曲线图6识别误差曲

16、线经过反复训练网络,该BP 神经网络对字符的识别精度不断提高。由图6可知,噪声系数较小时识别误差较小,随着噪声系数的增加,识别误差几乎成线性增加,且加噪声前后误差曲线较接近。图7识别字符正确时的图像图8识别字符错误时的图像加上噪声之后的字符识别结果如图7和图8所示,由图可知,当噪声系数小于0.8时,识别精度高,大于0.8时,识别错误,如图8中字符P 被识别为R 。5结束语本文利用BP 算法完成一个基本的字符识别系统的模拟与演示。BP 算法的目的就是要确定加权向量,使得对已知的输入和输出得到最佳的匹配。BP 神经网络常用于文字符号识别、模式分类、图像压缩、决策支持等,也可嵌入到车牌识别系统中,具

17、有广泛的应用前景。但是,由于BP 算法实质上是非线性系统的梯度算法,不能保证训练结果一定收敛到全局最优解,并且极可能落到局部最优点解。采用启发式学习方法或更有效的优化算法可以进一步改进BP 算法。参考文献:1胡守仁,余少波,戴葵.神经网络导论M .长沙:国防科技大学出版社,1997:1132128.2闻新,周露,李翔,等.MAT LAB 神经网络仿真与应用M .北京:科学出版社,2003:2582284.3尹念东.BP 神经网络的应用设计J .信息技术,2003,27(6:18220.4Martin T Hagan,Howard B Demuth,Mark H Beale .神经网络设计M .

18、戴葵,等译.北京:机械工业出版社,2002:1222,2012226.5杨建刚.人工神经网络实用教程M .杭州:浙江大学出版社,2001:41262.6姬巧玲,漆为民,蔡维由,等.MAT LAB 7.0中改进BP 神经网络的实现J .电脑开发与应用,2005,18(7:22224.7吴凌云.BP 神经网络学习算法的改进及其应用J .信息技术,2003,27(7:42244.8张瑞丰.精通MAT LAB 6.5M .北京:中国水利水电出社,2004:1602200.(下转第72页72计算机与现代化2009年第1期可控泛洪方式计算距离,分别需要N 、AC +AN 次数据包广播,共需要N +AC +

19、AN 次数据包广播,但是仍然远低于DV 2Hop 定位算法数据包的实际广播次数2AN13。仿真实验还表明,安全校验的结果是使得大量不满足安全校验关系式的节点将不能继续发送数据包,直接导致传感器网络实际广播次数远低于N +AC +AN 。4结束语从上述分析可以看到,相对于原始Euclidean 、DV 2Hop 定位算法和已有的Euclidean 改进算法Hop 2Euclidean,VMHLE 不失为一种低能耗、定位精度适中、同时具有较高覆盖度的定位算法。但是在整个定位测距过程中,VMHLE 始终要求节点自身具有相对较高的测距精确度,这无疑造成了传感器节点自身成本以及定位代价明显偏高,因此,将

20、来的工作重点在于提高传感器制造工艺和降低工业成本或者采用精度更高的测距技术。参考文献: 1Ro mer Kay,Mattern Friede mann .The design s pace of wire 2less sens or w orks J .I EEE W ireless Co mmunicati ons,2004,11(6:54261.2Culler David,et al .Overvie w of sens or net w orksJ .Com 2puter,2004,37(8:41249.3Rabacy J J,AmmerM J,et al .Picor odi o su

21、pports Ad Hocultra 2l ow power wireless net w orking J .Computer,2000,33(7:42248.4王福豹,史龙,任丰原.无线传感器网络中的自身定位系统和算法J .软件学报,2005,16(5:8572868.5D ragos N iculescu,Badri Nath .Ad Hoc positi oning syste m(APS C /Conference Record /I EEE Gl obal Telecom 2municati ons Conference .2001,5:292622931.6D ragos N i

22、culescu,Badri Nath .DV based positi oning in AdHoc net w orks J .Telecommunicati on Syste m s,2003,22(124:2672280.7D ragos N iculescu,Nath Badri .Localized positi oning in adhoc net w orks J .Ad Hoc Net w orks,2003,1(2-3:2472259.8D ragos N iculescu .Positi oning in ad hoc sens or net w orksJ .I EEE

23、Net w ork,2004,18(4:24229.9史龙,王福豹.无线传感器网络自身定位算法研究D .西安:西北工业大学硕士论文,2005.10Ca m ill o Gentile .Sens or l ocati on thr ough linear p r ogra m 2m ing with triangle inequality constraintsC /I EEE I nter 2nati onal Conference on Communicati ons,v 5,I CC 200522005I EEE I nternati onal Conference on Communicati ons,2005:319223196.11Eqeal 2Lopez,Ponce 2marin,Vales 2A l ons o,et al .W irelesssens or net w orks with OMNET C /Pr oceedings of the Mediterranean Electr otechnical Conference 2ME LEC ON,v2006,2006I EEE Mediterranean Electr otechnical Confer 2ence,M E LECON 20062Circuits and Sys