BP网络模式识别

BP网络模式识别

韩红彩9月17日BP网络模式识别第1页一、基本原理

二、主要特点

三、学习算法

四、仿真实例BP网络模式识别第2页一、基本原理

在神经网络模式识别中，依据标准输入输出模式对，采取神经网络学习算法，以标准模式作为学习样本进行训练，经过学习调整神经网络连接权值。当训练满足要求后，得到神经网络权值组成了模式识别知识库，利用神经网络并行推理算法便可对所需要输入模式进行识别。BP网络模式识别第3页二、主要特点

神经网络模式识别含有较强鲁棒性。1.当待识别输入模式与训练样本中某个输入模式相同时，神经网络识别结果就是与训练样本中相对应输出模式。2.当待识别输入模式与训练样本中全部输入模式都不完全相同时，则可得到与其相近样本相对应输出模式。3．当待识别输入模式与训练样本中全部输入模式相差较远时，就得不到正确识别结果，此时可将这一模式作为新样本进行训练，使神经网络获取新知识，并存放到网络权值矩阵中，从而增强网络识别能力。BP网络模式识别第4页三、学习算法BP网络训练规则：正向传输是输入信号从输入层经隐层传向输出层，若输出层得到了期望输出，则学习算法结束；不然，转至反向传输。用于样本训练BP网络结构图如图1所表示。

wij

wjl.....

........lxl

xii

xj

xjoj

输入层节点隐层节点输出层节点

图1BP神经网络结构BP网络模式识别第5页1.前向传输：计算网络输出（1）求隐层神经元输入

Xj=∑wijxi（2）求隐层神经元输出（采取S型函数）

Xjo=f(xj)=1/(1+exp(-xj))（3）求输出层神经元输出

Xl=∑wjlxjo（4）求输出误差

el=xlo-xl（5）求第p个样本误差性能指标函数

Ep=0.5∑el^2BP网络模式识别第6页2.反向传输：采取梯度下降法，调整各层间权值。（1）输出层与隐层连接权值wjl学习算法△wjl=-ηelxjo

式中，η为学习速率，η∈[0,1]。（2）k+1时刻网络权值为

wjl(k+1)=wjl(k)+△wjl（3）隐层与输入层连接权值wij学习算法△wij=η∑el﹒wjl﹒xjo(1-xjo)﹒xi（4）k+1时刻网络权值为

wij(k+1)=wij(k)+△wij（5）考虑上次权值对此次权值改变影响，需要加入动量因子α，此时权值为

wjl(k+1)=wjl(k)+△wjl+α（wjl(k)-wjl(k-1)）

wjl(k+1)=wjl(k)+△wjl+α（wij(k)-wij(k-1)）BP网络模式识别第7页四、仿真实例例：取标准样本为三输入两输出样本，见表1。BP网络结构为3-6-2，权值初始值取[-1,1]之间随机数，学习参数取η=0.50，α=0.05

表1训练样本输入输出1001001000.500101BP网络模式识别第8页编程调试后，网络训练指标改变、测试样本及结果分别如图2、表2所表示。图2样本训练收敛过程BP网络模式识别第9页输入输出0.9700.0010.0010.98680.01160.0000.9800.0000.00880.49930.0020.0001.040-0.01851.01920.5000.5000.5000.19390.54801.0000.0000.0001.00