2024年BP神经网络实验报告

BP神經网络试验汇报一、试验目的熟悉MATLAB中神經网络工具箱的使用措施；通過在MATLAB下面编程实現BP网络迫近原则正弦函数，来加深對BP网络的理解和认识，理解信号的正向传播和误差的反向传递過程。二、试验原理由于老式的感知器和线性神經网络有自身無法克服的缺陷，它們都不能处理线性不可分問題，因此在实际应用過程中受到了限制。而BP网络却拥有良好的繁泛化能力、容錯能力以及非线性映射能力。因此成為应用最為广泛的一种神經网络。BP算法的基本思想是把學习過程分為两個阶段：第一阶段是信号的正向传播過程；输入信息通過输入层、隐层逐层处理并计算每個單元的实际输出值；第二阶段是误差的反向传递過程；若在输入层未能得到期望的输出值，则逐层递归的计算实际输出和期望输出的差值（即误差），以便根据此差值调整权值。這种過程不停迭代，最终使得信号误差到达容許或规定的范围之内。基于BP算法的多层前馈型网络模型的拓扑构造如上图所示。BP算法的数學描述：三层BP前馈网络的数學模型如上图所示。三层前馈网中，输入向量為：；隐层输入向量為：；输出层输出向量為：；期望输出向量為：。输入层到隐层之间的权值矩阵用V表达，，其中列向量為隐层第j個神經元對应的权向量；隐层到输出层之间的权值矩阵用W表达，，其中列向量為输出层第k個神經元對应的权向量。下面分析各层信号之间的数學关系。對于输出层，有對于隐层，有以上两式中，转移函数f(x)均為單极性Sigmoid函数：f(x)具有持续、可导的特點，且有以上共同构成了三层前馈网了的数學模型。當网络输出和期望输出不相等時，存在输出误差E如下：将以上误差定义式展開至隐层，有深入展開至输入层，有由上式可以看出，网络输入误差是两层权值W和V的函数，因此调整权值可以变化误差E。显然，调整权值的原则是使误差不停的減小，因此应使权值的调整量与误差的负梯度成正比，即：式中负号表达梯度下降，常数表达比例系数，在训练中反应了學习速率。轻易看出，BP學习算法中，各层权值调整公式形式上都是同样的，均有3個原因决定，即：學习速率、本层误差信号和本层输入信号X/Y。其中输出层误差信号同网络的期望输出与实际输出之差有关，直接反应了输出误差，而各隐层的误差信号与前面各层的误差信号均有关，是從输出层開始逐层反传過来的。三、程序clcclearallk=1;n=10;P=[-1:0.05:1];T=sin(k*pi*P);plot(P,T,'-');title('要迫近的非线性函数');xlabel('输入向量');ylabel('非线性函数目的输出向量');net=newff(minmax(P),[n,1],{'tansig','purelin'},'trainlm');y1=sim(net,P);net.trainParam.epochs=50;net.trainParam.goal=0.01;net=train(net,P,T);y2=sim(net,P);figure;plot(P,T,'-',P,y1,'--',P,y2,'*');title('训练前後的网络仿真成果對比');xlabel('输入向量');ylabel('输出向量');legend('目的函数输出向量','未训练BP网络输出','已训练BP网络输出');仿真成果如下图：由仿真成果图可以看出，未經训练的BP网络输出与目的函数差距很大，迫近效果不理想，而對BP网络训练之後的输出可以较精确的迫近目的函数，并且BP网络的训练迭代次数仅约1.2次，网络的输出目的误差就到达了精度规定，收敛速度很快。函数迫近效果、网络训练的收敛速度与原始非线性函数的频率、BP网络隐含层單元神經元的数目以及BP网络训练函数有关。四、试验結论通過编程实現使用BP网络對函数進行迫近，對BP网络的信号和误差传递的原理以及隐层、输出层权值调整的规则有了充足的理解和认识。BP网络是一种强大的工具，它是应用最為广泛的网络。用于文字识别、模式分类、文字到声音的转换、图像压缩、决策支持等。不過，通過试验看出，它還是存在一定的局限性。由于本试验中采用的學习率是固定不变的，從而使得在函数迫近的時候在有些地方出現了偏离，假如能自适应的调整學习率，使网络在學习初期具有较大的學习率，以迅速迫近函数，當已經迫近理想输出時再使用较