神经网络实例课件

1、1感知器算法(Perceptron Approach)任选一初始增广权矢量用训练样本检验分类是否正确对所有训练样本都正确分类？YesENDYesNo对权值进行校正No感知器算法流程图流程:2一、单层感知器举例假设w1(0)=0.2, w2(0)=0.4,(0)=0.3, =0.4，请用单层感知器完成逻辑或运算的学习过程。解：根据“或”运算的逻辑关系，可将问题转换为： 输入向量：X1=0, 0, 1, 1 X2=0, 1, 0, 1 输出向量：Y =0, 1, 1, 1由题意可知，初始连接权值、阈值，以及增益因子的取值分别为： w1(0)=0.2, w2(0)=0.4, (0)=0.3，=0.4

2、 即其输入向量X(0)和连接权值向量W(0)可分别表示为： X(0)=(-1, x1 (0), x2 (0) W(0)=(0), w1(0), w2 (0)再取下一组输入：x1(0)=0和x2(0)=1，其期望输出为d(0)=1，实际输出为：y(0)=f(w1(0) x1(0)+ w2(0) x2(0)-(0) =f(0.2*0+0.4*1-0.3)=f(0.1)=1实际输出与期望输出相同，不需要调节权值。再取下一组输入：x1(0)=1和x2(0)=0，其期望输出为d(0)=1，实际输出为：y(0)=f(w1(0) x1(0)+ w2(0) x2(0)-(0) =f(0.2*1+0.4*0-0

3、.3)=f(-0.1)=0实际输出与期望输出不同，需要调节权值， 再取下一组输入：x1(1)=1和x2(1)=1，其期望输出为d(1)=1，实际输出为：y(1)=f(w1(1) x1(1)+ w2(1) x2(1)-(1) =f(0.6*1+0.4*1+0.1)=f(1.1)=1实际输出与期望输出相同，不需要调节权值。再取下一组输入：x1(1)=0和x2(1)=0，其期望输出为d(0)=0，实际输出为：y(1)=f(w1(1) x1(1)+ w2(1) x2(1)-(1) =f(0.6*0+0.4*0 + 0.1)=f(0.1)=1实际输出与期望输出不同，需要调节权值，其调整如下：(2)=(1

4、)+(d(1)- y(1)*(-1)= -0.1+0.4*(0-1)*(-1)= 0.3w1(2)=w1(1)+(d(1)- y(1)x1(1)=0.6+0.4*(0-1)*0=0.6w2(2)=w2(1)+(d(1)- y(1)x2(1)=0.4+0.4*(0-1)*0=0.4再取下一组输入：x1(2)=0和x2(2)=1，其期望输出为d(2)=1，实际输出为：y(2)=f(w1(2) x1(2)+ w2(2) x2(2)-(2) =f(0.6*0+0.4*1 - 0.3)=f(0.1)=1实际输出与期望输出相同，不需要调节权值。再取下一组输入：x1(2)=1和x2(2)=1，其期望输出为d

5、(2)=1，实际输出为：y(2)=f(w1(2) x1(2)+ w2(2) x2(2)-(2) =f(0.6*1+0.4*1 - 0.3)=f(0.7)=1实际输出与期望输出相同，不需要调节权值。 至此，学习过程结束。最后的得到的阈值和连接权值分别为：(2)= 0.3w1(2)=0.6w2(2)= 0.4不仿验证如下：对输入：“0 0”有y=f(0.6*0+0.4*0-0.3)=f(-0.3)=0对输入：“0 1”有y=f(0.6*0+0.4*1-0.3)=f(0.1)=1对输入：“1 0”有y=f(0.6*1+0.4*0-0.3)=f(0.3)=1对输入：“1 1”有y=f(0.6*1+0.

6、4*1-0.3)=f(0.7)=1P=-1, -2, 3, 1; -1, 1, 5, -3;% T 为目标矢量T=-1, -1, 1, 1;pause;clc% 创建一个新的前向神经网络net=newff(minmax(P),3,1,tansig,purelin,traingdm)% 当前输入层权值和阈值inputWeights=net.IW1,1inputbias=net.b1% 当前网络层权值和阈值layerWeights=net.LW2,1layerbias=net.b2pauseclc% 设置训练参数net.trainParam.show = 50; % 训练显示间隔net.train

7、Param.lr = 0.05; % 学习步长net.trainParam.mc = 0.9; % 动量项系数 net.trainParam.epochs = 1000; % 最大训练次数net.trainParam.goal = 1e-3; % 最小均方误差pauseclc% 调用 TRAINGDM 算法训练 BP 网络net,tr=train(net,P,T);pauseclc% 对 BP 网络进行仿真A = sim(net,P)% 计算仿真误差E = T - AMSE=mse(E)BP网络运行结果：inputWeights = 0.9136 -0.2035 -0.7981 0.3445

8、0.9698 0.0094inputbias = -2.6782 0.0545 1.9305layerWeights = 0.4189 -0.1422 -0.3908layerbias = -0.6207T=-1 -1 1 1;A = -0.9553 -1.0152 0.9932 0.9597E = -0.0447 0.0152 0.0068 0.0403MSE = 9.7344e-0041、初始化将网络的连接权Wij赋予0，1区间内的随机值，确定学习率(t)的初始值(0)（0 (0) 1），确定领域Ng(t)的初始值Ng(0)。2、给网络提供输入模式Ak=(a1,a2,an)。3、计算连接权

9、向量Wj=(wj1,wj2,wjn)与输入模式Ak=(a1,a2,an)之间的距离，即计算Euclid距离：4、找出最小距离dg，确定获胜神经元g。5、进行连接权调整。将从输入神经元到Ng(t)范围内的所有竞争层神经元之间的连接权按下式进行修正。6、将下一个输入学习模式提供给网络的输入层，返回步骤3，直至p个学习模式全部提供一遍。7、更新学习率(t)及领域Ng(t) (t)= 0（1-t/T)8、令t=t+1,返回步骤2，直至t=T为止。男(%)0.55120.51230.50870.50010.60120.52980.50000.49650.51030.5003女(%)0.4488 0.48

10、770.49130.49990.39880.47020.50000.50350.48970.4997P=0.55120.51230.50870.50010.60120.52980.50000.49650.51030.5003; 0.4488 0.4877 0.4913 0.49990.39880.47020.50000.50350.4897 0.4997;plot(P(1,:),P(2,:),+r);hold on3)、网络实现net=newsom(0 1;0 1,3 4);w1_init=net.IW1,1;plotsom(w1_init,net.layers1.distances);a=100 300 500 1000;for i=1:4net=init(net);net.trainParam.epochs=a(i);net=train(net,P);y=sim(net,P);yc=vec2ind(y)figure;w1=net.IW1,1;plotsom(w1,net.layers1.distances);endyc = 7 3 6 12 1 10 12 12 6 12yc = 8 3 4 1 12 7 1 1 3 1yc = 11 7 7 1 12 3 1 1 7 1yc = 3 10 9 12 1 6 12 12 10 12