MATLAB神经网络实验ppt课件

1、MATLAB神经网络工具箱引见及实验要求神经元模型Neuron Model： 多输入，单输出，带偏置输入:R维列向量1,TRppp权值:R维行向量111,Rwwwb阈值:标量求和单元11Riiinp wb传送函数f输出()afbwp常用传送函数aWp-b1-1u阈值函数1(0)( )hardlim( )0(0)naf nnnMATLAB函数: hardlim1(0)( )hardlim ( )1(0)naf ns nnMATLAB函数: hardlims线性函数uPurelin Transfer Function ：( )af nnanMATLAB函数: purelinSigmoid函数uSi

2、gmoid Function ：u特性：u值域a(0,1)u非线性，单调性u无限次可微u|n|较小时可近似线性函数u|n|较大时可近似阈值函数1( )1naf neMATLAB函数: logsig(对数), tansig(正切)对数Sigmoid函数正切Sigmoid函数tanh( )nnnneeanee 前馈神经网络u前馈神经网络(feed forward NN)：各神经元接受前级输入，并输出到下一级，无反响，可用一有向无环图表示。u前馈网络通常分为不同的层(layer)，第i层的输入只与第i-1层的输出结合。u可见层：输入层(input layer)和输出层(output layer)u隐

3、藏层(hidden layer) ：中间层BP网络l 多层前馈网络l 主要功能: 函数逼近, 方式识别, 信息分类l 传送函数:隐层采用S形函数,输出层S形函数或线性函数BP网络的生成newff函数newff用来生成一个BP网络net=newff(PR,S1 S2.SN,TF1 TF2. TFN,BTF,BLF,PF)PR: 一个R2矩阵, 由R维输入向量的每维最小值和最大值组成Si: 第i层的神经元个数TFi: 第i层的传送函数, 默以为tansigBTF: 训练函数, 默以为trainlmBLF: 学习函数, 默以为learngdmPF: 性能函数, 默以为msenet=newff(0,1

4、0;-1,2,5,1,tansig,purelin,trainlm); %生成一个两层BP网络,隐层和输出层神经的个数为5和1, 传送函数分别为tansig和purelin, 训练函数为trainlm, 其他默许BP网络的初始化 newff 函数在建立网络对象的同时, 自动调用初始化函数, 根据缺省的参数设置网络的衔接权值和阈值. 运用函数init可以对网络进展自定义的初始化. 经过选择初始化函数, 可对各层衔接权值和阈值分别进展不同的初始化.BP网络的学习规那么 权值和阈值的调理规那么采用误差反向传播算法(back propagation). 反向传播算法分二步进展，即正向传播和反向传播。

5、1正向传播 输入的样本从输入层经过隐单元一层一层进展处置，经过一切的隐层之后，那么传向输出层；在逐层处置的过程中，每一层神经元的形状只对下一层神经元的形状产生影响。在输出层把现行输出和期望输出进展比较，假设现行输出不等于期望输出，那么进入反向传播过程。2反向传播 反向传播时，把误差信号按原来正向传播的通路反向传回，并对每个隐层的各个神经元的权系数进展修正，以望误差信号趋向最小。BP算法本质是求取误差函数的最小值问题。这种算法采用非线性规划中的最速下降方法，按误差函数的负梯度方向修正权系数。BP网络的快速学习算法与选择学习算法适用问题类型收敛性能占用存储空间其他特点trainlm函数拟合收敛快,

6、误差小大性能随网络规模增大而变差trainrp模式分类收敛最快较小性能随网络训练误差减小而变差trainscg函数拟合模式分类收敛较快性能稳定中等尤其适用于网络规模较大的情况trainbfg函数拟合收敛较快较大计算量岁网络规模的增大呈几何增长traingdx模式分类收敛较慢较小适用于提前停止的方法 MATLAB神经网络工具箱对常规BP算法进展改良,提供了一系列快速算法,以满足不同问题的需求BP网络的训练 利用知的输入目的样本向量数据对网络进展训练,采用train 函数来完成. 训练之前, 对训练参数进展设置 训练参数 参数含义 默认值net.trainParam.epochs训练步数100ne

7、t.trainParam.show显示训练结果的间隔步数25net.trainParam.goal训练目标误差0net.trainParam.time训练允许时间INfnet.trainParam.lr学习率0.01net = train(net, P, T)BP网络的设计(1)网络层数 曾经证明,单隐层的BP网络可以实现恣意非线性映射. BP网络的隐层数普通不超越两层.输入层的节点数 输入层接纳外部的输入数据, 节点数取决于输入向量的维数输出层的节点数 输出层的节点数取决于输出数据类型和该类型所需的数据大小.对于方式分类问题,节点数为2log mBP网络的设计(2)隐层的节点数 隐层的节点数

8、与求解问题的要求,输入输出单元数多少有关. 对于方式识别/分类的节点数可按以下公式设计传送函数 隐层传送函数采用S型函数, 输出层采用S型函数或线性函数训练方法及其参数选择 针对不同运用, BP网络提供了多种训练学习方法.0innnan其中为隐层节点数,in为输入节点数,a为110之间的整数BP网络设计实例采用动量梯度下降算法训练BP网络. 训练样本%定义训练样本p=-1 -1 3 1;-1 1 5 -3; t=-1 -1 1 1;%创建一个新的BP网络net=newff(minmax(p),3 1,tansig,purelin,traingdm);%设置训练参数net.trainParam.

9、epochs=1000;net.trainParam.goal=0.001;net.trainParam.show=50;net.trainParam.lr=0.05;net.trainParam.mc=0.9;%动量因子，缺省为0.9net=train(net,p,t); % 训练网络A=sim(net,p) %网络仿真目的线训练误差变化曲线训练误差变化曲线每次不同实验实验2: BP网络用于曲线拟合网络用于曲线拟合 要求设计一个简单的BP网络，实现对非线性函数的逼近。经过改动该函数的参数以及BP网络隐层神经元的数目，来察看训练时间以及训练误差的变化情况。Step1: 将要逼近的非线性函数设为

10、正弦函数k = 1; p = -1:.05:1;t = sin(k*pi*p);plot(p,t,-)title(要逼近的非线性函数);xlabel(时间);ylabel(非线性函数); Step 2: 网络建立 运用函数newff()建立BP网络构造，为二层BP网络。隐层神经元数目n可以改动，暂设为10，输出层有一个神经元。选择隐层和输出层神经元传送函数分别为tansig函数和purelin函数，网络训练算法采用trainlmn = 10;net = newff(minmax(p), n,1, tansig purelin, trainlm);% 对于该初始网络，可以运用sim()函数察看网

11、络输出y1 = sim(net,p);% 同时绘制网络输出曲线，并与原函数相比较figure;plot(p,t,-,p,y1,-)title(未训练网络的输出结果);xlabel(时间);ylabel(仿真输出 原函数 );由于运用newff()函数建立网络时，权值和阈值的初始化是随机的，所以网络输出的结果很差，根本达不到函数逼近的目的，并且每次运转结果也有所不同。 Step 3: 网络训练 运用函数train()对网络进展训练之前，要先设置训练参数。将训练时间设置为50，精度设置为0.01，其他用缺省值。 训练后得到的误差变化过程如图：net.trainParam.epochs = 50;net.trainParam.goal = 0.01;net = train(net,p,t);Stet 4: 网络测试对于训练好的网络进展仿真并绘制网络输出