神经网络预测课件

1、前馈神经网络及其应用前馈神经网络结构及运行原理前馈神经网络的学习BP神经网络做预测小波网络做预测BP神经网络做分类人脑智能（生物神经系统） 大脑内约含1000亿个神元神经系统是由这些神经元经过高度的组织与相互作用而构成的复杂的网络 神经元神经元突触w前馈神经网络及其应用前馈神经网络结构及运行原理前馈神经网络的学习BP神经网络做预测小波网络做预测BP神经网络做分类神经网络神经元连接神经元神经元连接神经网络的结构神经网络分类无反馈网络：前馈神经网络有反馈网络：递归神经网络多层前馈网络结构与运行方式第1层（隐含层）第2层（隐含层）第3层（输出层）第0层（输入层）输入层Math Model多层前馈网络

2、结构与运行方式第0层（输入层）第1层（隐含层）第2层（输出层） hardlim函数： logsig函数： tansig函数： purelin函数： 小波基函数： 常见的传递函数前馈神经网络结构怎样用这类网络模型 模拟智能行为？学习、分类、识别、预测等前馈NN的学习Math Model学习pa神经网络香蕉的样子p香蕉的名字t训练样本What is network learning?The process of network changing connection weights W前馈NN的学习 Supervised LearningNetwork is provided with a set

3、 of examplesof proper network behavior (inputs/targets)前馈NN的学习Math Model有监督的学习输入输出目标前馈NN学习目的：调节连接权pa神经网络训练样本学习过程输出目标输入W(old)W(new)pa神经网络训练样本学习过程输出目标输入问题：怎样调整W？学习算法Learning samplesLearning algorithm权值的更新：单层网络模型数学模型BP神经网络BP神经网络信号前向传播误差反向传播信号前向传播Forward PropagationpaBP神经网络多层前馈网络结构与运行方式第1层（隐含层）第2层（隐含层）第

4、3层（输出层）第0层（输入层）Backpropagation误差反向传播Sensitivity：Weight UpdateBP网络的学习算法如何构建神经网络结构：输入层节点个数、隐层个数、输出层神经元个数，传递函数。如1-2-1网络：学习算法：权值更新前馈神经网络及其应用前馈神经网络结构及运行原理前馈神经网络的学习BP神经网络做预测小波网络做预测BP神经网络做分类BP网络做预测现给出一药品商店两年当中24个月的药品销售量（单位：箱）如下： 1856 1995 2220 2056 1123 1775 1900 1389 1609 1424 2276 1332 2056 2395 2600 229

5、8 1634 1600 1873 1487 1900 1500 2046 1556 要求用当前的所有数据预测下一个月的药品销售量。 我们可以通过训练一个BP网络来达到预测目的：用前三个月的销售量预测下一个月的销售量，也就是用1-3月的销售量预测第4个月的销售量，用2-4个月的销售量预测第5个月的销售量，如此循环下去，直到用9-11月预测12月份的销售量。这样训练BP神经网络后，就可以用10-12月的数据预测来年一月的销售量。 一、数据选择与归一化 1、构造样本 2、将样本分为训练样本和测试样本，训练样本用于网络 训练（学习），测试样本用于测试网络预测精度 3、对训练样本做归一化处理：将所有数据

6、化为0,1之间 的数： （1）最大最小方法 mapminmax() （2）平均数方差法BP网络做预测二、BP神经网络构建（对实际问题建模，构建合适的BP网络） 1、确定结构：3-5-1 2、确定每一层神经元传递函数： （1）hardlim函数： （2）logsig函数： （3）tansig函数： （4）purelin函数： BP网络做预测多层前馈网络结构与运行方式第1层（隐含层）第2层（隐含层）第3层（输出层）第0层（输入层）二、 BP神经网络构建 3、Matlab编程实现: newff 函数功能：构建一个BP神经网络 函数形式：net=newff(P,T,S,TF,BTF,BLF,PF,IP

7、F,OPF,DDF) P:输入数据矩阵，每一列表示一个数据 T:输出目标数据矩阵，每一列表示一个数据 S:隐含层神经元个数: 5，5，3，3,4,5 TF:神经元的传递函数,purelin,tansig,logsig,hardlim BTF：BP神经网络学习训练函数，默认值为trainlm BLF：权重学习函数，默认值为learngdm。 BP网络做预测BP网络做预测三、BP神经网络的学习（用训练数据训练BP网络） 1、BP网络初始化 权值、阈值初始化 2、BP网络的学习 3、Matlab编程实现：train 函数功能：用训练数据训练BP神经网络 函数形式：net，tr=train(Net,X

8、,T,Pi,Ai) Net:待训练的网络 X:输入数据矩阵 T：输出数据矩阵 Pi: 初始化输入层条件 Ai:初始化输出层条件 net:训练（学习）好的网络 tr：记录训练过程四、BP神经网络的预测（用学习好的BP网络对测试数据进行预测） 1、将测试数据中的输入归一化 2、BP网络做预测：y=sim(net,x) net:训练好的网络，x:归一化的测试数据 y:预测结果（网络输出） 3、输出结果反归一化：y 4、网络预测误差:error(y,T)BP网络做预测BP神经网络做预测 数据选择和归一化(mapminmax)BP神经网络构建 (newff)BP神经网络训练（学习）(train) BP神

9、经网络做预测 (sim)预测精度的影响因素一、隐含层层数 多隐含层的泛化能力强，预测精度高，但训练时间长；需要权衡预测精度和运行时间二、隐含层神经元个数 最佳隐层神经元个数可参考如下公式：三、训练数据前馈神经网络及其应用前馈神经网络结构及运行原理前馈神经网络的学习BP神经网络做预测小波网络做预测BP神经网络做分类小波网络 第1层（隐含层）第2层（隐含层）第3层（输出层）第0层（输入层）二、隐含层的传递函数为小波基函数一、结构与BP网络相同三、学习算法与BP类似小波网络做交通流量预测短期交通流量预测（时间跨度不超过15分钟） 研究表明，城市交通路网中交通路段上某时刻的交通流量与本路段前几个时段的

10、交通流量有关，并且交通流量具有24小时内准周期的特性。对具有准周期特性的数据进行预测考虑采用小波网络 短期交通流量预测（时间跨度不超过15分钟） 研究表明，城市交通路网中交通路段上某时刻的交通流量与本路段前 几个时段的交通流量有关，并且交通流量具有24小时内准周期的特性。样本采集： 首先采集前4天的交通流量数据，每隔15分钟记录一次该段时间内的 交通流量，一共记录384个时间点的数据。系统建模，构建合适的小波网络： 利用当前时间点的前4个时间点的交通流量来预测当前时间点的交通流量。利用 14：00交通流量， 14：15交通流量， 14：30交通流量， 14：45交通流量来预测15：00的交通流量，如此循环下去，得到样本： 小波网络做交通流量预测数据选择和归一化 训练样本：前3天的交通流量数据 测试样本：第4天的交通流量数据小波神经网络构建 结构：4-6-1， 权值：初始化 隐含层：小波基函数 输出层：线性函数小波神经网络训练： 用训练样本训练小波网络，网络反复训练100次。 小波神经网络预测： 用训练好的小波网络预测短时交通流量，并对预测结果进行分析。 小波神经网络做预测 前馈神经网络及其应用前馈神经网络结构及运行原理前馈神经网络的学习BP神经网络做预测小波网络做预测BP神经网络做分类苹果香蕉分类器Prototype VectorsShape: 1 : roun