建模与仿真神经网络

建模与仿真神经网络第一页，共三十五页，2022年，8月28日神经网络知识人工神经网络对人脑或自然神经网络若干基本特性的抽象和模拟

非局域性非线性性非定常性非凸性神经网络的基本性质2023/2/62第二页，共三十五页，2022年，8月28日神经元神经网络知识2023/2/63第三页，共三十五页，2022年，8月28日传递（激活）函数类型阈值函数线性函数对数函数正切函数神经网络知识2023/2/64第四页，共三十五页，2022年，8月28日神经网络结构神经网络知识2023/2/65第五页，共三十五页，2022年，8月28日神经网络分类前向网络反馈网络互联网络层内互联前向网络神经网络知识2023/2/66第六页，共三十五页，2022年，8月28日神经网络知识神经网络模型感知器网络线性神经网络BP网络径向基函数网络反馈网络自组织网络神经元传递函数、网络学习函数、激活函数不同net=newp()net=newlind()net=newff()net=newrbe()2023/2/67第七页，共三十五页，2022年，8月28日网络训练函数神经网络知识trainbfgBFGS拟牛顿法trainbr贝叶斯方法traincgbPowell-Beale共轭梯度法traincgfFletcher-Powell共轭梯度法traincgpPolak-Ribiere共轭梯度法traingd梯度下降法traingda自适应速率梯度下降法traingdm动量梯度下降法trainlmLevenberg-Marquardt算法traingdx动量和自适应速率梯度下降法2023/2/68第八页，共三十五页，2022年，8月28日学习算法适用问题类型收敛性能占用存储空间其他特点trainlm函数拟合收敛快误差小大性能随网络规模增大而变差trainrp模式分类收敛最快较小性能随网络训练误差减小而变差trainscg函数拟合模式分类收敛较快性能稳定中等尤其适用于网络规模较大的情况trainbfg函数拟合收敛较快较大计算量随网络规模增大呈几何增大traingdx模式分类收敛较慢较小适用于“提前停止”方法，可提高网络推广能力神经网络知识网络训练函数2023/2/69第九页，共三十五页，2022年，8月28日网络权值、误差学习函数神经网络知识mae绝对平均误差mse均方误差msereg规则化均方误差sse平方误差和网络性能函数learpn标准化感知器学习规则learnwhLMS算法（近似梯度下降法）learngd梯度下降法learngdm动量梯度下降法2023/2/610第十页，共三十五页，2022年，8月28日以任意精度逼近任何函数鲁棒性、容错性强进行快速、大量运算学习和自适应不确定的系统神经网络的优点同时处理定性、定量知识2023/2/611第十一页，共三十五页，2022年，8月28日神经网络知识神经网络主要应用领域模式识别信号处理知识工程专家系统优化组合机器人控制2023/2/612第十二页，共三十五页，2022年，8月28日奶牛产奶量预测研究意义研究进展神经网络方法神经网络应用实例农场主关心什么先辈（竞争对手）做了什么2023/2/613第十三页，共三十五页，2022年，8月28日初产奶牛产奶量预测研究问题研究数据神经网络方法神经网络应用实例初产奶牛产奶量《》亲代奶牛产奶量亲代奶牛30d、60d、90d、…、305d产奶量初产奶牛305d产奶量初产奶牛产奶量《》初产奶牛营养量初产奶牛30d、60d、90d、…、305d营养量2023/2/614第十四页，共三十五页，2022年，8月28日神经网络预测训练集、测试集交互检验Jackknife检验采用标准集随机选取GB126，CB25876个训练，12或1个预测方法检验2023/2/615第十五页，共三十五页，2022年，8月28日模型建立依据原则（1）网络规模持平于样本集大小（2）输入层、隐层的结点数比例为2:1

（3）运算简单、易于理解神经网络方法2023/2/616第十六页，共三十五页，2022年，8月28日神经网络模型结构模型结构步骤一三层BP网络结构输出节点数为1模型结构步骤二训练样本数76输入节点数为7隐层采用S型传递函数采用标准训练、权值、性能函数2023/2/617第十七页，共三十五页，2022年，8月28日网络模型结构网络结构模型网络模型层数节点数传递函数输入层7正切函数线性函数隐含层10输出层1训练函数：traingdx网络权值、误差学习函数：learngdm网络性能函数：mse是否是最好的选择方式2023/2/618第十八页，共三十五页，2022年，8月28日神经网络预测工作步骤初始化网络权值矩阵和神经元阈值矩阵提供学习样本计算网络实际输出和隐层神经元输出计算误差对各层的影响修正权值和阈值计算网络输出误差判断误差是否满足要求结束训练2023/2/619第十九页，共三十五页，2022年，8月28日神经网络程序实现MATLAB神经网络工具箱主要程序设计Net=newff(PR,[S1,S2],{TF1,TF2},BTF,BLF,PF);PR=minmax(Original_data);%确定输入层输入数据的大小范围S1、S2;%分别为网络隐层、输出层神经元个数TF1、TF2;%分别为隐层、输出层传递函数BTF、BLF、PF;%分别为网络训练函数、学习函数和性能函数2023/2/620第二十页，共三十五页，2022年，8月28日MATLAB神经网络工具箱net.performFcn=‘mse’;%设置性能函数为均方误差net.trainParam.goal=0.01;%设置性能目标值net.trainParam.epochs=25000;%设置最大训练步数net.trainParam.lr=0.02;%设置学习率设置各性能目标值如下神经网络程序实现2023/2/621第二十一页，共三十五页，2022年，8月28日神经网络程序实现MATLAB神经网络工具箱主要程序设计Original_data=textread(‘original.txt’);net=train(net,Train_data,Train_target_data)；%网络训练Out_data(i)=sim(net,Test_data)；%网络仿真Target_data=textread(‘target.txt’);[R,P]=corrcoef(Target_data,Out_data)；%精度验证2023/2/622第二十二页，共三十五页，2022年，8月28日2023/2/623第二十三页，共三十五页，2022年，8月28日2023/2/624第二十四页，共三十五页，2022年，8月28日2023/2/625第二十五页，共三十五页，2022年，8月28日2023/2/626第二十六页，共三十五页，2022年，8月28日2023/2/627第二十七页，共三十五页，2022年，8月28日2023/2/628第二十八页，共三十五页，2022年，8月28日12023/2/629第二十九页，共三十五页，2022年，8月28日710112023/2/630第三十页，共三十五页，2022年，8月28日2023/2/631第三十一页，共三十五页，2022年，8月28日2023/2/632第三十二页，共三十五页，2022年，8月28日预测结果最后预测结果真实产奶量预测奶量2023/2/633第三十三页，共三十五页，2022年，8月28日对初始权重敏感，易收