径向基函数神经网络RBF与BP神经网络-

径向基函数神经网络神经网络基础知识工作原理：模拟生物大脑神经处理信息的方式构成：大量简单的基本元件——神经元相互连接功能：进行信息的并行处理和非线性转化本质：就是利用计算机语言模拟人类大脑做决定的过程。神经元结构模型x1x2xjx3xnyi输入信号阈值输出值与神经元xj的连接权值BP神经元模型RBF隐层神经元模型P1P2P3PR-1PRw1，1w1，Ra=f(wp+b)nfa传递函数：A=logsig(n)A=tansig(n)A=purelin(n)激活函数：注：是输入向量和权值向量之间的欧氏距离可以看出：随着权值和输入向量之间的距离的减少，网络输出是递增的，当输入向量和权值向量一致时，神经元输出1。径向基网络中常用的激励函数为高斯函数：——高斯函数的方差——欧式范数c——高斯函数的中心径向基神经网络结构输入层隐层输出层从径向基神经网络的结构中可得到网络输出为：——第p个输入样本——p表示样本总数——网络隐含层结点的中心——隐含层到输出层的连接权值——隐含层的结点数——与输入样本对应的网络的第j个输出结点的实际输出RBF网络的学习算法随机选取中心法（直接计算法）自组织选取中心法（K-均值聚类法）有监督选取中心法（梯度下降法）正交最小二乘（OLS）优选算法……学习算法：按照一定方式确定网络模型中未知参数的算法。自组织选取中心法（K-均值聚类法）基于K-均值聚类方法取基函数中心c网络初始化：随机选取h个训练样本作为聚类中心ci(i=1,2,...,h)将输入的训练样本集合按最近邻规则分组：按照xp与中心ci之间的欧氏距离将xp分配到输入样本的各个聚类集合中。重新调整聚类中心：计算各个聚类集合中训练样本的平均值，即新的聚类中心ci，如果新的聚类中心不再发生变化，则所得到的ci即为RBF神经网络最终的聚类中心，否则返回上一步，进行下一轮的中心求解。求解方差该RBF神经网络的基函数为高斯函数，因此方差为：计算隐含层和输出层之间的权值：隐含层至输出层之间的神经元的连接权值可以用最小二乘法直接计算得到，计算公式如下：RBF神经网络工作原理函数逼近：以任意精度逼近任一连续函数。一般函数都可表示成一组基函数的线性组合，RBF网络相当于用隐层单元的输出构成一组基函数，然后用输出层来进行线性组合，以完成逼近功能。分类：解决非线性可分问题。RBF网络用隐层单元先将非线性可分的输入空间设法变换到线性可分的特征空间（通常是高维空间），然后用输出层来进行线性划分，完成分类功能。RBF神经网络工作原理RBF解决异或问题RBF神经网络工作原理RBF解决异或问题RBF神经网络两种模型正规化网络RN通用逼近器基本思想：通过加入一个含有解的先验知识的约束来控制映射函数的光滑性，若输入一输出映射函数是光滑的，则重建问题的解是连续的，意味着相似的输入对应着相似的输出。广义网络GN模式分类基本思想：用径向基函数作为隐单元的“基”，构成隐含层空间。隐含层对输入向量进行变换，将低维空间的模式变换到高维空间内，使得在低维空间内的线性不可分问题在高维空间内线性可分。两种模型的比较隐节点=输入样本数隐节点＜输入样本数

所有输入样本设为径向基函数的中心径向基函数的中心由训练算法确定径向基函数取统一的扩展常数径向基函数的扩展常数不再统一由训练算法确定没有设置阈值输出函数的线性中包含阈值参数，用于补偿基函数在样本集上的平均值与目标值之间的差别。RNGNRBF学习算法RBF学习的三个参数：①基函数的中心②方差（扩展常数）③隐含层与输出层间的权值当采用正归化RBF网络结构时，隐节点数即样本数，隐层神经元的数据中心即为样本本身，参数设计只需考虑扩展常数和输出节点的权值。当采用广义RBF网络结构时，RBF网络的学习算法应该解决的问题包括：如何确定网络隐节点数，如何确定各径向基函数的数据中心及扩展常数，以及如何修正输出权值。RBF网络学习算法的MATLAB实现函数名功能newrb()新建一个径向基神经网络newrbe()新建一个严格的径向基神经网络RBF网络常用函数表newrb()功能建立一个径向基神经网络格式[net,tr]=newrb(P,T,GOAL,SPREAD,MN,DF)说明P：Q组输入向量组成的R*Q维矩阵；T：Q组目标分类向量组成的S*Q维矩阵；GOAL：圴方误差，默认为0；SPREAD：径向基函数的扩展速度，默认为1；MN：神经元的最大数目，默认为Q；DF：两次显示之间所添加的神经元数目，默认为25；net：返回值，一个径向基网络；tr：返回值，训练记录。newrbe()功能建立一个严格的径向基神经网络,严格是指径向基神经网络的隐层神经元的个数与输入值的个数相等。格式net=newrbe(P,T,SPREAD)RBF神经网络在matlab中的例子给定函数的输入与输出，用RBF神经网络模拟函数曲线，并画出误差曲线。函数逼近非线性函数的回归问题描述：假设我们不知道这个方程的表达式，只知道满足这个方程的一些输入和输出，比如说如下数据：使用这些数据实现回归公式RBF与BP神经网络的比较从网络结构上比较：传递函数不同；神经元层数可能不同；RBF网络隐层神经元个数可以确定，BP网络不易确定。从训练算法上比较：需要确定的参数不同；训练算法不同。RBF神经网络的优缺点分析优点：1.它具有唯一最佳逼近的特性，且无局部极小问题存在。2.RBF神经网络具有较强的输入和输出映射功能，并且理论证明在前向网络中RBF网络是完成映射功能的最优网络。3.分类能力好。4.学习过程收敛速