概率神经网络

1、LOGOXX学校我们毕业啦其实是答辩的标题地方概率神经网络报告人XXXXXXXXX2 2概率神经网络（概率神经网络（PNN）：）： 以指数函数替代神经网络中常用的以指数函数替代神经网络中常用的S形激活函数，形激活函数，进而构造出能够计算非线性判别边界的概率神经网络。进而构造出能够计算非线性判别边界的概率神经网络。 1、基于贝叶斯最优分类决策理论（错误率、风险最小化）、基于贝叶斯最优分类决策理论（错误率、风险最小化）2、基于概率密度估计方法、基于概率密度估计方法 不同于反向传播算法中的试探法，而是基于统计学中已有不同于反向传播算法中的试探法，而是基于统计学中已有的概率密度函数的非参数估计方法。的

2、概率密度函数的非参数估计方法。3、前馈网络的一种、前馈网络的一种 没有反馈没有反馈一、简一、简 介介3贝叶斯决策贝叶斯决策概率密度函数估计概率密度函数估计ijiwxthenijxwpxwpif,)|()|()|()()|(iiiwxpwpxwp其中，基于训练样本，高斯核的Parzen估计 ：iNkiklliixxNwxp1222)2exp()2(11)|(分类任务：假设有c类，w1,w2, wc二、理论推导二、理论推导4iNkikiiixxNwpxg122)2exp()()(判别函数判别函数ikx是属于第iw类的第k个训练样本 l是样本向量的维数 是平滑参数iNiw是第类的训练样本总数 iji

3、wxthenijxgxgif,)()(判别规则判别规则只需经验给出，或聚类法，可取为在同组中特征向量之间距离平均值的一半。iNkikiixxNwp12T)1-exp()(5 5右图以三类为例，右图以三类为例，即即C=3；同时，；同时，设特征向量维数设特征向量维数为为3。输入层样本层求和层竞争层PNN拓扑结构图拓扑结构图6 6输入层输入层求和层求和层样本层样本层竞争层竞争层神经元个数是特征向量维数神经元个数是特征向量维数神经元个数是训练样本的个数神经元个数是训练样本的个数神经元个数是类别个数神经元个数是类别个数神经元个数为神经元个数为1 1在输入层中，网络计算输入向量与所有训练样本向量之间的距离

4、。在输入层中，网络计算输入向量与所有训练样本向量之间的距离。 样本层的激活函数是高斯函数。样本层的激活函数是高斯函数。将样本层的输出按类相加，相当于将样本层的输出按类相加，相当于c c个加法器。个加法器。判决的结果由竞争层输出，输出结果中只有一个判决的结果由竞争层输出，输出结果中只有一个1 1，其余结果都是，其余结果都是0 0，概，概率值最大的那一类输出结果为率值最大的那一类输出结果为1 1。 1、网络学习过程简单，学习速度快、网络学习过程简单，学习速度快 学习一次完成，比BP快5个数量级，比RBF2个数量级。 2、分类更准确、分类更准确,没有局部极小值问题没有局部极小值问题 错误率、风险最小

5、化。3、容错性好，分类能力强。、容错性好，分类能力强。 判别界面渐进地逼近贝叶斯最优分类面。 7三、优势与不足三、优势与不足1、对训练样本的代表性要求高、对训练样本的代表性要求高2、需要的存储空间更大、需要的存储空间更大不足不足优势优势8 分类方面已广泛地应用于分类方面已广泛地应用于非线性滤波、模式分类、联非线性滤波、模式分类、联想记忆和概率密度估计想记忆和概率密度估计。其优势在于用线性学习算法来。其优势在于用线性学习算法来完成非线性学习算法所做的工作，同时保证非线性算法完成非线性学习算法所做的工作，同时保证非线性算法的高精度等特性。的高精度等特性。 四、应用领域及实例四、应用领域及实例应用领

6、域应用领域分类分类模式识别模式识别主要用于主要用于最广泛92013-5-24应用实例一应用实例一对彩色车牌图像进行二值化对彩色车牌图像进行二值化 特征向量是每个像素点的颜色特征向量是每个像素点的颜色RBG值。需要值。需要将其分为将其分为2类，类， A类表示背景色，类表示背景色，B类为号码色，接近白类为号码色，接近白色的颜色色的颜色 用用PNN对每个像素点进行训练、分类，对每个像素点进行训练、分类， 再再用用0、1这两个数值来表示这两个数值来表示A类、类、B类，重新设置图片中像类，重新设置图片中像素的颜色实现了车牌号图像的二值化。素的颜色实现了车牌号图像的二值化。任务分析任务分析基本思路基本思路10实验步骤实验步骤11实验结果实验结果 二值化前后对比图二值化前后对比图原图二值化后n给保护区内的每只老虎编号并采集其照片n从照片中提取纹理信息作为训练样本集，并用这些训练样本对概率神经网络进行训练；n另取一张非训练样本照片，用训练好的网络识别出照片中老虎的编号。12应用实例二应用实例二东北虎纹理识别东北虎纹理识别任务分析任务分析根据老虎的纹理照片进行个体匹配识别基本思路基本思路13实验步骤实验步骤利用数码相机拍摄100只不同虎个体侧身图像，每只老虎拍多张利用计算机对这些图像进行图像预处理、形态学处理,凸显纹理特征从老虎身体左右两侧各三个点上提取特征信息