神经网络详细介绍及实例分析

神经网络详细介绍及实例分析第1页/共15页基本思想学习算法实例分析网络模型1234第2页/共15页

基本思想1BP神经网络BP算法的基本思想：学习过程由信号的正向传播与误差的反向传播两个过程组成。输入信号由输入层经过隐含层传向输出层，在输出层产生输出信号，这是工作信号的正向传播。在信号的向前传递过程中各层的权值是固定不变的。每一层神经元的状态只影响到下一层神经元的状态。如果在输出层得到实际输出不同于期望输出，则转入误差信号反向传播。网络的实际输出与期望输出之间的差值即为误差信号。误差信号由输出层逐层向前传播，这是误差信号的反向传播。在反向传播过程中，网络的权值由误差反馈进行调节，通过权值的不断修正使得网络的实际输出更加接近期望输出。工作信号的正向传播和误差信号的反向传播的各层权值调节过程，是周而复始进行的。权值不断调节的过程也是网络的学习训练过程。直到网络输出误差减小到可接受的范围内，或者迭代次数达到预定的次数为止。第3页/共15页

网络模型2BP神经网络一般将单隐层前馈网称为三层前馈网，即包括输入层、隐含层、输出层。第4页/共15页

网络模型2BP神经网络输入层输入向量：隐含层各神经元输入：隐含层各神经元输出：(j=1,2,...,m),netj表示隐含层第j个神经元的输入yj表示隐含层第j个神经元的输出(k=1,2,...,l),netk表示输出层第k个神经元的输入Ok表示输出层第k个神经元的输出输出层各神经元输入：输出层各神经元输出：隐含层输出向量：输出层输出向量：输出层期望输出向量：f(x)函数一般设为sigmoid函数第5页/共15页

学习算法3BP神经网络当网络输出与期望输出不等时，存在输出误差E，定义如下：所以，网络输出误差是各层权值的函数，通过调整各层权值可以达到减少误差的目的。显然，误差调整的原则是使误差越来越小，可以通过梯度下降法（负梯度方向即是减少最快的方向），即各层权值的调整量应该与误差的负梯度成正比。第6页/共15页

学习算法3BP神经网络第7页/共15页3经过上面两个公式，可以得到每层权值的改变量，从而更新整个网络的所有权值。

学习算法再由输入层重新向后传播，得到实际输出，再与期望输出相比较。若已达到误差函数要求的精度，则停止迭代；若没达到，则继续计算各层权值的改变量，更新权值，反复进行，直到满足要求。第8页/共15页

BP神经网络在图像压缩中的应用4BP神经网络基本思想：原始数据节点和重构数据节点构成了节点数较大的外层，而中间的具有较小节点数的隐含层则构成压缩效果。基本思想是强迫原始数据通过隐含层，并期望在隐含层处获得较为紧凑的数据表示，以达到压缩的目的。神经网络用于图像编码的压缩比与输入层和隐含层的节点数有关，一般为：压缩比=输入层节点数(n)/隐含层节点数(m)实验设计：1.输入层和输出层节点数设为16，因为实验用于压缩的图像选为128*128的图像，为避免网络过大造成训练过于复杂，将原始图像分为4*4的小块，每一块作为输入样本接入网络，所以输入节点应设为16个。输出图像要与原始图像一致，所以输出节点也是16个。2.隐含层节点数由期望达到的压缩比来设定，本实验设为8个。（压缩比为2）3.转移函数f(x)选为sogmoid。4.目标误差为0.0015.迭代次数为500第9页/共15页

BP神经网络在图像压缩中的应用4BP神经网络第10页/共15页

BP神经网络在图像压缩中的应用4BP神经网络第11页/共15页

BP神经网络在图像压缩中的应用4BP神经网络压缩结果：第12页/共15页

BP神经网络在图像压缩中的应用4BP神经网络1.图像压缩的目的是在为了不影响清晰度的前提下减少图像所占的存储空间，那么通过BP神经网络的方法，我认为是不是在实际存储时存储的是隐含层输出的数据，也即是本来对于一个图像的一个4*4的块，存的是16行1列的数据，现在经过隐含层之后，只需要存4行1列的数据；所以实现了压缩的目的。2.对于一个图像经过训练后得到的一个神经网络，本来以为只针对这个图像或相似的图像有一个较好的拟合。但在对其他图像也经过这个网络去压缩时，发现也能达到一个很好的效果。所以我认为一个样本训练得到的网络能用于处理同一类型的样本，同理于无人驾驶汽车在前期收集路况数据