人工神经网络入门课件

1、人工神经网络入门李 玉 珏汇报内容概述人工神经网络模型及举例一、概述生物神经网络人工神经网络生物神经元人工神经元模型人工神经网络结构神经网络特点神经网络学习方式1、生物神经网络人工神经网络 生物神经系统的某些结构和功能是天生的，如某些本能动作，但大多数功能需要后天学习才能获得。构造“人工神经元”模拟生物细胞，并以某种方式进行连接，从而模拟“人脑”的某些功能。2、生物神经元 生物神经元是人脑神经系统的基本单元，相互之间通过神经末梢连接，神经元信息是宽度和幅度相同的脉冲串，兴奋的神经元，输出高频率的脉冲串，引起下一个神经元兴奋；否则输出频率就低，抑制下一个神经元。p2p1pRfaw1w2wRP：其

2、它神经元的输出，即该神经元输入向量；w：其它神经元与该神经元的连接强度，即权值向量；：神经元的阈值，判断输入向量加权和与其大小；f：神经元输入输出关系函数，即传输函数，传输函数 不同构成了不同的神经网络模型；a：神经元输出p2p1pRaw1w2wRfnb人工神经元一般模型 分层型神经网络按照功能分为输入层、中间层和输出层，中间层也称为隐层，隐层可以有多层（一般不超过2层），也可以没有。5、神经网络特点分布式存储信息并行协同处理信息信息处理与存储合而为一对信息处理具有自组织、自学习特点，便于联想、综合和推广。6、神经网络学习方式 与生物神经网络一样，人工神经网络必须经过学习，才具有智能特性。人工

3、神经网络的学习过程是在不断调节权值和阈值的过程。模仿人的学习过程，提出三种学习方法：监督学习、无监督学习、强化学习。监督学习的误差信号定义：均方误差mse平均绝对误差mae误差平方和sse2）无监督学习没有信息作为响应的校正，依据网络结构和学习规则调节自身参数和结构，使网络输出反映输入的某些固有特性。3）强化学习介于两者之间，外部环境对学习后的输出结果只给出评价信息，而无答案，网络学习系统通过强化正面评价行为来改善自身性能。1、感知器特点感知器神经元及感知器神经网络模型感知器学习局限性感知器网络设计特点在解决线性可分问题时，感知器保持了运算速度快，性能可靠的优点；理解感知器的训练算法，能够为更

4、好理解其它复杂的神经网络模型奠定基础。感知器神经元及感知器神经网络模型神经元传输函数f ：阈值型传输函数感知器网络输出：0，1感知器学习规则：规则，eta，网络训练目的是使t a感知器学习 感知器神经网络的训练，需要提供训练样本集，每个样本由神经网络的输入向量和输出向量对组成，n个训练样本构成的训练样本集为： 每一步学习，对于各层感知器神经元的权值和阈值的调整算法表示为： 通过有限步数的学习后，网络实际输出和期望输出的误差将减小到0，此时，完成网络训练。训练结果使网络训练样本模式分布记忆在权值和阈值之中，当给定网络一个输入模式时，网络将计算出相应输出，从而判断这一输入模式属于记忆中的哪一种模式

5、或接近于哪一种模式。感知器局限性输出值单层感知器网络只用于解决线性可分问题感知器学习算法只适用于单层感知器网络 举例：判断数字的奇偶性。2、BP网络特点BP网络学习BP网络设计BP网络学习第一阶段：输入已知学习样本，通过设置的网络结构和前一次迭代的权值和阈值，从网络第一层向后计算各神经元输出第二阶段：从最后一层向前计算各权值和阈值对总误差的影响，并据此修改以上两个过程反复交替，直到达到收敛：误差反向传播（back propagation）。BP网络设计网络层数输入层节点数输出层节点数隐层节点数网络层数 理论上已经证明，在不限制隐层节点数的情况下，两层（只有一个隐层）BP网络可以实现任意非线性映射，BP网络隐层一般不超过两层。输入层节点数 输入层起缓冲存储器作用，它接收外部输入数据，其节点数取决于输入矢量的维数，如以3232大小图像像素作为输入数据时，输入节点为1024输出层节点数 当神经网络用于模式分类时，可以二进制形式表示不同模式的输出结果，输出节点数可根据待分类模