人工神经网络入门

关于人工神经网络入门现在学习的是第1页，共32页一、概述生物神经网络——人工神经网络生物神经元人工神经元模型人工神经网络结构神经网络特点神经网络学习方式现在学习的是第2页，共32页1、生物神经网络——人工神经网络

生物神经系统的某些结构和功能是天生的，如某些本能动作，但大多数功能需要后天学习才能获得。构造“人工神经元”模拟生物细胞，并以某种方式进行连接，从而模拟“人脑”的某些功能。现在学习的是第3页，共32页2、生物神经元

生物神经元是人脑神经系统的基本单元，相互之间通过神经末梢连接，神经元信息是宽度和幅度相同的脉冲串，兴奋的神经元，输出高频率的脉冲串，引起下一个神经元兴奋；否则输出频率就低，抑制下一个神经元。现在学习的是第4页，共32页3、人工神经网络模型

人工神经元是人工神经网络的基本单元。依据生物神经元的结构和功能，可以把它看作一个多输入单输出的非线性阈值器件。现在学习的是第5页，共32页p2p1pR…f∑θaw1w2wRP：其它神经元的输出，即该神经元输入向量；w：其它神经元与该神经元的连接强度，即权值向量；Θ：神经元的阈值，判断输入向量加权和与其大小；f：神经元输入输出关系函数，即传输函数，传输函数不同构成了不同的神经网络模型；a：神经元输出现在学习的是第6页，共32页p2p1pR…aw1w2wR∑fnb人工神经元一般模型现在学习的是第7页，共32页4、人工神经网络结构

单个人工神经元不能完成输入信号的处理，需要按照一定的规则连接成网络，并让网络中每个神经元的权值和阈值按照一定的规则变化，才能实现一定的功能要求。可分为分层型和互连型两种。现在学习的是第8页，共32页

分层型神经网络按照功能分为输入层、中间层和输出层，中间层也称为隐层，隐层可以有多层（一般不超过2层），也可以没有。现在学习的是第9页，共32页5、神经网络特点分布式存储信息并行协同处理信息信息处理与存储合而为一对信息处理具有自组织、自学习特点，便于联想、综合和推广。现在学习的是第10页，共32页6、神经网络学习方式

与生物神经网络一样，人工神经网络必须经过学习，才具有智能特性。人工神经网络的学习过程是在不断调节权值和阈值的过程。模仿人的学习过程，提出三种学习方法：监督学习、无监督学习、强化学习。现在学习的是第11页，共32页1）监督学习

给出了与所有输入模式p对应的输出模式的“正确答案”，即期望输出t（目标），每次学习后，根据实际输出a与期望输出t的差别（误差e），决定是否再次学习和学习方法，最终使e满足要求。神经网络（学习系统）误差分析P输入a实际输出e

误差信号t

期望输出现在学习的是第12页，共32页监督学习的误差信号定义：均方误差mse平均绝对误差mae误差平方和sse现在学习的是第13页，共32页2）无监督学习没有信息作为响应的校正，依据网络结构和学习规则调节自身参数和结构，使网络输出反映输入的某些固有特性。3）强化学习介于两者之间，外部环境对学习后的输出结果只给出评价信息，而无答案，网络学习系统通过强化正面评价行为来改善自身性能。现在学习的是第14页，共32页二、神经网络模型感知器BP网络线性神经网络径向基网络竞争型神经网络自组织神经网络反馈型神经网络现在学习的是第15页，共32页1、感知器特点感知器神经元及感知器神经网络模型感知器学习局限性感知器网络设计现在学习的是第16页，共32页特点在解决线性可分问题时，感知器保持了运算速度快，性能可靠的优点；理解感知器的训练算法，能够为更好理解其它复杂的神经网络模型奠定基础。现在学习的是第17页，共32页感知器神经元及感知器神经网络模型神经元传输函数f：阈值型传输函数感知器网络输出：0，1感知器学习规则：δ规则，e＝t－a，网络训练目的是使ta现在学习的是第18页，共32页感知器学习

感知器神经网络的训练，需要提供训练样本集，每个样本由神经网络的输入向量和输出向量对组成，n个训练样本构成的训练样本集为：

每一步学习，对于各层感知器神经元的权值和阈值的调整算法表示为：现在学习的是第19页，共32页

通过有限步数的学习后，网络实际输出和期望输出的误差将减小到0，此时，完成网络训练。训练结果使网络训练样本模式分布记忆在权值和阈值之中，当给定网络一个输入模式时，网络将计算出相应输出，从而判断这一输入模式属于记忆中的哪一种模式或接近于哪一种模式。现在学习的是第20页，共32页感知器局限性输出值单层感知器网络只用于解决线性可分问题感知器学习算法只适用于单层感知器网络现在学习的是第21页，共32页感知器网络设计确定输入向量的取值范围、维数、网络层的神经元数目、传输函数和学习函数；构造训练样本集，确定每个样本的输入向量和目标向量，训练样本，得到满足误差性能指标的神经网络；构造测试样本集，仿真网络的性能。现在学习的是第22页，共32页

举例：判断数字的奇偶性。现在学习的是第23页，共32页2、BP网络特点BP网络学习BP网络设计现在学习的是第24页，共32页特点感知器神经网络学习规则和LMS学习算法只能训练单层神经网络，只能解决线性可分问题，多层神经网络可用于非线性分类BP神经元传输函数为非线性函数BP网络一般为多层网络在人工神经网络应用中，绝大部分的神经网络模型采用了BP网络及其变化形式现在学习的是第25页，共32页BP网络学习第一阶段：输入已知学习样本，通过设置的网络结构和前一次迭代的权值和阈值，从网络第一层向后计算各神经元输出第二阶段：从最后一层向前计算各权值和阈值对总误差的影响，并据此修改以上两个过程反复交替，直到达到收敛：误差反向传播（backpropagation）。现在学习的是第26页，共32页BP网络设计网络层数输入层节点数输出层节点数隐层节点数现在学习的是第27页，共32页网络层数

理论上已经证明，在不限制隐层节点数的情况下，两层（只有一个隐层）BP网络可以实现任意非线性映射，BP网络隐层一般不超过两层。现在学习的是第28页，共32页输入层节点数

输入层起缓冲存储器作用，它接收外部输入数据，其节点数取决于输入矢量的维数，如以32×32大小图像像素作为输入数据时，输入节点为1024现在学习的是第29页，共32页输出层节点数

当神经网络用于模式分类时，可以二进制形式表示不同模式的输出结