版权说明：本文档由用户提供并上传，收益归属内容提供方，若内容存在侵权，请进行举报或认领
文档简介
目录1全连接神经网络的概念01任务02任务全连接神经网络的反向传播03任务全连接神经网络的前向计算全连接神经网络的局限性04任务1全连接神经网络的概念1全连接神经网络的概念全连接神经网络(FullyConnectedNeuralNetwork,FC)是深度学习的开端，全连接神经网络是最基本的神经网络，网络参数多，计算量大，全连接即为除输入层之外的每个神经元都和上一层所有的神经元有连接。如下图是一个全连接神经网络：输入层：输入层各神经元负责接收来自外界的输入信息，并传递给隐藏层；隐藏层：隐藏层负责内部信息处理和信息变化。隐藏层可以设计为单隐层和多隐层；输出层：输出层向外界传输处理结果。2全连接神经网络的前向计算2全连接神经网络的前向计算前向计算，即一个线性的加权求和的过程，全连接层中每一个神经元的输出都可以看成前一层的每一个结点乘以一个权重系数W，最后加上一个偏置值b得到：其中，x1、x2、x3为全连接层的输入，a1、a2、a3为输出，则：3全连接神经网络的反向传播3全连接神经网络的反向传播1、反向传播算法（简称BP模型）是1986年提出的前馈神经网络，是目前应用最广泛的神经网络；2、反向传播算法是一种按照误差逆向传播算法训练的多层前馈神经网络，反向传播指误差反向传播；3、反向传播算法系统的解决了多层神经网络隐含层连接权重的学习问题，具有任意复杂的模式分类能力和优良的多维函数映射能力；4、解决了简单感知器不能解决的异或(ExclusiveOR，XOR)和一些其他问题。4全连接神经网络的局限性4全连接神经网络的局限性在用全连接前馈网络来处理图像时，会存在以下两个问题，（1）参数太多：如果输入图像大小为100×100×3，在全连接神经网络中，第一个隐藏层的每个神经元到输入层都有100×100×3=30000个互相独立的连接，每个连接都对应一个权重参数。随着隐藏层神经元数量的增多，参数的规模也会急剧增加．这会导致整个神经网络的训练效率非常低，也很容易出现过拟合。（2）难以提取局部不变性特征：自然图像中的物体都具有局部不变性特征，比如尺度缩放、平移、旋转等操作不影响其语义信息。而全连接
温馨提示
- 1. 本站所有资源如无特殊说明，都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
- 2. 本站的文档不包含任何第三方提供的附件图纸等，如果需要附件，请联系上传者。文件的所有权益归上传用户所有。
- 3. 本站RAR压缩包中若带图纸，网页内容里面会有图纸预览，若没有图纸预览就没有图纸。
- 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
- 5. 人人文库网仅提供信息存储空间，仅对用户上传内容的表现方式做保护处理，对用户上传分享的文档内容本身不做任何修改或编辑，并不能对任何下载内容负责。
- 6. 下载文件中如有侵权或不适当内容，请与我们联系，我们立即纠正。
- 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
最新文档
- 煤层气井课程设计
- 甘肃省永昌县四中2024届高考数学试题：考前冲刺打靶卷
- 甘肃省示范名校2023-2024学年高三迎三模模拟卷（4月）数学试题试卷
- 课程设计医院病人呼唤器
- plc课程设计授课计划
- 私人教练保姆劳动合同模板
- 喀什工程招投标管理新规解读
- 旅游景区节目策划助理招聘合同
- 宠物食品生产线施工合同
- 专卖店地板施工合同
- 山西省晋中市多校2024-2025学年九年级上学期期中语文试题
- 居间权益保障协议
- 安全环保职业健康法律法规清单2024年
- 2024-2025学年沪科版数学八年级上册期中质量检测试题
- 安徽省合肥市第四十五中学2023-2024学年八年级上学期期中数学试题（沪科版）
- 地 理《世界的地形》第一课时课件-2024-2025学年人教版七年级地理上册
- 第四单元《简单加、减法》（教学设计）-2024-2025学年一年级上册数学人教版
- 北师大版数学一年级上册期中考试试题
- 医院信息管理系统数据备份与恢复手册
- 6《芣苢》《插秧歌》联读公开课一等奖创新教学设计（任务式）统编版高中语文必修上册
- 2023年云南省红河州同舟社会工作服务中心招聘笔试真题
评论
0/150
提交评论