实习报告模板计算机大作业实验等报告

1、百度文库-让每个人平等地提升自我12计算机学院专业实习报告专业名称实习题目实习时间指导教师2017年08月26日百度文库-让每个人平等地提升自我摘要/.% 1第一章开发工具./. 1第二章相关工具和开发环境/ 1相关工具1开发环境2第三章需求分析2多维图像2tWj光谱图像表木 2训练集、测试集上2分类2分类目标2分类原理3测试3测试方法3展示方法3第四章系统分析与结构设计 3卷积神经网络结构 3系统分析3结构设计4（改进） pixel-pair 结构4系统分析4结构设计5第五章详细设计5全连接的反向传播算法 5卷积神经网络 6卷积层 6子采样层6Softmax 7pixel-pair 7训I练

2、 pair 7/测试 pair 7/第六章程序编码/ 8第七章测试与运行8第八章开发技术总结8参考资料9实习总结922百度文库-让每个人平等地提升自我33本实验为解决多维图像的分类问题，在此次试验中处理的是高光谱图像，这 份报告使用了卷积神经网络进行分类。本次实习使用了两种结构的神经网络，一种是普通的将单一像素点作为一个 样本的方法，另一种使用了 Pixel-pair的方法，详见参考资料3。/ 在这份报告中，主要细述第二种方法，测试结果为第一种方法的测试结果。Pixel-pair ,基本思想是增加卷积神经网络训练过程中的数据量，以期达到更好的效果。不同于N个像素，将每个作为一个样本，这种方法将

3、N个像素两两组合，将来自不同类别的像素组成的pair作为新的一类（第0类），这样一来，样本的数目扩充为N（N-1）/2 o在测试阶段，根据图像的领域信息，选取测试像素 同其周围点组成的pair作为输入，这时运用投票策略以票数最多的一类作为分类 结果（测试过程中不考虑第0类）。第一章开发工具Matlab2015a (32bit)Matlab2015b (64bit)第二章相关工具和开发环境相关工具DeepLearnToolBox;Matlab11开发环境Matlab2015a (32bit)Matlab2015b (64bit)/系统：Windows7/ 第三章需求分析多维图像.、高光谱图像表示

4、高光谱数据可表示为高光谱数据立方体，是三维数据结构。高光谱数据可视为三 维图像，在普通二维图像之外又多了一维光谱信息。其空间图像为描述地表二维 空间特征，其光谱维揭示了图像每一像元的光谱曲线特征，由此实现了遥感数据 图像维与光谱维信息的有机融合。（1）空间图像维：在空间图像维，高光谱数据与一般的图像相似。光谱维：从高光谱图像的每一个像元中可获得一个“连续”的光谱曲线。采用 基于光谱数据库的“光、谱匹配”技术，可以实现识别地物的目的。同时大多数 地物都具有典型的光谱波形特征，尤其是光谱吸收特征。这些特征与地物的化学 成分是密切相关的。训练集、测试集训练用数据是一幅标注过每个像素点类别的高光谱图像

5、，这里是一个三维矩阵。（像素点所在列,二像素点所在行，类别）。/测试集是未进行过标注的高光谱图像（第三维是光谱）。/需要将测试集的第三维作为特征进行训练，在训练用数据里找到其类别。分类分类目标识别高光谱图像中像素点对应的实际物体（即类别）22分类原理不同物质在不同波段光谱信号下的不同表现， 可以绘制成一条关于光谱波段和光谱 值之间的曲线，根据曲线的差异，我们可以高光谱图像中不同物质进行分类。测试测试方法选取测试像素同其周围点组成的pair作为输入，这时运用投票策略以票数最多的 一类作为分类结果（测试过程中不考虑第 0类）o将所得类别与标定进行比较得到 错误率。展小方法计算整个测试集上所有类别中

6、选取一部分进行测试分类时的错误率，以错误率作 为衡量指标。第四章系统分析与结构设计卷积神经网络结构系统分析输入光谱维（特征）：从高光谱图像的每一个像元中可获得一个“连续”的光谱曲线。在这里是取了 103个波段，并对应相应波段上的强度。/输出分类结果，在这里有 9类，分类结果为softmax之后对应的概率最大的那一类。33（改进）pixel-pair结构系统分析输入将N个像素两两组合，将来自不同类别的像素组成的pair作为新的一类（第0类） 输出分类结果，在这里有 9类（除去第0类），分类结果为softmax之后对应的概率最大的那一类。44lecd into ncicrkC+l0结构设计SI1*

7、991*103第五章详细设计Miiiunh voliH2 lot llie final LabelDrop the accrcsinih ktbel i1Cl： 6 2*12*103全连接的反向传播算法反向传播回来的误差可以看做是每个神经元的基的灵敏度sensitivities （灵敏度的意思就是我们的基b变化多少，误差会变化多少，也就是误差对基的变化率，也就是导数了），定义如下：（第二个等号是根据求导的链式法则得到的）DE DE iht :=Odb du db55因为？u/?b=1,所以？E/?b=?E/?u= ,8也就是说bias基的灵敏度？E/?b=海口误差E对一个节 点全部输入u的导数

8、？E/?u是相等的。这个导数就是让高层误差反向传播到底层的神来之笔。 反向传播就是用下面这条关系式：（下面这条式子表达的就是第l层的灵敏度，就是）*=广甲/”（周公式（1）这里的“维示每个元素相乘二输出层的神经元的灵敏度是不一样的：最后，对每个神经元运用delta （即S）规则进行权值更新。具体来说就是，对一个给定的神经元，得到它的输入，然后用这个神经元的delta （即8）来进行缩放。用向量的形式表述就是，对于第l层，误差对于该层每一个权值（组合为矩阵）的导数是该层的输入（等于上一 层的输出）与该层的灵敏度（该层每个神经元的8组合成一个向量的形式）的叉乘。然后得到的偏导数乘以一个负学习率就是

9、该层的神经元的权值的更新了：66对于bias基的更新表达式差不多。实际上，对于每一个权值（W）j都有一个特定的学习率YIj°卷积神经网络卷积层在一个卷积层，上一层的特征 maps被一个可学习的卷积核进行卷积，然后通过一 个激活函数，就可以得到输出特征map每一个输出map可能是组合卷积多个输入 maps的值：这里M表示选择的输入maps的集合，那么到底选择哪些输入 maps 呢？有选择一对的或者三个的。但下面我们会讨论如何去自动选择需要组合的特 征maps每一个输出ma隙给一个额外的偏置b,但是对于一个特定的输出 map 卷积每个输入maps的卷积核是不一样的。也就是说，如果输出特征

10、map j和输出特征map k都是从输入map i'中卷积求和得到，那么对应的卷积核是不一样的。子采样层只是每个输出 map都变小了。对于子采样层来说，有 N个输入maps,就有N个输出maps,=/（，；山2（X；T） + 山down（.）表示一个下采样函数。典型的操作一般是对输入图像的不同nxn的块的所有像素进行求和。这样输出图像在两个维度上都缩小了n倍。每个输出 map都对应一个属于自己的乘性偏置3和一个加性偏置 boSoftmax/softmax-loss计算：对应于一个输入计算出了它属于每一个类别的得分数值，然后再用sigmoid函数把所有的得分数值映射成一个概率值，有了概率

11、值之后loss的计算就是对最终正确分类所占的概率求一个 LOG值。Li = -loy(工产pixel-pair训练pair将每个作为一个样本，这种方法将N个像素两两组合，将来自不同类别的像素组成 的pair作为新的一类（第0类）测试pair选取测试像素同其周围点组成的 pair作为输入，这时运用投票策略以票数最多的一类作为分类结果（测试过程中不考虑第0类）o225224Pair labelMajurit)Voting77第六章程序编码附件：源程序/ 第七章测试与运行迭代次数 1310502001000正确率0. 11111第八章开发技术总结/根据摘要提到的第一种方法的结果来看，正确率达到 %超

12、过目标值（92%, 但是第二种方法由于计算量过大，实验过程中只测试了在迭代10次情况下的结果（75位右）。88在实验过程中其实发现 MATLA即是一种做机器学习的好语言，只是比较简单 和容易理解一些，但是计算量却是很大，计算过程中太多的循环嵌套，并且难以 优化，所以用Python会更好一些。同时，调参数也是一个很麻烦的过程，在不同的网络结构下，迭代 10次的效 果大不相同，但是仍然没有找到更好的寻找合适参数的办法，在这次试验中是经 过多次试探寻找的网络结构，迭代次数，学习率等的。参考资料1Matlab帮助文档2GitHub DeepLearnToolBox:35Li W, Wu G, Zhan

13、g F, et al. Hyperspectral Image Classification Using Deep Pixel-Pair FeaturesJ. IEEE Transactions on Geoscience & Remote Sensing, 2016, PP(99):1-10.实习总结这次试验虽然结果成功了，但是过程不太满意，实验的结果是在第一周就完 成了，但是想要实现老师推荐的一种更好的算法，却最终没有得到满意的结果， 也导致一些后续的展示工作做得不太整洁美观。其实在做pixel-pair 之前就应该向老师和助教请教清楚，而且自己也应该多 思考一些，这种方法的优点是大大增加了数据量，相应的也应该预想到计算量将 很大。如果总结一下第一个星期做的 CNN实验就可以知道，网络模型的选择，各 个参数的调整都需要进行长时