一个说明性实例

一个说明性实例第一页，共二十四页，2022年，8月28日3.1目的

这里将给出一个模式识别的简单问题，并说明如何用三种不同结构的神经网络来求解这个问题。提供一个了解如何利用上一章所给出的网络结构解决实际问题的机会。第二页，共二十四页，2022年，8月28日3.2问题和实例3.2.1问题描述某商贩有一个存储各种水果和蔬菜的货仓。当水果放进货仓时，不同类型的水果可能会混淆在一起，所以商贩非常希望能够有一台能够帮他将水果自动分类摆放的机器。假设从水果卸车的地方到货仓之间有一条传送带。传送带将通过一组特定的传感器，这组传感器可以分别测量水果的三个特征：外形、质地和重量（如下图）。第三页，共二十四页，2022年，8月28日第四页，共二十四页，2022年，8月28日

这些传感器功能比较简单。如果水果基本上是圆形的，外形传感器的输出就是1；如果水果更接近于椭圆，那么外形传感器的输出就是-1。如果水果表面光滑，质地传感器的输出就是1；如果水果表面比较粗糙，那么质地传感器的输出就是-1。当水果重量超过一磅时，重量传感器的输出为1；水果重量轻于1磅时，重量传感器的输出为-1。 然后，三个传感器的输出将会输入到神经网络。网络的功能就是要确定传送带上是什么类型的水果，这样才能把不同类型的水果分别送到相应的储存仓中。为了使问题更加简单，假设传送带上只有两种类型的水果：苹果和橘子。

第五页，共二十四页，2022年，8月28日

每个水果通过这些传感器后，就可以用一个式（3.1）所示的三维向量表示：一个标准橘子可以表示为一个标准苹果可以表示为（3.1）（3.2）（3.3）第六页，共二十四页，2022年，8月28日

对传送带上的每个水果而言，神经网络都可以接受到一个三维输入向量，并且判断是一个橘子还是一个苹果。下面讨论三种不同类型的神经网络：3.2.2感知机第七页，共二十四页，2022年，8月28日

上图给出了采用对称硬极限传输函数hardlims的单层感知机。

1两输入的情况在用感知机求解橘子/苹果问题之前，有必要研究一下两输入单神经元感知机（r=2）的能力。很容易用图示方法对其进行分析。第八页，共二十四页，2022年，8月28日

单神经元感知机可将输入向量分成两类。对于一个两输入感知机ω1，1=-1，且ω1，2=1。那么a=hardlims(n)=hardlims([-11]p+b) 所以，如果权值矩阵与输入向量的内积大于等于-b，感知机的输出为1；如果权值向量和输入的内积小于-b，那么感知机的输出为-1。这就将输入空间分为两部分。下图表示当b=-1时，感知机对输入空间的这种划分情况。 判定边界总是和权值矩阵正交，且边界位置随b的改变而上下移动。第九页，共二十四页，2022年，8月28日第十页，共二十四页，2022年，8月28日2模式识别实例橘子/苹果模式识别问题。向量输入时三维的，输入输出关系由下式描述 选择适当的b和权值矩阵元素，使得感知机能将苹果和橘子区分开来。比如当输出苹果时，希望感知机输出为1；输出橘子时，希望感知机输出为-1。第十一页，共二十四页，2022年，8月28日第十二页，共二十四页，2022年，8月28日

p1和p3两个平面就是所求的判定边界，可以分别表示为p2=0

或者权值矩阵和偏置值分别是W=[010],b=0

当输入时橘子时第十三页，共二十四页，2022年，8月28日当输入是苹果时3.2.3hamming网络

hamming网络是专门为求解二值模式识别问题而设计的。Hamming网络的目标是判定哪个标准向量最接近于输入向量。判定结果由递归层的输出表示。每个标准模式均对应递归层一个神经元。当递归层收敛后，递归层中只有一个神经元的输出值为非0值，则指明了哪一个标准模式与输入向量最接近。第十四页，共二十四页，2022年，8月28日第十五页，共二十四页，2022年，8月28日1.前馈层

前馈层用于实现每个标准模式和输入模式之间的相关检测或求内积。为了使前馈层能够完成其功能，可以用标准模式设置其权值矩阵的行，对于橘子/苹果实例而言，有偏置值向量第十六页，共二十四页，2022年，8月28日前馈层输出为2.递归层

hamming网的递归层就是所谓的竞争层。该层神经元用前馈层的输出进行初始化，此输出指出标准模式和输入向量之间的关系。然后递归层中的神经元相互竞争决定谁是胜利者。竞争后只有一个神经元的输出不等于0。竞争取胜的神经元就表示提供给网络的输入的类别。第十七页，共二十四页，2022年，8月28日递归层的每次迭代过程可以用下式表示：将椭圆形橘子为例进一步说明hamming网络机理。一个椭圆形橘子用向量表示为：第十八页，共二十四页，2022年，8月28日前馈层输出为即递归层的初始化条件。递归层的第一次迭代得到第十九页，共二十四页，2022年，8月28日第二次迭代结果为由于橘子标准向量和该输入模式下hamming距离是1，而苹果标准向量和该输入模式下的hamming距离是2，可以看出该网络识别结果是正确的。第二十页，共二十四页，2022年，8月28日3.2.4hopfield网络

Hopfield网络是有些类似于hamming网络递归层的一种递归网络，但它能有效的实现hamming网络的两层所完成的工作。Hopfield网络利用输入向量对网络中的神经元进行初始化，然后网络不断迭代直至收敛。如果网络运行正确，那么最终的输出结果将是一个标准向量。所以，hamming网络是用取值不为0的神经元表明选择的是哪个标准模式，而hopfield网络则声称一个标准模式作为输出。第二十一页，共二十四页，2022年，8月28日第二十二页，共二十四页，2022年，8月28日

指定一个解决苹果橘子识别问题的权值矩阵和偏置值矩阵Hopfield网络操作等式写成

a1(t+1)=satlins(0.2a1(t)+0.9)a2(t+1)=satlins(1.2a2(t))

a3(t+1)=satlins(0.2a3(t)-0.9)第二十三页，共二十四页，2022年，8月28日

三次迭代过程结束时，hopfield输出分别是

Hopfiel