人工神经网络与人机博弈

人工神经网络与人机博弈第一页，共二十一页，2022年，8月28日总目录

生物学的神经网络1

人工神经网络2

神经网络的人机博弈应用3

小实验：井字过三关4第二页，共二十一页，2022年，8月28日生物学的神经网络动物的大脑结构分为灰色的外层和白色的内层。灰色层只有几毫米厚，其中紧密地压缩着几十亿个被称作神经元的微小细胞。白色层在皮层灰质的下面，占据了皮层的大部分空间，是由神经细胞相互之间的无数连接组成。皮层象核桃一样起皱，这可以把一个很大的表面区域塞进到一个较小的空间里。这与光滑的皮层相比能容纳更多的神经细胞。

人的大脑大约含有1OG（即100亿）个这样的微小处理单元

第三页，共二十一页，2022年，8月28日生物学的神经网络神经细胞神经细胞都长着一根像电线一样的称为轴突（axon）的东西，它的长度有时伸展到几厘米，用来将信号传递给其他的神经细胞。它由一个细胞体、一些树突、和一根可以很长的轴突组成。神经细胞利用电-化学过程交换信号。输入信号来自另一些神经细胞。这些神经细胞的轴突末梢和本神经细胞的树突相遇形成突触，信号就从树突上的突触进入本细胞。大脑的神经细胞只有两种状态：兴奋和不兴奋。发射信号的强度不变，变化的仅仅是频率。神经细胞把所有从树突上突触进来的信号进行相加，如果全部信号的总和超过某个阀值，就会激发神经细胞进入兴奋状态，这时就会有一个电信号通过轴突发送出去给其他神经细胞。第四页，共二十一页，2022年，8月28日神经网络特点能实现无监督的学习—不存在导师，网络根据外部数据的统计规律来调节系统参数，以使网络输出能反映数据的某种特性。对损伤有冗余性—大脑即使有很大一部分受到了损伤，它仍然能够执行复杂的工作。

处理信息的效率极高—神经细胞采用了并行的工作方式，使得大脑能够同时处理大量的数据。

善于归纳推广—极擅长的事情之一就是模式识别，并能根据已熟悉信息进行归纳推广。它是有意识的—这个在人工神经网络中不予讨论。

第五页，共二十一页，2022年，8月28日人工神经网络模拟大脑的人工神经网络ANN是由许多叫做人工神经细胞（也称人工神经原，或人工神经元）的细小结构模块组成。人工神经细胞就像真实神经细胞的一个简化版，但采用了电子方式来模拟实现。

一个人工神经细胞可以有任意n个输入，n代表总数。可以用下面的数学表达式来代表所有n个输入：

x1,x2,x3,x4,x5,...,xn同样n个权重可表达为:

w1,w2,w3,w4,w5...,wn那么激励值就是所有输入与它们对应权重的之乘积之总和。第六页，共二十一页，2022年，8月28日如下图，网络的每一层神经细胞的输出都向前馈送到了它们的下一层，直到获得整个网络的输出为止。这一种类型的神经网络就叫前馈网络。网络共有三层（输入层不是神经细胞，神经细胞只有两层）。输入层中的每个输入都馈送到了隐藏层，作为该层每一个神经细胞的输入；然后，从隐藏层的每个神经细胞的输出都连到了它下一层（即输出层）的每一个神经细胞。图中仅仅画了一个隐藏层，作为前馈网络，一般地可以有任意多个隐藏层。

人工神经网络第七页，共二十一页，2022年，8月28日神经网络的人机博弈应用人机博弈的重要事件

1988年，“深思”击败丹麦特级大师拉尔森1989年，每秒思考速度达200万步的“深思”0比2不敌卡斯帕罗夫1993年，“深思”二代击败了丹麦国家队，在与前女子世界冠军小波尔加的对抗中获胜1996年，性能高于“深思”数百倍的“深蓝”以2比4负于卡斯帕罗夫1997年，“更深的蓝”以3.5比2.5击败了卡斯帕罗夫2001年，一家德国公司开发的国际象棋软件“更弗里茨”击败了除克拉姆尼克之外的所有排名世界前十位的棋手2002年10月，“更弗里茨”与克拉姆尼克在巴林进行“人机大战”，双方以4比4战平2003年1至2月由两位以色列电脑专家研究出的“更年少者”与卡斯帕罗夫对弈，双方3比3战平。1997年卡斯帕罗夫与深蓝2的人机大战2003年卡斯帕罗夫与更年少者的人机大战第八页，共二十一页，2022年，8月28日神经网络的人机博弈应用GeraldTesauro的西洋双六棋

西洋双陆棋是西方一种状态空间比较大的棋类游戏。1992年，IBM的工程师GeraldTesauro利用人工神经网络，编写出一款双六棋程序TD-Gammon。在本例中使用的神经网络包含198个输入节点、80个隐含节点和1个输出节点。其中输入节点输入的是棋盘的局面特征,输出的是对棋盘的评估值。

第九页，共二十一页，2022年，8月28日/massive/tdl.html#ref10有兴趣的可以参考第十页，共二十一页，2022年，8月28日五子棋在本例中用这种方法的五子棋程序采用BP神经网络来求评估值,网络即为局面评估函数f。它有56个输入节点,28个隐含节点和2个输出节点。第十一页，共二十一页，2022年，8月28日

输入节点中有28个代表计算机局面的特征,另28个代表对手局面的特征。2个输出节点分别是对计算机棋手局面与对手局面的评估,两个值相减得到对局面的评估值。莫建文等.基于TD强化学习智能博弈程序的设计与实现[J].计算机应用,2004,24(6):287-288有兴趣的可以参考第十二页，共二十一页，2022年，8月28日小实验：井字过三关介绍：

即课本第一章习题1.5中提到的tic-tac-toe。两个玩家，一个打圈(O)，一个打叉(X)，轮流在3乘3的格上打自己的符号，最先以横、直、斜连成一线则为胜。先下玩家有优势，双方无失误，将是和局。一个空白的棋盘一场游戏的过程第十三页，共二十一页，2022年，8月28日原理概述设计由九个感知器组成的单层人工神经网络输入：将棋局分布用九位的二进制数表示，每一位作为一个输入。对方用-1表示；己方用1表示；空白格用0表示。例子：1-1-101010-1输出：应该落子的位置输出为1

其余位置输出为0第十四页，共二十一页，2022年，8月28日部分输入向量对应的目标输出值部分训练样例第十五页，共二十一页，2022年，8月28日

实验利用Matlab中的神经网络工具箱来进行，将输入向量和目标输出分别保存为p_1和t_1两个文件，建立神经网络进行训练。学习速率取0.05，训练次数定为1000次。第十六页，共二十一页，2022年，8月28日训练结果

经过训练，对部分棋局能作出正确判断，但有时也会出现不正确的结果。

成功的例子失败的例子第十七页，共二十一页，2022年，8月28日网络过于简单？