人工神经网络与人机博弈

1、人工神经网络与人机博弈第1页，共21页，2022年，5月20日，11点4分，星期日总目录 生物学的神经网络1 人工神经网络2 神经网络的人机博弈应用3 小实验：井字过三关4第2页，共21页，2022年，5月20日，11点4分，星期日生物学的神经网络动物的大脑结构 分为灰色的外层和白色的内层。灰色层只有几毫米厚，其中紧密地压缩着几十亿个被称作神经元的微小细胞。白色层在皮层灰质的下面，占据了皮层的大部分空间，是由神经细胞相互之间的无数连接组成。皮层象核桃一样起皱，这可以把一个很大的表面区域塞进到一个较小的空间里。这与光滑的皮层相比能容纳更多的神经细胞。 人的大脑大约含有1OG （即100亿）个这样

2、的微 小处理单元 第3页，共21页，2022年，5月20日，11点4分，星期日生物学的神经网络神经细胞 神经细胞都长着一根像电线一样的称为轴突（axon）的东西，它的长度有时伸展到几厘米，用来将信号传递给其他的神经细胞。它由一个细胞体、一些树突、和一根可以很长的轴突组成。 神经细胞利用电-化学过程交换信号。输入信号来自另一些神经细胞。这些神经细胞的轴突末梢和本神经细胞的树突相遇形成突触，信号就从树突上的突触进入本细胞。大脑的神经细胞只有两种状态：兴奋和不兴奋。发射信号的强度不变，变化的仅仅是频率。神经细胞把所有从树突上突触进来的信号进行相加，如果全部信号的总和超过某个阀值，就会激发神经细胞进入

3、兴奋状态，这时就会有一个电信号通过轴突发送出去给其他神经细 胞。第4页，共21页，2022年，5月20日，11点4分，星期日神经网络特点能实现无监督的学习不存在导师，网络根据外部数据的统计规律来调节系统参数，以使网络输出能反映数据的某种特性。对损伤有冗余性 大脑即使有很大一部分受到了损伤，它仍然能够执行复杂的工作。 处理信息的效率极高神经细胞采用了并行的工作方式，使得大脑能够同时处理大量的数据。 善于归纳推广 极擅长的事情之一就是模式识别，并能根据已熟悉信息进行归纳推广 。它是有意识的这个在人工神经网络中不予讨论。 第5页，共21页，2022年，5月20日，11点4分，星期日人工神经网络模拟大

4、脑的人工神经网络ANN是由许多叫做人工神经细胞（也称人工神经原，或人工神经元）的细小结构模块组成。人工神经细胞就像真实神经细胞的一个简化版，但采用了电子方式来模拟实现。 一个人工神经细胞可以有任意n个输入，n代表总数。可以用下面的数学表达式来代表所有n个输入：x1, x2, x3, x4, x5, ., xn 同样 n 个权重可表达为:w1, w2, w3, w4, w5 ., wn 那么激励值就是所有输入与它们对应权重的之乘积之总和。第6页，共21页，2022年，5月20日，11点4分，星期日如下图，网络的每一层神经细胞的输出都向前馈送到了它们的下一层，直到获得整个网络的输出为止。这一种类型

5、的神经网络就叫前馈网络。网络共有三层（输入层不是神经细胞，神经细胞只有两层）。输入层中的每个输入都馈送到了隐藏层，作为该层每一个神经细胞的输入；然后，从隐藏层的每个神经细胞的输出都连到了它下一层（即输出层）的每一个神经细胞。图中仅仅画了一个隐藏层，作为前馈网络，一般地可以有任意多个隐藏层。 人工神经网络第7页，共21页，2022年，5月20日，11点4分，星期日神经网络的人机博弈应用人机博弈的重要事件 1988年，“深思”击败丹麦特级大师拉尔森1989年，每秒思考速度达200万步的“深思” 0 比2不敌卡斯帕罗夫1993年，“深思”二代击败了丹麦国家队，在与前女子世界冠军小波尔加的对抗中获胜1

6、996年，性能高于“深思”数百倍的“深蓝” 以2比4负于卡斯帕罗夫1997年，“更深的蓝” 以3.5比2.5击败了卡斯帕罗夫2001年，一家德国公司开发的国际象棋软件“更弗里茨”击败了除克拉姆尼克之外的所有排名世界前十位的棋手2002年10月，“更弗里茨”与克拉姆尼克在巴林进行“人机大战”，双方以4比4战平2003年1至2月 由两位以色列电脑专家研究出的“更年少者”与卡斯帕罗夫对弈，双方3比3战平。1997年卡斯帕罗夫与深蓝2的人机大战2003年卡斯帕罗夫与更年少者的人机大战第8页，共21页，2022年，5月20日，11点4分，星期日神经网络的人机博弈应用Gerald Tesauro 的西洋双

7、六棋 西洋双陆棋是西方一种状态空间比较大的棋类游戏。1992年，IBM的工程师Gerald Tesauro利用人工神经网络，编写出一款双六棋程序TD-Gammon。在本例中使用的神经网络包含198 个输入节点、 80个隐含节点和1 个输出节点。其中输入节点输入的是棋盘的局面特征,输出的是对棋盘的评估值。 第9页，共21页，2022年，5月20日，11点4分，星期日/massive/tdl.html#ref10有兴趣的可以参考第10页，共21页，2022年，5月20日，11点4分，星期日五子棋 在本例中用这种方法的五子棋程序采用BP 神经网络来求评估值,网络即为局面评估函数 f 。它有56个输入

8、节点,28 个隐含节点和2 个输出节点。第11页，共21页，2022年，5月20日，11点4分，星期日 输入节点中有28 个代表计算机局面的特征,另 28 个代表对手局面的特征。2 个输出节点分别是对计算机棋手局面与对手局面的评估, 两个值相减得到对局面的评估值。莫建文等. 基于TD强化学习智能博弈程序的设计与实现J. 计算机应用,2004,24(6):287-288有兴趣的可以参考第12页，共21页，2022年，5月20日，11点4分，星期日小实验：井字过三关介绍： 即课本第一章习题1.5中提到的tic-tac-toe。两个玩家，一个打圈(O)，一个打叉(X)，轮流在3乘3的格上打自己的符号

9、，最先以横、直、斜连成一线则为胜。先下玩家有优势，双方无失误，将是和局。一个空白的棋盘一场游戏的过程第13页，共21页，2022年，5月20日，11点4分，星期日原理概述设计由九个感知器组成的单层人工神经网络输入：将棋局分布用九位的二进制数表示，每一位作为一个输入。对方 用 -1 表示；己方 用 1 表示；空白格用 0 表示。例子：1 -1 -1 0 1 0 1 0 -1输出：应该落子的位置输出为1 其余位置输出为0第14页，共21页，2022年，5月20日，11点4分，星期日部分输入向量对应的目标输出值部分训练样例第15页，共21页，2022年，5月20日，11点4分，星期日 实验利用Matlab中的神经网络工具箱来进行，将输入向量和目标输出分别保存为p_1和t_1两个文件，建立神经网络进行训练。学习速率取0.05，训练次数定为1000次。第16页，共21页，2022年，5月20日，11点4分，星期日训练结果 经过训练，对部分棋局能作出正确判断，但有时也会出现不正确的结果。 成功的例子失败的例子第17页，共21页，2022年，5月20日，11点4分，星期日网络过于简单？应该下这一步也应该下这一步第18页，共21页，2022年，5月20日，11点4