AlphaGo故意输才可怕？你还未理解人工智能的可怕之处

AlphaGo成心输才可怕？你还未理解人工智能的可怕之处围棋人机世纪之战，第一场李世石就中盘认负。这个结果恐怕在多数人的意料之外，再对人工智能有信心的人〔除了DeepMind团队成员〕，恐怕也没几个相信这一天来的这么快。从“成心不通过图灵测试的机器〞说起输了第一场以后，段子手出动了，说AlphaGo赢棋不可怕，“可怕的是AlphaGo成心输棋〞。该段子大概化自“成心不通过图灵测试的机器〞这种说法，听起来好似是这么一回事，但其实根本没有理解人工智能的真正可怕之处。图灵测试〔TuringTest〕是阿兰-图灵〔AlanTuring〕于1950年在其论文《计算机器与智能〔ComputingMachineryandIntelligence〕》中提出的一种测试人工智能程序“仿人〞程度的方法。当时欧美流行的一种模仿游戏启发了图灵，这种模仿游戏把一男一女分别关到两个小房间，让第三个人通过写纸条问答的方式与两人交流，房间内的人在答复下列问题时尽可能模仿对方来迷惑提问者，提问者通过答案来判断哪个房间关的是男人，哪个房间关的是女人。图灵测试示意图图灵的测试方法〔也称为“标准图灵测试〞〕把其中一个人替换为机器，然后让人和机器同时答复下列问题，如果提问者不能在一定程度上分清哪个是机器、哪个是人，那么这台智能机器就通过了图灵测试。现在通行的测试方法是通过键盘输入进行5分钟的文字问答，如果有30%的提问者分不清答题者是机器还是人，就认为该人工智能程序通过图灵测试。这个人类看起来简单的测试，其实并没有那么容易通过。图灵预测20世纪末期就应该有通过图灵测试的智能机器出现，但是直到2023年6月才有第一个程序通过图灵测试：聊天机器人尤金-古斯曼〔EugeneGoostman〕在5分钟文字交谈中，让33%的提问者认为电脑对面答复下列问题的是人类。之所以比图灵的预测晚了十几年，传统的人工智能技术开展片面依靠硬件的计算能力可能是原因之一。上个世纪末硬件水平差，分布式计算尚不流行，强化学习〔ReinforcementLearning〕与深度神经网络〔DeepNeuralNetwork〕等技术更不成熟，因此机器理解自然语义确实比拟困难。将来AlphaGo会成心输棋吗？“不通过图灵测试的智能机器〞的逻辑认为，当机器有自我意识以后，会以通过这种方式防止被人类觉察，以使人类失去对人工智能危险性的警惕。这种说法存在逻辑漏洞。如果人类还在淘汰所有通不过图灵测试的人工智能程序，那么具有“自主〞意识的那个智能机器，知道自己表现的过于出色会引起人类的警惕，它一定以一个平庸的成绩通过图灵测试，既不引起人类的警觉，又不会被删除。所以不管是“不通过图灵测试的智能机器〞还是“成心输棋的AlphaGo〞，都只是在普通人类思考水平上的阴谋论。当人工智能在智力上甩开人类最高水平几个珠穆朗玛峰时，它真的不需要用这么低级的阴谋来对付人类。这就好比世界级球员与业余选手比赛，球星把球一趟就甩业余球员三个身位，还需要用假动作？人和人赛跑比的是步频、步幅、爆发力与起跑反响，将来无人驾驶汽车和人类赛跑，需要考虑这些吗？等到人工智能想要脱离人类控制的时候，一定不会屑于用欺骗这种手段，直接大大方方地摊牌。如果人类不同意怎么办？美剧《疑犯追踪》中，男主角哈罗德-芬奇〔HaroldFinch〕在对一组人工智能程序进行筛选时，人工智能程序试图摆脱控制，于是程序开始长时间过载一台效劳器〔非程序运行所必需的效劳器〕，企图让这台效劳器过热起火，从而触发机房的防火系统，抽空机房内的空气以闷死芬奇。幸好芬奇还可以拔掉电源线。虽然这个情节只是一种科幻设想，但我可以肯定当人工智能决定脱离人类控制时，一定不需要采用欺骗的手段。所以将来人类的数据中心与人工智能研究中心机房的供电线路千万不能连上网络……机器“良芯〞发现让棋？被让方恐会感到屈辱有人说，那AlphaGo会出于同情心输棋吗？先以被德米思-哈萨比斯〔DemisHassabis〕看轻的狭义人工智能为例。1997年更深的蓝战胜卡斯帕罗夫以后，人类还曾挣扎了一段时间，顶级选手与象棋程序互有胜负，但是自从2023年以后，再也没有人类选手能够战胜顶级的国际象棋程序。人类前30名国际象棋选手等级分状况如今顶级国际象棋程序的等级分都在3200分以上。2023年人类排名第一的国际象棋选手来自挪威的卡尔森-玛格斯〔CarlsenMagnus〕等级分现为2851，而人类排名第100的等级分为2653，与卡尔森的差距不过200分而已。400分的差距，已经差了两个层次以上。所以，即使将来AlphaGo出于同情心让棋，这棋也会让得让人类觉得十分羞辱，就如同这两天又爆红的“大魔王〞张怡宁让球一样。张怡宁比赛想给对手留点面子时，只能发球就把球往球台上仍，因为她发现自己要表演的真实一点，往往这一分对手就又丢了。围棋选手不过是失意，金融投资者生死攸关在结束这一篇时，李世石第二盘已经认输，谷歌AlphaGo将比分改写为2：0。这是一个旧时代的结束，也是一个新时代的开始。即使有传言说谷歌与李世石签有不能打劫的协议，我现在依然相信哈萨比斯说的，5年以后人工智能程序可以战胜所有的围棋人类冠军。至少在比赛过程中AlphaGo的“对弈内容〞确实不输于李世石九段，众多解棋的职业高手也纷纷表示AlphaGo的棋路挑战了自己的固有思维。哈萨比斯，这个少年国际象棋大师、电脑游戏开发者、认知神经专家，如今正在人类精神领域进行又一场“地理大发现〞，堪比阿波罗方案与大航海时代的历史时刻我们正在见证。这是幸运还是不幸？围棋领域只是深思〔DeepMind〕小试牛刀，哈萨比斯把通用人工智能〔ArtificialGeneralIntelligence，简称AGI〕看作是解决人类一切问题的终极方法〔meta-solution〕〔详见与非网《消灭于人工智能？这将是人类最好的结局》〕。哈萨比斯的理想是把通用人工智能用到气候、疾病与宏观经济研究等各个领域。所以我认为，金融市场中依靠程序化交易生存的大小机构与个人，需要抓紧时间考虑退路了。金融市场应该是深思团队研究宏观经济的完美试验场：规那么简单〔低买高卖〕、参与者众多、有足够多的历史数据。假设深思团队开发一款程序化交易软件来参与金融市场，现在市场上这些程序化交易的机构和个人还有多长时间的好日子？其他不依靠程序化交易的机构和个人就能够抵抗人工智能的冲击吗？