赢李世石后,人工智能何时征服人类来自知乎大神的回答

1、赢李世石后，人工智能何时征服人类来自知乎大神的回据新华社、央视新闻消息， 3 月 9 日，全世界关注的人 机大战首场比赛结束，“阿尔法狗”（ Alpha Go ）战胜韩国棋 手李世石，李世石中盘投子认输，“阿尔法狗”胜出。 3 月 9 日，韩国九段棋手李世石与“阿尔法围棋”对弈。新华社发 有趣的是，在此之前，大多数人都相信李世石会赢，即人类 战胜人工智能。例如， 李世石昨日 （8 日）在记者会上说： “即使阿尔法围棋' 战胜了欧洲冠军，但我认为到目前为止还是人类比人工智能 强。不过听到人工智能具有了类似人类的直觉判断能力，我 倒感到有些紧张，恐怕我以 5 比 0 战胜它有点儿够呛，因为

2、 人类下棋时会有失误。” 人工智能拿下人机大战第一轮的胜利，稍后还有四轮，采取 五局三胜。李世石落败，观察者网网友表态 巧合的是，早前（ 2 月 22 日），中国围棋世界冠军柯洁、去 年以来和李世石频频交手并保持较高胜率的柯洁九段曾表 示：“其实我也不敢下绝对的结论， 我也不太懂电脑， 只能说， 从去年十月那几盘棋的内容看， 李世石肯定能以 5：0 获胜。” 柯洁 不过，作为李世石的老对手，“中国围棋第一人”柯洁九段在 今天比赛时理性分析称： “李世石的强项是后半盘的翻盘能力， 布局则是李世石最差的地方，判断力也不是太好，这对于 AlphaGo 来说是个重大利好， 因为计算机一般来说也是强在

3、后半盘。”然而，随后他在微博上霸气表示： “就算阿法狗战胜了李世石， 但它赢不了我。 ”失败后的李世石也说， 人工智能战胜人脑是 大趋势。我们也经常看到电影里机器人掌控人类命运的镜头，这是不 是空穴来风，未来加入人工智能的机器人会不会也很电影里 一样强大？新浪科技讯 北京时间 3 月 9 日上午消息，美国计算机科学家、未来学家雷库兹韦尔(Ray Kurzweil)预计，人工智能将在 2029 年比肩或超越人类智能。在观察者网评论区，读者讨论也十分热烈：下面，推送观察 者网专栏作者、知乎达人马平的文章，带大家一起思考这个 问题。马平是资深媒体人，同时是一位前工程师。从科幻小 说出现那一天起，人工

4、智能威胁人类生存就是最常见的科幻 情节。因为无论在任何文明的神话中，“造人”都是神灵的特 权。一旦人工智能开始接近人类的智慧水平，很可能意味着 人类召唤了自身无法掌握的力量。今天李世石在首轮比赛中 惨败于电脑，社交媒体上颇有不少言论对人类的未来表示担 忧。这种担心是否有道理呢？从我最近的经验看，人类对人工智能存在本能的“恐惧”是一 个客观事实，人类也的确有摆脱 AI “控制”的本能，但原因不 在于这东西太强，而是因为它还不够强。 上个月，有朋友赠了我一段时间的尼桑新车测试权，号称有 源于 NASA 的智能安全系统。 我拿到手之后， 朋友告诉我汽 车配备了新技术， 随车 AI 能自动避免追尾和撞

5、人。 然后问我 打算怎么玩，我回答说： “我必须知道如何用半秒钟关掉 AI ” 依据他的介绍，这车能辨认障碍物的距离，能发现行车轨迹 上的汽车和人，判断两者之间的相对运动速度，在我快速接 近的时候发出提醒， 提醒无效的话就紧急制动， 拉紧安全带， 在障碍物面前停车，至少能避免我以危险速度撞上去。 介绍听起来很美好，我能想象设计者大脑中的画面半睡 半醒的驾驶员，忽然穿越马路的儿童，前车紧急制动的同时 响起警报声，在撞击前 0.3 秒死死刹住了车轮，从而挽救了 1 个儿童和两辆汽车，赢得一片赞叹。 然而，作为一个交通土建专业的毕业生，作为见过千奇百怪 车祸的老司机，我却想到了另外的画面公路上失控的

6、大 卡车横扫而来，我必须迅速转入和公路相交的小路避祸。但 小路上已经停放着一辆轿车，我只有撞上去才能幸免，这时 “智能”防撞系统发挥了作用，先是尖啸后是刹车，完美地把 我拦在大卡车的毁灭路线上其实，在很多小概率事件中，汽车并不是被简单地当做交通 工具使用的。平时被视为事故的“撞击”，在特定条件下，也 可能被当成汽车的主要功能。 如果 AI 每次都在撞击前接管刹 车系统，需要破墙而出的司机将会无奈地被困，劫匪只需站 在路中间就能拦下每一辆车。我承认动作片夸大了这些小概 率事件的概率，但不可否认现实中完全可能会有类似的场景。 在这些情况下，我希望还能靠自己的大脑自救一下，而不是 在 AI 安排下“

7、安全”地等死。所以，刚拿到测试车，我就确定了测试目标如何在警报 响起之后克服 AI 干扰， 坚决地撞上去！ 当然我不会因此就去 高速公路上找人追尾，而是搭建几个能愚弄 AI 的假目标： 为此我搜罗了全部能找到的纸箱： 纸箱是用来支撑横幅的：我猜汽车设计师中也有人考虑到了 类似情况，所以在方向盘下面设置了一键关闭防撞 AI 的开关： 因此，我的测试思路非常简单，就是用纸箱配合条幅，搭建 一个有立体感的“汽车”，借此触发 AI 的警告。但在警报声响 起之后的瞬间，我将试图关闭 AI ，或是通过加油门来抵消刹 车，坚决地撞上障碍物。如果我能按照我自己的意志撞上条 幅，就算测试通过。事实证明，在练习几

8、次之后，我按关闭键的速度已经被压缩 到半秒之内，能够在自动刹车起效之前就重新夺回汽车的控 制权。如果我全然不顾警报，只靠加油来抵消制动，虽然撞 击效果有所减弱，但也基本能完成“撞上去”的任务。 下一层次的测试更现实一点。即在不得不撞过去的情况下， 到最后一刻才选择撞哪一边（比如说便宜的一边） ： 事实证明，虽然 AI 不一定每次都能做到警告并刹车， 但至少 在警告响起来之后，我还有选择撞哪一辆的权力。 这 AI 看来还算“安全”。 事后我仔细想了一下，我坚持要获得自己操控汽车的权利， 不是因为 AI 太聪明吓到了我，而是因为 AI 太“笨”，只能通 过观察前方路况，临时接管制动系统。对于侧面和

9、后方的威 胁，尽管也有雷达监测并警告，却无法纳入统一的风险控制 逻辑，不会因为后面有失控卡车就允许我撞车保命。至于拦 在车道上的行人是不是手持利刃，眼前的墙是不是阻挡我获 得自由，那更是计算机从来不考虑的因素。所以，虽然 AI 在大多数情况下可能会挽救我的命，甚至会挽救我的钱包， 我还是希望它能随时关闭，放着汽车让我自己来。 看一下历史，我的想法并不算特别。每一次有新鲜事物进入 人类社会，都会有类似的质疑声浪。火车、电灯等著名的段 子就不说了，汽车行业内就有一个非常有可比性的案例 安全带。 安全带现在是所有汽车的标准配置，大多数工业国的警察会 强制要求驾驶员使用，多数老司机也并不觉得有什么麻烦

10、。但回溯到几十年前，这个简单的小装置也曾经引起过巨大的 反对声浪。而且出发点和我担心智能防撞系统差不多剥 夺了人类选择的自由。下列截图见福特和克莱斯勒公司总裁艾柯卡自传：这段争论 是不是很眼熟？我其实非常理解反对者的立场。因为安全带 从不说话，只会在急减速的时候牢牢绑住乘客，并未给驾驶 员以“固定-松开”的选择权。这固然减少了大多数碰撞导致的 伤害，但在小概率情况下，也的确阻碍了驾驶员的行动自由 （必须解开卡扣才能再行动） 。万一出现必须尽快离开汽车 的状况， 的确不能绝对保证安全带会发挥 100% 的正面作用。 诚然，艾柯卡的观点很理性，但是，我也在理性上很相信智 能防撞系统救命的概率远远大

11、于阻碍我逃命的概率，但作为 一个凭借自由意志生存了上百万年的物种，我还是希望能时 刻拥有最终决策的权力。所以，在这个问题上讲概率论并不 能绝对“服人”，安全设施的推行除了要靠法律强制，更要在 心理上给人“选择权”，即随时关闭自动设备的权力。当年美 国能够立法强制使用安全带，也是因为在模拟火灾、爆炸环 境下做反复实验，证明了安全带可以迅速解开，让乘客摆脱 捆绑状态， 这才最终说服公众接受安全带。 （未必） 实际上， 火灾逃生实验本来并无必要，因为即便在火灾条件下，安全 带也更有利于乘客逃生。 2012 年 8 月 26 日，包茂高速公路 安塞段发生客车与运送甲醇货车追尾碰撞事故，引发甲醇泄 漏并

12、导致两车起火， 造成 36 人遇难， 3 人受伤。 事后经验尸 发现，由于未使用安全带，大多数乘客因为碰撞而昏迷，在 起火之前已经丧失了逃生能力。而在仅有的几名逃生乘客中， 恰恰有一位女士因系安全带而保持了行动能力，从而抓住了 紧迫的十几秒逃生时间。可见安全带挽救生命，和解开安全 带需要的时间关系不大。然而，公众就是需要这样的实验，我也必须确信能随时切断 AI 的电源，在踏板上控制刹车，才能从心理上接受自动防撞 系统。这就是我们人类毫无理由的自信。不过，即便是感性 认识，也是可以用理性去分析的。看到这个问题之后，我开 始审视自己的感性判断我到底恐惧的是什么？是 AI 太 “强大”么？ 仔细思考

13、之后我发现，恐惧的来源并非是 AI 太聪明，并非 AI 可以和我的大脑相连， 而是正好相反问题的源头在于 AI 不够聪明，不能和大脑相连。比如说，本来汽车已经配备了侧向和后方的测距雷达，但只 用来点亮告警灯， 不能成为 AI 判断的参数。 如果 AI 能够“考 虑”到这些外界条件，在其他方向有明显威胁的时候允许我撞 向前方，我就可以允许 AI 获得更多的汽车控制权。如果 AI 能直接把警告输入我的大脑， 让我在打瞌睡的时候忽然“看到” 撞击的可能性，并通过大脑决策来实现刹车，自然也不必为 了节约反应时间而直接控制刹车系统，不给人类做选择的机 会。总而言之，至少在现阶段，一个更“强”的 AI 会

14、让人类更放心。阿西莫夫也在短篇科幻小说 理性（又译为 推理） 中描写过类似的情节。 （全文请点击链接） 在这篇小说中， “出 生”在空间站的机器人开始思考自己的存在理由， 并创立了一 套宗教解释自己的工作。人类工作者对此先是表示恐惧，但 发现机器人并不会因此影响工作后反而欣然接受：科幻时代 （其实设定时间是 90 年代末）的宇航员最终接受了一个信 教的机器人；现实中的司机最终接受了安全带，这听起来跨 度有点大。但完全可以说两者都是广义的“AI ”，因为它们都能独立于人类大脑做出逻辑判断。安全带能在人类不干预的 情况下发现加速度异常，这本质上也是一种处理信息的方式， 也是“思考”。我们人类能制造

15、替代自己大脑的工具，可能是 我们智人打败其他人种（尼安德特人、丹尼索瓦人等） ，最 终统治地球的关键因素注意我提到的是替代大脑的工 具，而不是“工具”。北京周口店遗址博物馆的科普挂图 根据现在的考古发现和生物学观察，无论是尼安德特人、大 猩猩还是海獭，都能在一定程度上使用工具乃至制造工具。 智人比他们强，不是强在制作长矛、石器这些随身携带的工 具上，而是因为智人具有抽象思维能力，能够设计制造出人 类不在场的时候也能发挥作用的高级工具： 引自事物的起源 通过这些图我们可以发现，在智人成为独立种族的开始，我 们就已经在制造“ AI ”，来延伸我们的大脑，获得木矛石刀无 法捕获的猎物，进而称霸地球。

16、实际上，工业革命也是一个 类似的过程。瓦特蒸汽机节约的不仅仅是人的肌肉力量，更 节约了人类的大脑：机器人群体能够干人类 98% 的非机械性工作的时代，社会 会怎么样？ - 马前卒的回答自动控制系统是从 1776 年的瓦特开始的。换句话说，回到 工业革命之前的水平， 非人力机械只留下马车、 牛犁、水车、 风车才算完全靠人类工作。那个时代你怀念不？ 瓦特蒸汽机，是不是比想象的复杂许多？蒸汽机离心自动控 制器，这才是瓦特做出的最大贡献，他节约了人类的智力而 不是体力。每一个自动控制系统都起码节约了一个人。 当然，上面提到的汽车自动制动装置、安全带、捕兽夹、瓦 特调速器，加上挑战李世石的围棋软件都属于

17、“弱 AI ”，即没 有自我意识，只能按照人类设定程序处理信息的AI 。他们的强项并不在于真的去“理解”事实，而是用更高的速度处理事 务。所以我们才期盼它们越来越强再强他们也只是工具， 可以被一键关机。人类真正担心的是强 AI ，即同时具备自我 意识和高速处理能力的人工智能。前面转载的阿西莫夫小说 情节中也透出了类似的看法自创宗教的机器人可以因 为教义而为人类忠实服务，但也存在因为“教义”而损害人类利益的可能。总之，独立的意识既意味着无限的潜力，也意 味着无限的风险。对于类似的观点，我没啥明确的看法。因为“强”的原I理和功能都完全超出了我当下的想象。作为一个普通人类， 我连自己为什么有“意识”

18、，为什么有智慧都不知道，更不可 能想象一台机器如何具备类似的能力。 让我评价强 AI 是福是 祸，就像让不会骑马的原始人评价汽车的利弊一样无稽 我不能评价那些我不知道我不知道什么的东西。然而，我倒是有个笨办法来趋利避害用弱 AI 加强人类自 身，让我们来变成“强 AI ！” 我们回顾一下，为什么围棋电脑可以挑战李世石？不是因为 电脑真的理解围棋是什么东西，而是因为电脑拥有远超人类 的记忆能力和推算速度。如果我们通过植入芯片增强记忆和 计算力，通过添加传感器增强自己的信息搜集能力，世界上 第一个“强AI”可能就是我们自己！ 实际上，类似的事情我们已经在做了。这里可以看看我之前 写过的文字： 如何

19、看待百度将血友病吧归还给原吧主？是一次网民的胜 利吗？ - 马前卒的回答 一个副部级官员在台上高举自己的智能手机：你们觉得这是 什么？ 底下众人有答手机的，有答电话的，有答娱乐工具的，都被否定。最后这位 50 后的领导给出了自己的看法：这是有史以来和人类结合最紧密的机器！是人体的新增器官！ 虽然手机 互联网 搜索引擎这个“器官”和大脑的结合还非常 粗糙，但就我近年招聘经验来看，在媒体工作方面，善于用 搜索引擎的人和不会用搜索引擎的人完全就是两个物种，效 率差距远大于智人和尼安德特人的差距。如果谷歌眼镜和新 一代虚拟现实技术能做到即时从现实中抓取模型进行演算， 装备新技术的人类可能会完全甩掉那些

20、前网络时代的同类， 创造出他们永远无法理解的技术。更不要说未来通过植入芯 片分担大脑职能的人类了。 到那时候，我们有意识， 有智慧， 还有电（光）子计算机的运算速度，还怕什么“强” AI ？ 至于为人类植入新的传感器，其实我们已经在做了： 电子视觉技术让盲人见光明人工视觉系统助盲人“复明” 我们既然能把摄像头的光信号直接传给大脑（不需要眼睛这 个中介），就能在不久的将来为人类装备更多的感官，让整 个世界在我们的“眼中”透明化，甚至可以在虚拟空间中“看到” 更高的维度。普通人只能通过数学模型来研究的高维空间， 对于新一代人来说可能是“不言自明”的事实。 “生而平等”的生 物学概念到此将彻底结束。

21、 当然，这样的世界和今天的伦理学标准是有一定冲突的。在 各国神话中，有第三只眼的人类不是神灵就是怪物，总之不 是人类。如果有人能通过手指观察东西，能通过颅内硬盘调 阅百科全书，当代人看他的眼神一定不会太“亲切”。然而， 原始人看我们穿各种衣服恐怕也是类似的感受，古代人也无 法理解为什么拍照是必不可少的饭前仪式，进步本来就不一 定会被古人所理解。人类之所以是人类，就是因为我们的祖 先通过 DNA 变异获得了制造工具的能力和抽象思维能力， 我们今天修改自己的“外设”来变成超级 AI ，变异程度未必就 比祖先物种变异的幅度更大。无论我们如何看待 AI 的风险，有两个事实是确定无疑的 1 维持现有的生

22、活水平离不开 AI；2 用弱 AI 装备自己 的人类会获得竞争上的极大优势。 这意味着 AI 和人类的结合 必然会越来越更紧密。我们与其被动地接受这个新时代，不 如主动地变成超级智能生物，变得更聪明、更善于交流，更 长寿、更强大。这里我再引用一下之前的发言： 机器人群体能够干人类 98% 的非机械性工作的时代， 社会会 怎么样？ - 马前卒的回答 除了信息的存储读取，人类还需要提高信息的处理效率。拿 算术当例子，原始人和小孩子在作加法的时候都有一个本能 的反应掰手指头，也就是累加计算。 3 4 ，就是先伸出 3 根手指，再挨个掰出 4 个，最后回过头把所有手指头点一便 数，得出 7 的结果。手指头不够的话，还可以用木棍、石子 来辅助，原理上是一样的。为了避免每次计算都掰手指头，你我都必须在小学低年级作 大量的算术速算练习，直到我们把两位数的加减法变成条件 反射而不是累加的结果。从而把更大数字之间的运算分解成 一系列条件反射的累加，提高整体运算效率。又比如苏美尔 人最早的乘法是连续做加法，一位数的乘法也必须挨个加起 来，这和我们小学时学乘法原理的程序是一样的。这个方式 足够简单但嫌太慢。后来，学算术的学生就要背乘法表，背 会了之后在脑子里建立固定的数字处理程序，只要记住八八 六十四这种口诀，就不必再每