人工智能发展推动信息安全范式转移

1、 李勇：人工智能发展推动信息安全范式转移 【摘要】范式转移是美国科学史家托马斯库恩（Thomas Samuel Kuhn）在其著作科学革命的结构中提到的概念，是指当出现了现有理论解决不了的“例外”，竞争性的理论代替“不可通约”的原有范式。近些年，人工智能在深度学习等新算法的推动下取得了飞速发展，人工智能系统相对于传统的信息系统，具有自学习、自适应、自组织等特性。本文分析了人工智能系统可能有别于传统信息系统的特性，揭示了人工智能重塑人和信息的关系。并进一步聚焦信息安全领域，分析人工智能何以成为现有信息安全范式中的基础假设、理论、方法等方面的“例外”，提出人工智能不可避免地推动信息安全范式转移的观

2、点。根据本文作者的理解，库恩所提出科学革命的实质就是范式转移，所以范式若发生转移，对于信息安全的意义不言自明。引 言随着人类信息生产的发展，信息安全的内涵相应变化，外延不断拓展。以计算机为基础的信息系统普及应用以来，系统架构从单机系统转变到网络架构，应用范围从军事科研扩展到社会各领域，终端类型从桌面设备到移动设备，历次发展都赋予信息安全新的热点领域和难点问题。当前人工智能技术越来越广泛应用于各类应用场景， 相比于以往，信息系统和互联网产品向智能化的转变也许更加具有颠覆性，至今没有人能够断言人工智能究竟会把人类社会带向何处，这种情况甚至引发霍金（Stephen William Hawking）、

3、马斯克（Elon Musk）等人的深切忧虑。也有人提出，智能技术（IntelligenceTechnology）已经代替传统信息技术（Information Technology），正开创属于自己的新IT时代。本文基于这一略显超前的视角，以无人驾驶汽车为切入点，分析人工智能会给信息安全带来哪些新变化。中国公司的无人驾驶技术走向前台2016年9月19日，美国总统奥巴马发表署名文章无人驾驶，没错，但是同样安全（Self-driving, yes, but also safe），提出无人驾驶汽车蕴含着改变人类生活方式的巨大潜力，可以每年拯救数万人的生命，是更安全、可以被更多人利用的驾乘工具，能够减少

4、道路拥堵和环境污染。国际市场调研机构思迈公司(IHS)预测，到2035年，全球将拥有近2100万辆无人驾驶汽车。谷歌、优步、特斯拉等非常看好无人驾驶的前景，纷纷投入巨资研发。百度等中国企业，正积极参与这场以技术为主导的国际竞争，并已跻身无人驾驶领域全球领先地位。1）路试成功并展现世界先进技术水平2015年12月10日，百度研发的无人驾驶汽车在北京完成了城市、环路及高速道路混合路况下的全自动驾驶测试。途中，百度无人驾驶车实现了多次跟车减速、变道、超车、上下匝道、调头等复杂驾驶动作，完成了进入高速（汇入车流）到驶出高速（离开车流）的不同道路场景的切换，最高时速达到100km/h。从当时实验的结果看

5、，百度的技术水平达到世界先进水平，可用创造了3个中国之“最”予以概括：第一是路况最复杂，在城市道路、环路和高速路都实现了不靠人工干预的完全自动驾驶；第二是动作最全面，包括超车、高速汇入、下高速、掉头等等；第三是对环境理解的精度最高，百度自己的定位能够达到10cm的精度，大大高 于GPS定位35m的精度。2）依托技术优势，百度加大布局力度百度非常看好无人驾驶技术的应用前景。无人驾驶汽车应用于汽车共享，能大幅提高资源使用率；能提高道路使用效率，同时降低人为操作失误，增加驾驶安全；节约人的时间、空间成本;节省能源、减少污染也是这一技术的优势。李彦宏曾指出“无人驾驶车完全是人工智能的应用，已经不像车，

6、更像电脑。”目前，百度已经依托人工智能领域的先发优势获得了国际最佳的交通场景物体识别技术，拥有自主研发的基于摄像头的自动驾驶环境感知技术，包括车辆检测、跟踪、距离和速度估计、路面分割、车道线检测等多项核心技术。基于前景和现有实力，百度坚定地加大对无人驾驶技术的研发投入，在2015年12月14日宣布成立自动驾驶事业部，并公布他们接下来在自动驾驶汽车方面的战略计划：3年内实现自动驾驶汽车商用，5年内实现自动驾驶汽车量产，10年时间改变人们的出行方式。3）经过一年的研发，技术持续进步2016年11月16日，百度再次携无人驾驶汽车亮相世界互联网大会。如图2所示，有十余辆百度无人驾驶汽车在桐乡市子夜路智

7、能汽车和智慧交通示范区内首次进行开放城市道路运营，这是中国自主无人驾驶技术首次在开放城市道路运营。百度在车型选择方面有很大变化。如图6所示，和去年仅使用1台宝马不同，2016年共有三款测试车型，分别是比亚迪秦、奇瑞 eQ以及北汽的 EU260。测试车型的动力系统也由燃油发动机，转换成电能驱动，更好地满足了无人驾驶套件的能源供应需求。如图3所示，2016年，百度无人驾驶汽车的三款车型的车顶均配置一个64 线激光雷达，两侧及后面的配备 3 个 16 线激光雷达（扫描车身周围盲区）。在正前方有双目摄像头以及毫米波雷达的配置。另外，在车顶后部，还有一个用于实时定位的 GPS 模组。多项性能指标有不同程

8、度的提升。2016年8月份KITTI评测的最新成绩显示，百度无人驾驶汽车在车辆检测中排名第一，车辆跟踪6项指标中取得4项第一。在用摄像头来判断物体这项指标上，百度无人驾驶汽车的准确率由2015年的89.6%提升到90.13%，是全世界最好的。对判断行人和红绿灯的准确率也分别达到了95%和99.9%。同时，百度无人车使用的高精地图已经从10厘米级精确到厘米级。人工智能重塑人和信息的关系改变人类信息生产方式无人驾驶汽车正是多项技术相互融合的科技成果，它让人们切身体会到未来生活的变革：首先是因为智能技术的应用突破，无人驾驶让人们从另外一个角度理解汽车未来的汽车是一个带轮子的机器人，或者说是一个带轮子

9、的电脑，它的核心从机械系统转为人工智能系统。其次，百度的人工智能所采取的技术路线和传统汽车厂商迥异，是建立在海量数据计算和高清地图基础上，实时采集数据和计算分析是自动驾驶的关键。从人和信息的关系角度来讲，无人驾驶汽车等人工智能系统具有某种程度上的自主性，智能化的信息系统摆脱了对人的依赖，根据自身采集的信息作出判断进而驱动汽车行驶在真实世界的交通道路之上，与具有时序性特征的传统工业控制系统不尽相同。无人驾驶是信息技术超越传统信息领域，不需要人类的干预自主改造现实世界的为数不多案例之一，有必要去仔细分析其对人和信息的关系、人类信息生产的变革作用。1）人工智能的角度一般来讲，人工智能是研究使计算机来

10、模拟人的某些思维过程和智能行为（如学习、推理、思考、规划等）的学科。斯坦福大学人工智能研究中心尼尔逊(N.J. Nilsson)教授对人工智能的定义：“人工智能是关于知识的学科怎样表示知识以及怎样获得知识并使用知识的科学。”所以，也许从知识和学习的维度，可以尝试分析人工智能对人和信息关系所产生的影响。借鉴SECI模型展开分析，如图4所示，知识可划分为隐性知识和显性知识2类。所谓隐性知识包括信仰、隐喻、直觉、思维模式和所谓的“诀窍”；而显性知识则可以用规范化和系统化的语言进行传播，知识创造的过程实质上是隐性知识和显性知识二者之间互相作用、互相转化，知识转化的过程，这其中，SECI模型的基本前提是

11、人类的学习成长，还是知识的创新，都是处在社会交往的群体与情境中来实现和完成的。任何人的成长、任何思想的创新都不可能脱离社会的群体、集体的智慧。知识生产和转移包含4种基本模式：“潜移默化”(社会化)、“外部明示”(外在化)、“汇总组合”(组合化)、“内部升华”(内隐化)，到目前为止，人类知识生产与转移都可以用SECI模型来概括，其中人脑主导的内隐化和外在化2种模式是知识创造的关键步骤。人工智能的学习和认知模式与人类具有不同的特性。不管多聪明的人，他的后代必须从最基础的知识点学起，往往要花费十余年甚至数十年之后，才有可能在前人的基础上创造新成就。可是知识在人工智能系统之间是完全可以快速复制的，大大

12、简化了人类知识生产和转移的模式。例如百度的无人驾驶汽车采用云+端的人工智能模式，大量数据在云端进行处理、训练和学习，这些学习过程提升了整个人工智能的能力，之后会被下载到每一辆无人驾驶车。当云端的系统能力提高了，所有的车都立即有了更强的能力。再举1个例子，2014年谷歌“X实验室”的科学家们将16,000个计算机处理器联接起来，建造了一个超大规模的机器学习神经网络“谷歌大脑”。他们把这个网络放置在互联网上，任其自主学习。面对随机从1000万个以猫为主题的YouTube视频中截取的缩略图（每个视频截取1张），“谷歌大脑”使用了1组存储单元，逐步筛选出猫的共同特征，系统自主创造了“猫”这个概念，系统

13、甚至可能会找出猫的侧影图片。由此可以说明，某些层面上，人工智能技术应用打破了人在信息（知识）生产过程中的绝对主体地位，对于信息生产尤其是知识创造的社会化这一前提造成了冲击。在人工智能系统的知识创造过程中，不再能够显著地区分隐性知识和显性知识，人工智能系统是直接从数据和信息中获取知识，并且这一知识可以在系统之间迅速传播转移。2）密集数据计算（大数据）的角度由上可知，人工智能系统产生的知识更是直接来源于数据和信息，不需要在隐性知识和显性知识之间的转换进而螺旋上升。如果我们认为人工智能会在未来知识生产中扮演越来越重要角色，那么就可以推论能够有效获取和处理信息的数量，将会成为未来人类知识生产能力的决定

14、因素（这其中人工智能算法将会发挥人脑智力的类似功能）。这一点在深度学习为代表的人工智能新算法上体现的尤为明显，如图5所示，算法的实际表现与用于训练的数据量成正比，这有别于人工智能旧算法随着数据量增加的边际效应递减，更有别于人脑在信息过载时产生的负向效应。以百度无人驾驶汽车为例，汽车的人工智能有三大核心：恰当的算法、海量数据、超强计算能力，百度的无人驾驶汽车每小时产生超过100 GB的数据，如果有上万辆、上百万辆无人驾驶汽车同步运行，所产生的数据将是巨大的，给数据的处理能力提出了非常高的要求。另外，无人车需要高精地图，同等面积的高精地图是普通地图数据量的10万倍。进一步将视野从人工智能放宽到社会

15、领域，随着信息采集、存储、处理能力的增强，人类已经逐步进入到数据密集型的科学发现的新阶段。图灵奖得主、关系型数据库的鼻祖吉姆格雷(Jim Gray) 提出“科学方法的革命”，认为知识发现（科学研究）主要包含实验归纳、模型推演、仿真模拟3个范式，但是随着数据的爆炸性增长，计算机将不仅仅能做模拟仿真，还能进行分析总结，得到理论。这种数据密集型科学发现（data-intensive scientific discovery）应该从第3范式中分离出来，成为一个独特的科学研究范式。也就是说，过去由科学家从事的工作，未来完全可以由计算机来做，这种科学研究的方式，被称为第4范式。计算机从某种角度来说代替人脑

16、成为知识发现和科学研究的主角。简略地进行理论解释，信息和数据构成了人类对整个世界认识的来源。尤其是近代科学兴起以来，人类对所谓世界的认识全部是通过信息和数据，不管是宏观的宇宙还是微观的原子，不管是海洋深处还是月球表面。现在与既往的不同在于我们对外部世界的认识来源不再是感觉器官直接感受的东西，而是全部变成了数据，外部信息到达思维范围的时候预先经过了观测的手段，转化成数据。另外一个不同就是，人类对外部世界的认识也不仅仅是产生于人脑，计算机对于数据的计算产生知识的能力越来越被重视。3）互联网+的角度进一步，借用互联网+ 这一概念分析人工智能技术的社会应用。按照国发201540号的定义，互联网+是把互

17、联网的创新成果与经济社会各领域深度融合，推动技术进步、效率提升和组织变革，提升实体经济创新力和生产力，形成更广泛的以互联网为基础设施和创新要素的经济社会发展新形态。这实质上是以互联网为主体的观点，强调将人和互联网互动形成的线上（online）的网络空间，与线下（offline）现实社会加强融合。波普尔（Karl Raimund Popper）的3个世界理论可以较好地用来解释这一问题。波普尔将物理世界称为“世界 1”，将我们的意识经验世界称为“世界2”，而将书、图书馆、计算机存储以及诸如此类的逻辑内容称为“世界3”。如图6所示，在波普尔所处的时代计算机并未普及，他认为世界 1和世界 3之间无法直

18、接互动，必须通过世界 2 作为中介。当前，我们能够明显的看到在网络空间中世界 1和世界 3之间是存在大量直接互动的，网络空间和现实社会的这方面区别也决定着信息活动的效率和效果。在互联网+时代背景下，可以看到网络空间和现实社会从隔离状态走向融合，世界 3在世界 2中的网络信息系统的作用下，更加整合并发挥出规模效应，更容易被人所利用，其现实情况我们可看到大数据预测、互联网金融等社会现象。另一方面，如图7所示，世界 3将更多地参与到世界 2的改造中，现实案例包括无人驾驶、3D打印、物联网等。随着网络空间和现实社会的不断融合，人类信息活动也会随之变化，信息内容和客观物质世界不再需要人的主观精神活动作为

19、中介，即可相互作用。由此，波普尔意义上的3个世界之间的直线作用关系演变为环状作用关系。4）小结人类信息活动被彻底重塑了，人将不再是人类信息活动的唯一主体，新知识的产生和发现也不一定必须有人脑的参与，信息与现实世界之间的相互作用将不断加强。无人驾驶为例，智能感知与自动决策是其核心功能，当感知到前方有减速车辆时，智能决策系统将依据周边的环境状况，合理地决策减速尾随或变道超车。这个动态活动中，人不再是驾驶主体，而车辆由被操作体，变为车辆操作唯一主体，人车身份实现互换。进一步而言，人和信息之间关系的变化、信息生产方式的改变，会直接传导给信息安全领域，将会从多个维度重塑信息安全理论与实践。新的信息实践引

20、发信息安全范式转移托马斯库恩（Thomas Samuel Kuhn）在科学领域赋予范式新的内涵特定的科学共同体从事某一类科学活动所必须遵循的公认的“模式”，它包括共有的世界观、基本理论、范例、方法、手段、标准等等与科学研究有关的所有东西。在人工智能等技术的不断发展和深化应用过程中，人和信息的关系深刻改变了，信息安全科学的定位、内涵和外延也必然会发生变化。也就是说，新IT技术（IntelligenceTechnology）的发展和应用，信息安全的范式发生变化，实现了转移，至少体现在世界观、基本理论、研究方法等几个方面。1）世界观上的变化我们对信息安全的世界观建立在人类信息生产的方式的基础上，当前

21、人类的信息活动和实践大量（甚至可以认为主要是）依托信息系统，从根本上决定了人们对信息安全的认识。从目前普遍接受的定义来看，信息系统从技术上说就是为了支持组织决策和控制而收集（或获取）、处理、存储、分配信息的一组相互关系的组件，是由计算机硬件、网络和通信设备、计算机软件、信息资源、信息用户和规章制度组成的以处理信息流为目的的人机一体化系统。从信息生产的维度出发，这其中蕴含着2层意涵：人是构成信息系统的必要条件，是信息活动的发起者和信息系统的使用者；信息系统无法代替人脑的知识创造功能，其存在的意义是支持和扩展人和组织的信息活动的信息工具。信息安全则是针对信息和信息系统而采取的技术的和管理的安全防护

22、，保护计算机硬件、软件、数据不因偶然的或恶意的原因而遭到破坏、更改、显露。这表明信息安全是应对来自信息系统之外的侵害，信息安全的终极目标是确保按照信息系统的既定功能为信息用户提供保密、完整、可用的信息。例如信息安全等级保护管理办法中，信息系统安全等级定级依据的就是信息安全等级保护工作直接作用的具体的信息和信息系统受到破坏时，什么客体受到何种程度的侵害。然而，人工智能技术与各类信息系统相结合应用于社会各领域之后，信息安全的基本假设和前提发生了变化。信息内容、人的精神活动、客观物质世界三者之间关系，从以人为唯一中介的链式结构，转为环式结构，相互之间均可直接发生作用。因此，可以认为信息系统内涵和外延

23、都发生变化了。进一步推导可知，以往信息安全研究的基础是人脑（人的主观精神活动）作为信息内容和客观物质世界的中介，现在不同了，人不再一定是信息系统的有机组成，无需人参与其中、具有自主性的信息系统的安全问题需要重新界定，信息内容与客观物质世界直接发生作用，也会对人类产生超出传统意义的安全问题和后果。2）理论层面的变化信息安全风险的来源过去当我们评价一个信息系统非常安全时，是指能够防范外部的攻击和破坏，满足用户对信息系统的功能和性能要求，或许系统缺陷我们并不包含在安全范畴之内。未来当我们评价信息系统是否安全时，会包含更多的考量因素，安全风险可以视外部威胁，更有可能来自内部。例如，评估无人驾驶汽车系统

24、安全性时，我们会一方面考虑它抗外部风险和攻击的能力，更会集中考虑它自身的安全性，即各种极端场景下确保安全驾驶。另外，系统功能的安全性的评估体系也有待进一步研究，因为每个人只需要通过体检、笔试和路考及格就能考取驾照，但是无人驾驶汽车即便笔试和路考都达到优秀成绩而非满分，就难称足够安全；即便能够获得考试的满分，人们依然会担心黑天鹅事件的发生而否定它的安全性。安全事件侵害的机制在过去网络空间和现实世界相互隔绝、线上线下分离的时候，信息安全事件造成系统中信息的破坏、更改、显露，往往是经过人的精神活动才能产生危害影响。但是，随着智能技术伴随着互联网+、物联网、工业控制系统的同步发展，社会各领域的信息化程

25、度都有大幅提升，网络空间的安全问题可以更直接影响到现实社会，工业控制系统安全事件发生频率不断提升就是例证。安全等级评估机制目前阶段，评估的主要依据是信息系统遭遇破坏时，对哪类客体产生怎样的侵害，其本质问题是评价信息价值和信息系统重要性。未来，随着数据密集型科学发现的越来越普遍，信息的价值肯定会越来越难以评估。当前所依据的信息直接用途、用户群体特征、数据规模等现行指标必然会有所变化。3）研究方法的转换人工智能及相关技术的发展不仅仅为信息安全带来很多棘手的难题，同时也带来了研究方法的飞跃。随着软件系统规模的膨胀，传统实验测试性质的漏洞查找方式已难以为继，而病毒和木马的代码规模的相对稳定，进一步造成

26、了剪刀差。当前，百度等企业已经将深度学习等人工智能算法引入到信息安全的工作中，例如利用人工智能自动探测新型病毒，大大提高杀毒软件的防御能力，自动识别恶意软件并将其杀死在萌芽状态；利用深度学习算法对数据中心流量进行数以亿计的训练样本进行近万特征属性的分析，实现自动识别恶性攻击，大幅度降低带宽和计算资源成本。可以说，人工智能的应用将很多细分领域的信息安全研究从实验科学、理论科学阶段，直接提升到依靠密集数据科学发现的新阶段，实现了研究方法的飞跃。另一个层面，信息安全既往的研究对象是基于计算机的信息系统，随着网络空间和现实社会的融合、信息内容和物质世界的互动日益增多，信息安全学科与社会科学的交叉研究、信息安全与控制安全的融合发展都将催生信息安全新的研究方法和手段。范式转移