《人工智能技术风险的主要表现及成因探析综述》9800字

人工智能技术风险的主要表现及成因分析综述目录TOC\o"1-2"\h\u31724人工智能技术风险的主要表现及成因分析综述 1531第一节人工智能技术风险的主要表现 127256一人工智能引发数据泄露 17725第二节人工智能技术风险产生的主要原因 525612一人工智能技术的局限性 514438（一）人工智能算法的不透明性 511937（二）人工智能技术自身发展的局限性 6645（一）公众对道德风险认知的影响 729135（二）科研人员对道德风险认知的滞后 830468（一）人工智能伦理评价标准的缺失 929276（二）人工智能相关法律法规的滞后 10近年来，随着互联网技术突飞猛进的发展，人工智能的创新发展也越来越引人瞩目，科研人员对其研究的热情也在不断高涨。2016年，谷歌（Google）、微软（Microsoft）、亚马逊（Amazon）、国际商业机器公司（IBM）和脸书（Facebook）作为美国科技领域的五大巨头，他们联合成立了人工智能联盟，与相关科研人员和伦理学专家合作，从思想、技术等方面缓解人们对人工智能技术风险的担忧，促使人工智能的发展水平迈向更高的台阶。人工智能的出现使人类耳目一新，但是人类在享受人工智能带来的便利与经济利益的同时，也要看到它带来的不良影响与技术风险。人类必须以审视的态度来对待人工智能的创新发展，从而对其提出更高的要求。第一节人工智能技术风险的主要表现一人工智能引发数据泄露人工智能发展的一个必要条件是大数据的集合，而大数据是指那些通过传统的模式和程序系统无法对其进行有效分析、摄取和管理的极大规模量的数据。这类数据涉及范围广泛，包括个人、企业和政府数据等，一旦泄露，将会给个人、企业公司和政府部门带来巨大的风险和挑战。在大数据的支持下，人工智能技术发展迅速。由于技术发展的深度和广度不平衡，在大数据收集、管理与使用等经过的每一过程都可能存在一定的纰漏。在数据收集过程，根据不同的需求，不同程序系统所设定的收集数据的标准和精确度不同，从而就会有不符合标准的数据被剔除甚至泄露。例如，仅收集收入数据的程序就会根据个人收支情况进行筛选，将支出数据剔除，进而支出数据就可能被泄露。而且，现阶段的一些人工智能技术通过对用户信息的过度采集来实现最终目标。比如虚拟现实（VR）技术在使用过程中会收集用户面部的物理特征，从而导致用户个人隐私的公开。在数据分析过程中，同一数据在不同的算法中有不同的分析过程，因此，算法认为不重要的数据内容将不进行分析甚至剔除，导致数据泄露。比如，2017年在五角大楼建立的亚马逊S3云存储数据库中，由于人工智能程序的不匹配，三台S3人工智能服务器的数据可以“公开下载”，其中包括18亿美国主要社交论坛的个人语音记录和登录IP地址。一旦这些信息被滥用，将会给个人带来无法想象的后果。在数据管理过程中，用户的不当管理或恶意传播数据，都会导致在管理过程中的数据泄露。美国《纽约时报》在2018年3月17日报道，由于Facebook管理纰漏，一家名为“剑桥分析公司”的数据研究企业在尚未经过权威机构获许的情况收集了Facebook内超过五百万用户的隐私信息用于产品研发，从而准确预测出选民的投票。而且人工智能对于数据用户的权限设置不完善，无法识别数据的用途与使用方式，在某种程度上也会导致数据泄露。二人工智能挑战人类的主体地位人工智能是人类主体意志的客体化对象，在一定程度上将会对人类的主体性地位形成挑战。人类的主体性主要表现为其作为主体的能力、社会地位和角色。在当今时代的社会环境中，计算机程序在逻辑系统与规则方面完全超越了人类。人工智能不仅给人类社会带来了翻天覆地的变化，同时，也可能让人类陷入迷茫状态。因为理性，人类拥有语言和思维方式，可以进行推理和判断等思维活动，也会产生以主观意识为主导的心理活动。人工智能对人类智能进行模拟主要通过模拟大脑的结构和功能两种模式，从而形成计算机程序系统自身独特的认知能力与认知形式，这在一定程度上挑战了人类的主体性地位。人类在各个方面都受制于技术，身心自由被严重威胁，在某种程度上人类已成为人工智能的“奴隶”。马尔库塞（HerbertMarcuse）指出，“因为这种不自由既不是不合理的，也不是政治性的，而是对扩大舒适生活、提高劳动生产效率的技术设备的屈从。”〔美〕马尔库塞〔美〕马尔库塞：《单向度的人》，刘继译，上海：上海译文出版社，1989年，第126页。第一，自然语言方面。语言是人类大脑最具表现力的功能之一，通过语言表达，人类可以沟通交流、学习、获取信息。而人工智能专心从事建立计算机程序理解人类自然语言的能力，或通过机器语言形成与自然语言等效的沟通交流方式。随着深度学习的大力发展，人工智能凭借大数据技术解决了其语音识别的制约因素。同时，人工智能通过对长难句进行拆解分析，识别句子的语法模式，极大地提高了语言效率，因此，人工智能逐渐取代了人类在自然语言方面的优势。第二，思维方式方面。凭借理性，人类可以对事物做出逻辑、实证、经验的判断，基于人类的历史评判数据记录，人工智能可以做出理性的选择判断。通过深度学习，人工智能借助神经网络模型，在一定程度上可以达到对人类意图的理解。而且人工智能不仅具有超越人类的思维判断能力，随着其功能特性的强大，人类将会对其产生过分依赖的心理，因此，人类就失去了在判断、认知等思维方式方面的主体性地位。第三，心理方面。人工智能的本质是模拟人类智能，而人类智能的特点是人类通过心灵、意识等方式与世界相关联，主要表现为意向性问题。意向性是人类心智成熟发展的基础，也是人类主体性地位的体现。人工智能研究的一个重要组成部分就是对意向性的模拟，将意向性理解为一种分散在人类与世界之间并联系在一起的特殊的非实体属性，实现与人类心灵同样的作用。将意向性作为一种数据属性，人工智能可以通过大数据技术更深层次的模拟人类大脑。因此可以看出，在某种意义上人工智能取代了人类心灵的独特作用。根据以上分析，人工智能通过模拟人类大脑的功能和逻辑结构，完成了对在语言、思维方式和心理等方面人类独特能力的实现，人工智能与人类智能之间的界限也越来越模糊。而且随着人工智能在情感领域的持续性进展，情感机器人、虚拟伴侣等产品的研发对人类在感情方面的独特性产生巨大的影响。技术的研发就是弱化人类能力的过程。人类的语言、思维、心理已无必要。EllulJ.TheTechnologicalSystem.NewYork:Contnuum,1980,95.因此，随着人工智能的快速发展，人类的主体性地位在逐渐被取代。EllulJ.TheTechnologicalSystem.NewYork:Contnuum,1980,95.三人工智能致使社会发展失衡人工智能的每一次进步都代表了人类认知的飞跃，然而随着技术进步出现的异化问题，常常令人担忧。人工智能作为一项新兴技术，它的创新发展在一定程度上也将给人类的生存带来挑战，从而致使社会发展失衡。可以看出，人工智能所带来的已经不完全是传统意义上单纯的挑战，更多的是人类与自然的斗争，是通过对人工智能技术成果的应用，人类社会的生产生活对人类的排挤，从而引发了一系列问题，例如：失业问题、安全问题、社会秩序问题等。第一，失业问题。从第一次工业革命开始，机器生产代替手工业生产，由传统的农业社会逐渐转向为工业社会，人类的劳动力得到解放，同时也导致了大批量的劳动者失业。与工业革命相比，人工智能的技术应用是取代人类脑力劳动的过程，革命程度更深。劳动者是生产力的一个重要组成部分，但是他们正在被人工智能的技术产品所取代，劳动者就要面临失业的风险，从而人类的生活将会变得更加情绪化，失业人员的生活难以维持，社会财富分配更加不均等。因此，人工智能的技术应用将对我们的社会生产生活造成一定的影响，为社会平衡发展带来不稳定性因素。第二，安全问题。现阶段，随着互联网的覆盖范围不断扩展，人工智能在家庭、教育、医疗、交通等很多领域得到了大力发展。人工智能的安全问题主要是指在人工智能应用过程中出现的危害人类安全及环境破坏等不良后果，主要有四个方面：1、网络安全。由于互联网是开放、自由与共享的，黑客可以通过计算机网络入侵计算机程序并进行攻击，导致人工智能程序出现混乱，不能正常运行；2、信息安全。人机交互是人工智能获取信息、数据的主要途径，而这一过程可能加剧虚假信息的传播；3、经济与金融安全。人工智能通过存储并分析大量数据，可以完成那些反非法融资系统无法完成的任务。同时，系统可以通过人工智能的识别功能与检测异常功能采集金融机构的一些非正常数据，完善反非法融资系统的结构框架，避免非法融资威胁；王志伟、程之年、郝威巍、丁宏：《新美国安全中心发布<人工智能与国家安全>报告》，《防务视点》2017年第10期，王志伟、程之年、郝威巍、丁宏：《新美国安全中心发布<人工智能与国家安全>报告》，《防务视点》2017年第10期，第56-58页。第三，社会秩序问题。社会秩序是指社会处于规律性的变化中，不断向前发展进步，社会内部各个要素维持着相对平衡、稳定的状态。传统的人类生活空间是由物质与社会两部分组成的二维空间，其秩序是由人类所制定或领导的，体现为人与人、人与物之间的相互作用和影响，而社会秩序可以通过多种手段来建立，例如：政治、法律、宗教等。随着人工智能的出现与发展，计算机网络成为人类日常生活中必不可少的一部分，将人类生活空间转变为由物质、社会和网络组成的三维空间。在人工智能技术研发与应用的过程中，由于网络空间的秩序的相关法律法规与伦理规范制度的不完善，不断引发新的问题，从而可能导致人类社会秩序的紊乱。四人工智能给社会带来新的伦理问题从人类技术发展史的角度看，一项新技术的出现通常都会带来新的伦理问题。虽然人工智能的发展将受到计算机程序算法在一定程度上的制约，到目前为止，真正的“强”人工智能尚未出现，仅仅只是弱人工智能的跨越式发展，人类也开始逐渐体会到技术发展所带来的挑战。因此，人工智能给社会带来的伦理风险以及对社会稳定发展产生的巨大影响等一系列问题都将引发研究专家学者们的高度重视。2016年，美国法院使用算法孔帕（Compas）预测罪犯在未来再次犯罪的可能性，黑人被预测出在未来暴力犯罪的可能性比其他种族人群高出77%，证明了人工智能算法带来的种族歧视问题。微软聊天机器人泰（Tay）在与推特（Twitter）用户交流的过程中，口头辱骂，散布女权主义、种族主义信息等，以及人工智能股票交易软件造成数万亿美元崩盘；用于抓取汽车零部件的机器人抓住并杀死了一名男性等等。这些现象都表明，人工智能可能带来社会不公、数据鸿沟等各种新的社会伦理问题。总而言之，人工智能的技术风险通常可以出现在政治、经济、文化、社会等各个领域。在政治领域，人工智能可以针对不同选民的政治性认知提供不同的信息，干预或操控选民投票；在经济领域，通过人工智能的研发与使用，获取更多的利益，原有的经济秩序被破坏，贫富差距不断扩大；在文化领域，人类越来越沉迷于人工智能技术产品，线上聊天、购物、打游戏，人与人之间面对面交流的次数越来越少；在社会领域，人工智能的使用造成就业岗位大批量减少，社会发展不平衡；在安全领域，人工智能的使用对未来人类的生命安全造成极大的威胁。除此之外，人工智能在医疗、教育、商业等领域都会带来一定的风险。第二节人工智能技术风险产生的主要原因虽然经过了半个多世纪的发展，人工智能的发展尚未完善，人工智能的创新成果基本停留在弱人工智能阶段，真正可以进行深度学习，并且具有自我意识的强人工智能几乎不存在。在实践中，人工智能的技术风险问题时有发生，其原因有人工智能技术的局限，技术主体的道德风险认知不到位，人工智能监督管理机制不健全，人工智能相关制度规范不完善等。一人工智能技术的局限性（一）人工智能算法的不透明性现阶段人工智能的正常运行主要通过算法来实现，而算法是由计算机程序语言编写的，其中的含义与规则通常是难以理解的，因此，算法具有不透明性，这是可能引发人工智能技术风险的一个客观原因。算法的不透明性主要表现为在机器学习算法中存在的一个隐蔽层，即算法“黑箱”，在“黑箱”内部，无法得知其由输入到输出的运行机制，而根本原因主要包括：1、算法代码编写的专业性；2、机器学习算法与人类推理和认知过程的不匹配；3、企业公司或机构的自我保护或刻意隐藏欺诈的行为。这些原因都可能导致算法的不透明性。因此，在算法被用于处理解决一些问题时，可能出现令人意想不到的结果。比如，2015年，谷歌图片应用程序（GooglePhotos）的图片自动分类处理器将一名非裔美国人的照片标记为“大猩猩”（Gorillas）。伯勒尔（JennaBurrell）认为，这一带有种族主义的行为并不是因为“算法歧视”，而是因为人类是对图片的整体是立即的潜意识的视觉识别过程，机器视觉算法是将图片的整体感知转换为对局部像素方格的概率计算，在一些特定的场景中，可能就会得到与人类认知完全不同的结果，算法并不考虑人类的理解。BurrellJ.BurrellJ.“Howthemachine‘thinks’:Understandingopacityinmachinelearningalgorithms”.BigData&Society,2016,3(1):1-12.荷兰学者泰勒（LinnetTaylor）提出，“算法分组的目的可能不是访问或识别个体，而是通过识别群体的某些偏好或特征，有效地自我选择特定的干预措施，在认识论上是精确的。在此过程中，每个人包括算法设计人员可能都不知道个人数据是否被滥用或误用，现有的数据保护还尚未涉及到集体的隐私保护问题。”TaylorL,FloridiL&vanderSlootB.GroupPrivacy:NewChallengesofDataTechnologies.Switzerland:SpringerInternationalPublishing,2017,13-36.因此，算法的不透明性是人工智能创新TaylorL,FloridiL&vanderSlootB.GroupPrivacy:NewChallengesofDataTechnologies.Switzerland:SpringerInternationalPublishing,2017,13-36.（二）人工智能技术自身发展的局限性随着人工智能的发展，人类生活水平的提高，人工智能正在迅速成为我们日常生活的固有部分直接或间接地影响了每个人的生活方式，并正在塑造明天的未来。但是目前人工智能的发展还处于弱人工智能阶段，其自身还存在着一定的局限性，人类对人工智能在未来的发展方向还没有做出清晰明确的规划。与其他任何技术一样，人工智能作为人类主体意志的客体对象，在最初就与人类对立。这一局限是任何技术都必须面对的。此外，人工智能的目的是通过计算机算法对人类智能进行模拟，以展示机器的智能。因此，两个对立主体相碰撞必然会带来一些不良影响。对于人工智能自身发展的局限性，一般可以从数学基础、计算机程序、智能化形成方法、技术实现等方面来分析。从数学基础的局限来看，数学是构成人工智能设计、研发、应用、创新的基础。在人工智能创新发展过程中出现的某些问题需要完善、成熟的计算数学体系以解决。基于现阶段计算数学的发展现状，还不能够很好的满足人工智能创新发展的需要，因此，在保持数学精确性的同时，也要大力发展计算数学。就计算机程序方面而言，计算机程序系统通过一系列的算法、数据产生出的结果是“精准”，而人工智能的技术创新成果是对人类智能的模拟，以“类人”为主，在一定程度上会带有一些“感性”色彩。换句话说，人工智能之“智”主要表现在其“类人”的“感性”上，而计算机则“精准”有余，“感性”不足。在智能化形成方法方面，目前，人工智能技术产品的研究和生产还没有一套统一明确的方法，科研人员基于不同的理念、运用不同的方法、结合不同的工作原理研究出同样一款人工智能技术产品，因此，这也必然给人工智能的应用和发展带来一些混乱和局限。而技术实现的局限性植根于人工智能发展时间的短暂，科研人员相关知识储备的欠缺，其研发也存在着一定的局限性。由此可以看出，人工智能自身的局限性不仅可能阻碍人工智能的创新发展，同时，人工智能可能产生的技术风险也使人类对其表示担忧。因此，对于人工智能自身的局限性，科研人员应当以长远的眼光来对待，以寻求技术发展的持续突破。二技术主体的道德风险认知不到位（一）公众对道德风险认知的影响由于对新技术本身的认知有限，公众对技术风险的感知主要是根据以往的经验而做出的直觉判断。人类对于一项新兴技术的出现往往会持怀疑的态度，对其带来的技术风险更是极度恐惧。而人类对科学技术的认知和判断主要来源于新闻媒体的报道或自己的主观意识，在很大程度上受到社会文化、社会舆论、社会心理等因素的影响。例如，阿尔法狗与棋手李世石、柯洁的围棋大战皆以人败机胜为结局，从而引发了公众对人工智能技术产品的大讨论。很大一部分人认为人工智能的创新发展将会逐渐超越人类发展的脚步，人工智能的创新成果最终会凌驾于人类之上，威胁人类的生命安全。由此，人类对于人工智能的发展趋势表示担忧，对这种新兴技术风险感到惶恐不安，从而产生基于风险社会影响的恐惧心理。事实上，现阶段的人工智能仍处于弱人工智能的阶段，生产应用于世的人工智能技术产品都处在人类的可控范围内。即使阿尔法狗取得了胜利也并不意味着人工智能已经完全超越人类，究其根源阿尔法狗是由人类所研制的，它所擅长的围棋竞技也是由人类将算法编入其程序系统的，是由人类所操控的。因此，人工智能的技术产品是结合人类的智慧与上千年的文化积累所创造出来的。公众对人工智能误解与恐惧的最根本的原因就是公众对人工智能还没有全面透彻的了解，而社会公众对人工智能的偏见与错误认识也将间接地影响相关人员对技术风险的判断和风险防范政策的制定。从另一角度来说，一部分人仅仅只是享受在使用人工智能技术产品之后获得的便捷与利益，并没有真正深入了解技术本身可能带来的一些不良后果，对道德风险的认知滞后以及相关法律知识欠缺，导致一些新技术产品为引发危害社会的各种不法事故留下了空间，同时，也为人们的公共利益和财产安全遭受威胁埋下了隐患。因此，为了实现人工智能的可持续发展，公众应通过新闻、网络、报纸等渠道及时关注人工智能领域的相关信息，补充相关的法律知识，提高自身的道德修养与文化素质，以正确理解并积极应对人工智能的技术风险。（二）科研人员对道德风险认知的滞后由于人工智能的发展速度之快，受到公众、新闻媒体等社会各界舆论的压力。现代最伟大的物理学家之一霍金警告：“人工智能的过度发展就可能预示着人类最终被超越”。这样的预言迫使人类换个角度重新审视人工智能这项高新技术，从而将注意力从技术本身转移到相关的科研人员身上。一项新技术的问世，为了确保其在社会生活中的应用可以真正的为人类社会服务，使人类受益，必然需要具有正确世界观、人生观、价值观和高度道德责任感的科研人员来掌控从技术的设计、研发、生产到应用这一过程。“随着人工智能的飞速发展，在特定的历史条件和阶段人类自身的认知能力总是受限制的，而人类理性的有限性体现在人类对人工智能技术风险认知的滞后性”。闫坤如：《人工智能的道德风险及其规避路径》，《上海师范大学学报（哲学社会科学版）》2018第闫坤如：《人工智能的道德风险及其规避路径》，《上海师范大学学报（哲学社会科学版）》2018第2期，第42页。科研人员之所以缺乏道德责任感，主要有三个方面的原因：1、由于政治、经济利益等因素的限制，科研人员无法做出正确的决策。现阶段，政治、经济、文化、社会等因素越来越成为科技活动能否持续发展的先决条件，从而，一些科研人员为了顺从政治、经济利益等，做出可能违背伦理道德或产生不良后果的决策；2、科研人员忽视了对技术风险的预测、评估与规避。由于人类认知的有限性，人类可能无法全面了解一项新兴技术的应用给社会带来的各种问题，因此，科研人员对技术的风险评估是必不可少的。3、科研人员的科研不端行为、利欲熏心等。对实际应用和利益追求，是技术的最根本动力之所在，完全摆脱利益的技术研究几乎没有。这样，个别科研人员为了利益追求而不顾科学道德也是在所难免的。三人工智能监督管理机制不健全纵观人类社会的技术发展史，如果一项技术的产生没有合理有效的监督管理机制对其进行监管，那么这项技术在其创新发展过程中将可能出现异化，从而将会给人类社会带来一定的危害。随着人工智能的创新发展，极其显著的表现出了技术的“双刃剑”属性。一方面，人工智能具有改善人们福利和福祉的潜力，为积极的可持续全球经济活动做出贡献，提高创新和生产力，并帮助应对关键的全球性挑战。它部署在许多部门，从生产、金融和运输到医疗保健和安全。另一方面，人工智能也给我们的社会和经济等方面带来了一些挑战，特别是在经济变化和不平等、竞争、劳动力市场的过渡以及对民主和人权的影响等。因此，对于人工智能的创新发展需要完善的监督管理机制对其进行预测评估并积极有效地实施监管，否则那些监督管理的的真空地带将可能会出现一些威胁人类社会生产生活的不利因素。对于人工智能的监管从根本上说是对人工智能技术风险的防范，对人工智能创新发展的全过程的监督管理，侧重于解决人工智能带来的新的风险。然而，在传统的监管模式下，监管者专业知识储备与能力的进步已无法与技术创新发展的步伐同步，同时由于一些利益相关者的参与以及科技公司权力的增加，使得传统的公共监管机构更难以对人工智能的发展进行监管，而且目前大部分的人工智能研发与投资都来自于谷歌、微软、亚马逊等大型私营企业公司，这也加剧了人工智能的不透明性。因此，政府部门或公共监管机构必须开发新的监管模式。为了进行适当的风险分析，监管机构必须对监管目标有足够的知识和理解，以便能够对各种风险类别进行分类与应对。四人工智能相关制度规范不完善（一）人工智能伦理评价标准的缺失科学技术的发展与人类社会的发展相互促进、相辅相成。当人工智能的发展符合人类社会发展的要求和标准时，有利于其良好健康发展，为人类社会谋福利。同样，人类社会的不断发展进步也为人工智能的创新发展铺平了道路。随着人工智能在人类日常生活中的广泛应用，人类必须采取更加审慎的态度看待人工智能，从而及时防范与应对技术带来的严重不良后果。人工智能之所以会给社会带来新的伦理问题，是因为对它没有作出有效的道德和伦理评估。人工智能是一项高新技术，在此之前人类对于人工智能道德伦理规范的构建几乎是不存在的。在早期的一些哲学家和研究人工智能的相关学者虽然对人工智能的潜在技术风险做出过预测与假设，然而随着技术的持续创新与人类社会的发展，其发展现状与假设出现不一致也是在所难免的。而且，人工智能的发展步伐也已经远远超越了人类建立道德伦理评价标准的速度。科学技术的发展进步在符合社会发展的道德伦理规范时，才能朝着正确的方向健康发展。因此，由于道德评价标准的模糊与不完善，人工智能在没有规范约束的情况下飞速发展前行，给人类社会带来了诸多风险与挑战。对于将道德伦理标准嵌入人工智能的方式主要有两种：“自上而下”和“自下而上”。“自上而下”是对已建立的道德伦理原则进行复杂编码，将编码嵌入到人工智能程序系