欧盟人工智能的政策、伦理准则及规制路径研究

欧盟人工智能的政策、伦理准则及规制路径研究2016年以来，世界各国研究机构就什么样的政策与治理方案能够促进人工智能(AI)的社会效益开发与使用并有助于减轻任何相关社会风险而展开相关讨论。经合组织称，在2020年初，“全球至少有50个国家（包括欧盟）已经制定或正在制定相关的国家人工智能战略。”并且《人工智能道德准则的全球前景》也确定了84条关于人工智能的道德与伦理准则。这些政策文件与伦理准则是适应人工智能发展新态势、发挥自身规范性力量优势做出的重要战略回应，在此基础上，人工智能被进一步定义为“通过分析环境与采取行动来展示智能行为的系统。”欧盟一直在积极讨论如何促进人工智能的发展与使用，在未来希望发展什么样的人工智能，以及如何为全球人工智能发展做出贡献。最初，欧盟的主要担忧之一是其本身的人工智能研发与应用会落后于北美和亚洲。自20世纪50年代早期以来，技术与创新一直是欧洲科学研究及技术政策一体化的主要驱动力，这同时也体现在2000年启动的《欧洲研究区发展战略与计划》，2010年制定的《欧洲2020年可持续与包容性的智能发展战略》。这种对全球竞争力的聚焦与关注一方面有助于实现资源的优化配置，但另一方面也受到了质疑与批评，保罗.克鲁格曼（PaulKrugman）在其1994年颇具影响力的文章《竞争力：一种危险的痴迷》（Competitive:AHazardousEquisition）中认为，“国家不能像企业那样竞争，并且国际经济也不是零和游戏。”为了明确欧盟人工智能战略框架及伦理准则的规划背景、特征与模式，本文尝试从比较视角分析欧盟人工智能的相应政策文件，通过考察欧盟作为全球行动者的权力基础，使用“规范力量的欧洲（NormativePowerEurope）”与“市场力量的欧洲（MarketPowerEurope）”两个概念来研究欧盟制定其人工智能政策的过程，并重点探讨以下两个问题：其一，从主要参与者及其理念出发，欧盟是如何制定其人工智能政策的？其二，相对于其他大国，欧盟是如何定位其人工智能政策的？1人工智能：欧盟政策中的定义与期望人工智能有很多定义。欧盟广泛使用的人工智能定义来自略对人工智能的定义如下：人工智能（AI）是指通过分析环境并采取行动（具有一定程度的自主性）以实现特定目标来展示其智能行为的系统。基于人工智能的系统可以完全依赖于软件，在虚拟世界中运行（例如语音助手、图像分析软件、搜索引擎、语音和人脸识别系统），或者也可以嵌入硬件设备中（例如高级机器人、自动驾驶汽车、无人机或物联网应用程序）。这一定义在欧盟后续的人工智能政策中得到进一步引用与扩展。通常，人工智能包括方法与技术，例如，机器学习、机器推理和机器人技术等，而构成人工智能的主要元素是数据与算法。一般而言，人们会进行“狭义人工智能”与“广义人工智能”的区分。当前人工智能开发的阶段被描述为“狭义人工智能”，即人工智能系统能够执行一个或仅几个特定的任务。在未来，预计将开发出能够执行大多数人类任务或活动的“广义人工智能”。欧盟政策文件中对人工智能的定义阐述表明，人们对人工智能作为一种具有广泛影响的变革性技术抱有很高的期望。虽然欧盟内外的政策制定者和其他行动者极为重视人工智能技术的变革潜力，但人工智能专家认为，目前，人工智能的雄心壮志与现实能力之间仍存在巨大差距。2欧盟人工智能政策的演变：面向欧洲的人工智能规制路径一直以来，许多欧盟成员国和机构都参与欧盟人工智能政策的制定。如表1所示，2017年-2021年，欧盟委员会先后发布了六份紧扣人工智能主题的战略与政策文件。欧盟各实施机构、专家、利益相关者的报告与指导性意见促成欧盟内部对人工智能规制的深入讨论。同时，欧盟人工智能的发展涉及许多政策领域，其中包括数字市场、内部市场以及研究与创新政策。在制定人工智能政策过程中，欧盟受到了其他国家和地区人工智能的发展以及以往欧洲一体化成功案例的启发。例如，欧盟委员会早期的人工智能政策研讨会的报告概述了来自中国、美国、日本、英国、德国和阿拉伯联合酋长国关于人工智能治理的国际倡议。表1欧盟关于人工智能的关键性政策文件年表日期文件名称2017年2月关于机器人技术民法规则的决议2018年4月为了欧洲的人工智能2018年12月人工智能协调计划2019年4月欧盟委员会成立的人工智能独立高级别专家组制定的“可信的人工智能伦理准则”2020年2月人工智能白皮书—通往卓越和信任的欧洲路径2021年4月促进欧洲人工智能的发展路径：监管提案与修订的协调计划来源：作者个人整理3欧洲议会：机器人的法律地位2017年初，欧洲议会通过了《关于机器人技术民法规则的决议》，这不仅是第一份关于人工智能的欧盟政策文件，也是全球第一份人工智能政策文件。这份文件是在关于人工智能的公开辩论的早期阶段编写的，其要点是讨论媒体关注的公众人物斯蒂芬.霍金和埃隆.马斯克对人工智能威胁发表的观点。在公众辩论的早期阶段，该会议文件围绕着人工智能的一些令人震惊及科幻情绪展开集中论述，并以玛丽.雪莱(MaryShelley)的《弗兰肯斯坦的怪物》和卡雷尔.卡佩克(KarelCapek)的机器人为开头，之后又援引了艾萨克.阿西莫夫(IsaacAsimov)1943年短篇小说《绕跑》中的机器人三定律来对人工智能设定一套法律准则和评估标准，这些法律“被视为机器人的设计者、生产者和操作员所必须遵守的规制。”在该决议中，欧洲议会要求委员会根据议会的建议提交一份关于机器人民法规则指令的提案。这个建议是：从长远来看，应为机器人创造一个特定的法律地位，以便至少能够创建一种最复杂的自主机器人，使其具有负责修复它们可能造成的任何损害的电子人的地位，并可能将电子人格应用于机器人自主决策或与第三方独立交互的情况。该建议发布后，不仅使得机器人的法律地位的确立颇具争议性，而且也受到人工智能专家与利益相关者的大量批评。一封由200多名人工智能和机器人研究人员、行业领袖以及法律与道德专家签署的致欧盟委员会的公开信称，“创造电子‘人’的法律地位将是意识形态化的、荒谬的和非务实的。”公开信的作者们强调，从技术角度来看，本建议是基于“对最先进机器人的实际能力的高估”和“被科幻小说及最近一些耸人听闻的新闻公告扭曲的机器人认知，”并且从法律与伦理角度来看，为机器人创建法律人格也是不合适的。应这一要求，欧盟委员会向议会作出回应，强调它将制定一项全面的人工智能战略，其中还将包括对现有立法的评估。应该说，这项议会决议强调的许多关于道德、就业与监管需求的观点都成为随后欧盟人工智能政策的一部分，并且该决议在很大程度上对欧盟人工智能自身发展而言具有重大意义，因为它提出了一项极具争议的关于为机器人创造法律地位的建议。另外，它同时包含了上文中提到的规范力量的欧洲与市场力量的欧洲的要素。决议根据《欧洲联盟条约》《欧盟基本权利宪章》制定的原则和价值观建立一个道德框架，这表明了对规范力量的强烈依赖。与此同时，该文件还强调了监管的必要性，这是市场力量的一个关键因素。它还关注其他与市场相关的政策，如投资和就业。4在全球竞争中的欧洲人工智能战略2017年7月，塔林数字峰会讨论了有影响力的麦肯锡全球研究所的报告，即欧盟在人工智能投资方面落后于美国和中国的相关内容，欧洲理事会邀请委员会提出欧洲人工智能的发展战略。为回应理事会的邀请和议会的决议，欧盟委员会于2018年4月开始制定欧盟的人工智能战略。这个战略提出了三个总体目标，进而成为欧盟人工智能政策的关键支柱。首先，它旨在提高欧盟的技术与工业能力，以及私营和公共部门在整个经济中对人工智能的研发与利用。具体包括：增加投资、加强研究与创新的科研投入以及数据共享，创建欧盟共同数据空间。该战略设定的目标是，在接下来的十年中，公共（欧盟及其成员国）和私人对人工智能的投资总额将达到每年200亿欧元以上。其次，该战略还旨在为人工智能带来的社会经济变革做好准备。这一目标直接解决了人工智能、自动化和机器人的主要问题之一，即它们对就业的影响。虽然这个战略提到了一些积极的方面，例如机器人做的工作可能是重复的，甚至是危险的，以及人工智能带来的新工作，但主要关注的还是如何应对失业问题并“不让任何人掉队”。具体的行动措施包括：推进教育培训系统现代化、预测劳动力市场的变化、支持劳动力市场转型、及时调整社会保障体系。最后，它致力于确保建立一个基于欧盟价值观的适当的道德与法律框架，并符合《欧盟基本权利宪章》。其中涉及到关于监管的指导，尤其是在安全与责任、利益相关者的合作和人工智能道德准则的制定等领域。该战略强调的一个总体理念是，欧洲应该倡导“一种造福人类和整个社会的人工智能发展方向”和“让人工智能的力量为人类进步服务。”值得注意的是，该战略也包含了与规范力量基本相同的要素，例如需要根据《欧盟基本权利条约和宪章》制定的欧盟价值观，以及市场力量的特征，包括监管、投资和劳动力市场政策的需要，来共同制定一个指导性的道德框架。5“欧洲制造”的人工智能：成员国之间的合作与协调在欧盟开始制定其整体的人工智能战略时，相关成员国已经或即将发布自己关于人工智能的国家战略。欧盟的人工智能战略参鉴了法国、德国和芬兰的政策举措。该战略强调成员国联合起来帮助整个欧盟在全球竞争与防止单一市场分裂的重要性。为了实现这一目标，欧盟委员会在以成员国最近的一项关于人工智能方面进行合作的宣言为基础，承诺与成员国合作制定一项关于人工智能的协调计划，该计划的确立进一步拓展了人工智能战略。在这一总体目标的基础上，这项计划还提出八项具体动议，以使成员国和欧盟委员会之间的合作更加紧密与高效，将国家和区域层面的行动措施与该计划中概述的欧盟层面的行动措施相结合。总体而言，该计划在关键领域提出了大约70项联合行动，这些领域包括科学研究、投资、市场占有、技能培训和人才培养、数据共享及国际合作等，并承诺将定期监测和更新该计划，而该计划也已于2021年进行了第一次更新与评估。此处定义的欧洲人工智能战略汇集了之前欧盟人工智能政策文件的不同元素，并突出了规范力量与市场力量特征之间的密切联系。投资政策和监管措施通常既与市场力量相关，也与作为规范力量一部分的道德和价值观密切相连，因为对人工智能的投资有望解决欧洲面临的社会问题与挑战，而监管旨在保护价值观并实施相应的伦理准则。协调计划中的以下引述总结了市场与规范要素之间的相互关系，这也是欧洲人工智能战略的主要特征：一个适当和可预测的道德与监管框架依赖于有效的保障措施来保护人们的基本权利与自由，这对于公民信任人工智能以及需要投资安全的公司抓住新的商业机会至关重要。引领道德风尚，同时促进创新，有可能成为欧洲企业在全球市场上的竞争优势。6可信的人工智能伦理准则在新兴技术领域，欧盟历来重视伦理准则的制定，希望以高标准的伦理和规制政策来重构全球新技术的发展模式。2018年，欧盟委员会成立了一个独立的人工智能的高级别专家组（High-LevelExpertGrouponArtificialIntelligence,AIHLEG），以起草与制定欧盟人工智能伦理准则的初稿。这一伦理准则是以参与式方式制定的，2018年12月公布了初稿，最终于2019年4月正式发布了《可信的人工智能伦理准则》（以下简称《伦理准则》）。这些伦理准则强调“以人为本”作为发展人工智能技术的核心要义。根据这种理念，“人工智能发展本身并不是目的，而是促进人类繁荣的一种有希望的手段，从而增进个人和社会福祉以及人类的共同利益，并带来进步与创新。”此外，《伦理准则》将“信任”与“可信赖”等术语置于文件的核心地位，这也是世界各国制定的人工智能伦理准则中广泛使用的概念之一。基于此，欧盟结合自身的价值观，将尊重人类尊严、自由、民主、平等、法治以及人权的观念融入准则之中，并提出了实现可信人工智能的三大要素：（1）人工智能应遵守相关法律法规；（2）人工智能应符合相应伦理准则与价值观要求；（3）人工智能应在技术与社会层面具有稳健性。见表2。表2可信的人工智能三大要素伦理原则核心内容合法性遵守所有适用的法律法规合乎道德性确保遵守伦理原则与价值观稳健性从技术与社会的角度来看，因为即使是出于善意，人工智能系统也可能造成无意的伤害来源：欧盟委员会，《可信的人工智能伦理准则》就具体要求而言，《伦理准则》提出了适用于人工智能系统整个生命周期，覆盖研发者、操作者、终端用户以及社会大众各类群体的七条关键要求：坚持人的自主和监管、保持技术稳健与安全、重视隐私与数据治理、维护透明度原则、坚持多样性、非歧视与公平性原则、维护环境与社会福利以及坚持可追责性原则。该准则旨在平衡不同社会群体的最大化收益和防止与人工智能系统相关的任何风险。伦理准则的构建是以欧洲价值观为基础，根据这些政策与投资建议，可以通过建立具有适当监管和投资的单一市场来实施这些准则。也有学者认为，伦理准则实际上只可能服务于短期商业利益，而不是促进价值观或长期的单一市场需求。7关于人工智能的白皮书：走向监管与规制在《2019-2024年欧盟委员会政治指导指南》中，欧盟委员会主席乌尔苏拉.冯德莱恩（UrsulavonderLeyen）承诺，在她任职的前100天内，她“将提出一项立法，即欧洲人工智能对‘人类及其伦理影响’的协调法案。”而这一承诺也直接导致2020年2月欧委会《人工智能白皮书—通往卓越和信任的欧洲路径》的发布，为成员国在尊重“欧洲价值观”的基础上实现可信赖和安全的人工智能发展提供了投资与监管的政策选项。这份文件的主要创新之处在于概述了法律与监管框架内的一系列公共政策选项，提出“明确的监管框架将在人工智能的消费者与企业之间建立信任，从而加快技术的吸收与应用。”对于这一监管框架，欧盟委员会还提出了“基于风险的规制路径”，该路径将在“有效实现其目标的同时，又不会过度限制而造成不成比例的负担”之间取得平衡。这份白皮书将监管作为对人工智能建立信任的关键要素，而为了提高卓越性，它列出了之前已经引入的一些关于人工智能投资的政策，并且还提到了欧洲绿色协议，指出“人工智能等数字技术是实现绿色协议目标的关键促成因素。”对该白皮书的批评之一是，其中遗漏了关于致命的自主武器系统的审核与监管。在欧盟开始资助人工智能国防研究和欧洲军事力量元素出现的时候，将这一主题排除在公共协商文件之外似乎是存在问题的。8欧盟在全球人工智能竞争与合作中的地位关于全球竞争与领导力的问题一直是人工智能话语的重要组成部分。人工智能开发与使用被描述为一场新的太空竞赛，美国处于领先地位，中国是一个新兴的领导者，其他国家，如英国和法国，也相继宣布了他们的领导抱负。近年来，欧盟重申了其基于自身价值观而成为全球人工智能领导者的意图。欧盟的人工智能战略指出，“欧盟能够引领开发与使用人工智能的道路，并造福所有人。”欧盟试图通过强调其伦理准则、以人为本和基于多元价值观的规制路径，将自己与美国和中国的人工智能战略区分开来。可以看出，在强调其规范性方法的同时，欧盟仍在重复竞争性的话语。然而，正如引言中提到的，这种国际竞争力的论述可能会对人们产生误导，甚至是危险的。这可能导致人工智能在政治与财务上的处于优先考量的地位，而损害其他政策和投资领域。此外，关注竞争还可能会使国际合作变得愈发困难。即使如此，欧盟仍表现出对全球合作的强烈兴趣，特别是在人工智能伦理准则方面。它一直参与着制定经合组织可信的人工智能伦理准则的相关工作，该准则后来得到了20国集团部长的认可。因此，在人工智能竞争与合作的全球舞台上，欧盟试图将自己打造成一个规范性大国——欧洲，根据其可信的人工智能伦理准则，推广其自身的价值观与以人为本的规制路径。应该说，在人工智能领域，作为规范力量的欧洲确实在经合组织和二十国集团等国际论坛上产生了一定影响，但这也使欧盟在这一领域的行动受到了越来越多的审视与监管，并遭到了欧盟内部一些伦理专家的强烈反对。9对中国的启示欧盟人工智能政策、伦理准则、规制与监管路径是欧盟人工智能战略框架的重要组成部分，是欧盟把握当前发展机遇，适应发展新态势、应对发展新挑战做出的重要举措。欧盟为此做出的努力对于同样致力于发展人工智能技术的中国有着重要的启示意