人工智能与风险治理体系的重构

人工智能与风险治理体系的重构

人工智能的“替代”:大数据和算法的“创造性破坏”在农业社会，人们通过植物和动物了解世界。在工业社会，人们通过蒸汽机征服世界。在互联网时代，人们通过路由器连接世界。在人工智能时代，人们改变了世界。就像望远镜让我们能够感受宇宙,显微镜让我们能够观测微生物一样,人工智能但脱胎于现代性的人工智能风险也如影随形般发生了,数据涉及的隐私权问题频发,年初支付宝年度账单默认勾选《芝麻服务协议》被质疑侵犯隐私权,百度涉嫌侵害消费者个人信息安全被江苏省消保委提起公益民事诉讼。而算法涉及的政治伦理问题也开始显现,特朗普团队利用数以千万的Facebook数据,通过挖掘算法使总统大选获胜;世界上首起UBER自动驾驶汽车公共道路致死案也在美国亚利桑那州发生。随着平台企业将人工智能的商业逻辑推向极致,大数据和算法潜在的风险和“创造性破坏”也必将随之爆发,国家主权、生产关系、社会结构及法律秩序等关键议题都面临着“颠覆式重构”。这集中体现为隐私与数据权、数据歧视、伦理与人格尊严、生态、就业、贫富两极化、国家能力及国家安全等系列问题。正如马斯克所说:“人类下一个生存威胁恐怕就是人工智能。对于人工智能应该在国际或者国家层面上有相应的监管措施,以防人类做出不可挽回的傻事来。”基于此,笔者主要讨论的是人工智能的风险以及人类的法律应对。一方面,以费雪的“行政宪制主义理论”一、心翼翼在汽车中的驾驶与驾驶生活在人工智能时代,不像是处在一辆被小心翼翼控制并熟练地驾驶着的汽车之中,更像是坐在朝向四方疾驰狂奔的不可驾驭的野马身上,胆战心惊,更不知道未来会发生什么。(一)人工智能实践中的问题在一个到处充斥着数据的“人工智能时代”,人类社会正在从“原子世界”向“比特世界”演进,不断演绎着“人是生而平等的,却无往不在枷锁之中”的事情,人工智能赋予了人类很大的自由,人类实践着空间维度的自由,甚至开始追求时间维度的自由,但过于泛滥的大数据却给予了人类太多的选择,能力有限的人类变得如同遇到洪水猛兽般不知所措。这就是未来社会的不可预测性,“被动自由”问题变得日益突出。这主要由以下原因导致:第一,大数据的“全体性”“混杂性”及“相关性”必然带来的是风险的不确定性。在小数据时代,人们受限于技术,只能选择分析随机样本;但在大数据时代,收集与分析全样本是现实可行的。大数据中的“大”非绝对意义的大,而是指全数据;第二,算法的不可预见性也直接导致了风险的不确定性。拥有强大算法能力的人工智能决策系统则不同,它能够在短时间精确计算所有可能性的基础上,选择机器认为的最佳方案。而人工智能决策系统并不受预置的价值观念、经验法则、道德法制等因素的制约,它们很有可能做出人类根本不可能考虑的实施方案。这就是算法带来的不可预见性。由此,尽管人类制造了人工智能,但我们却无法预见到人工智能最终的决策选择。随着深度学习技术的进步,人工智能行为的不可预见性问题更加凸显,而且程度不断加深。一个具有自主学习能力的人工智能系统,实践中大数据的喂养使其愈发进化,使得最细心的制造者都没有办法控制或预测指数级升级的人工智能的决策过程及决策结果,这就是一个黑箱。第三,架构的封闭性更加剧了风险的不确定性。网络“性质”并非由上帝的旨意来决定,而仅仅是由它的架构设计来决定。(二)人工智能与人的关系“自然存在度在世界流变体系中呈现为逐层递减的分布趋势”,“愈进化的存在物其存在度愈低……它可以显示某种相对活跃或较为主动的存在‘能力’,却不得不借助于日益精巧的求存能力来为日益衰落的‘自在’自负其责。”第一,强自主性带来了失控性问题。与人类早期科技不同,人工智能的本质特征是以行为自动化为基础的机器决策自主化。这种自主化有强弱之分。以自动驾驶为例,人类对于3级以上的具有自主性决策能力的人工智能系统的监管将是非常困难的。第二,人工智能研发的隐秘性和分散性加剧了失控性。与核能、转基因等传统风险源不同,人工智能的研发不需要建造大量的基础设施,不需要雇佣大量的员工,甚至不需要购置生产设备,只需一台电脑或一部智能手机即可。因此,大量初创科技公司或个人都从事于人工智能行业,他们甚至可以在全球的每一个角落随时随地进行研发。这种物理上的隐秘性和分散性使得监管机关很难确定是谁以及在何处制造潜在的威胁,社会风险由此不断集聚。(三)人工智能风险在“制度”层面的重构与财富一样,前现代社会的风险分配是附着在阶级模式上,只不过是以颠倒的方式进行:财富在上层聚集,而风险在下层聚集。由此,为了防范人工智能带来的诸多风险,在不阻碍创新的前提下重构法律治理体系显得尤为重要。从这个意义上说,我们理应观察科技风险治理对国家和社会、政府和市场的关系演变以及法律体系历史变迁的影响,这也是行政法学的重要任务。二、人工智能能否成为治理风险的最佳手段“这是以往的哥白尼革命、达尔文革命及神经科学革命中不存在的,人类在宇宙中的特殊地位受到威胁,人类已不再是信息圈毋容置疑的主宰,机器开始替代我们执行越来越多的原本需要人的思想来解决的任务。”那么,人工智能的风险到底能不能被治理?“某只看不见的手正在建造一种与网络空间诞生时完全相反的架构,这只看不见的手,由政府和商务共同推动,正在构筑一种能够实现最佳控制并使高效规制成为可能的架构。”而“技术风险争论并不单单是一个个不相关联的技术或伦理上的不同意见,它关系到政府机构应当如何认定和理解技术风险并采取相应的措施”,(一)决策能力:决方案是促进科学决策或专家决策该进路主张科学和专业知识是人工智能风险决策的主要依据。“技术问题的解决方案就是推动和促进科学决策或专家决策……据此,国家须要保证风险决策尽可能地客观,保证决策者是其专业领域的专家……科学需要被带入政治过程、带入规制过程、带入法庭,这样,技术风险才能得到恰当的理解。”(二)“科学的‘客观”该进路主张民主和伦理等价值作为人工智能风险决策的主要依据。“科学的‘客观性’实际上是给意识形态披上伪装斗篷,而且风险决策关系到共同体民众整体上意愿怎样生活。因此,科学只是一个有限的决策工具……国家应当采取更为民主的应对风险的进路。”(三)人工智能风险治理的目标无论是科学进路,还是民主进路,法律在人工智能风险治理中的作用都被描述成简单工具性的、无关紧要的或者会起妨碍作用的。事实上,人工智能风险治理的主要目标如下:保护个人数据隐私、安全及相关权益;抵御可能的集体风险,维护国家安全、公共安全及社会稳定;在个人数据权益保护和社会自主创新之间实现平衡。为了实现上述目标,我们需要重构一个风险治理体系,而核心问题是政府和法律的作用。该体系的特征如下:(一)组织社会的自治。在现代社会,我国由于网络的非开放性架构导致了人工智能风险治理结构的封闭性,具体表现为“行政主体—行政相对人”的固定规制结构,这种封闭性治理结构极大地增加公众的存在性焦虑及风险的社会可接受性。在抽象体系的交汇口,连接公众与信任关系的当面承诺,通常表现出明白无误的可信任性与诚实性,并伴随着一种“习以为常”或“镇定自若”的态度。(二)政府与社会的问题面对着以复杂、不确定性和失控性为特征的人工智能风险,我们需要一种整体性的风险治理体系,即应当从中央与地方、政府与市场、立法与行政、国家与社会四个面向,以开放和多维度的方式来重构治理结构,意在实现政府、市场、社会及公众之间的一个新型社会,一个更开放的社会,一个权力分享的社会,一个网状的社会。具体来说,对于人工智能的风险治理,我们要实现从单维度到多维度的转变,我们不仅需要政府的规制,也需要市场的自发秩序;我们不仅需要全国人大的立法规制,也需要国务院的行政规制;我们不仅需要中央政府高屋建瓴式的领导性规制,也需要地方政府对症下药式的自主性规制;我们不仅需要国家的外在强制性规制,也需要包括平台公司在内的社会自我规制。(三)从向权的角度限定行政法学模型传统的风险治理结构的特征往往是政府向市场、行政向立法、中央向地方、国家向社会的单向权力运动或放权,但对于人工智能的治理,我们需要一种双向的权力(利)运动模式,即承认上述单向运动的合理性和有效性的同时,还需要一种反向的权力(利)运动形式,即市场向政府、立法向行政、地方向中央、社会向国家的鲟鱼回归式的权力(权利)运行,这一点从某种意义上更为重要。由此,现有的以追求秩序行政为目标,以法律保留原则、法律安定性原则和法律明确性原则为基石的封闭式行政法学理论显然不足以抑制人工智能带来的风险。我们无法再以绝对性、确定性、统一性、可计算性为前提的法学理论来构建前人工智能时代的法律秩序,我们需要一种以“开放与分享”为基本特征的整体性四维双向风险治理体系。三、治理的模式分类根据政府参与的深度和广度,对于人工智能风险的治理大致可以分为私法模式和公法模式,私法模式以市场为基石,公法模式则以政府为基石。而政府与市场的关系则是四重双向风险治理体系的第一维度。(一)人工智能赋能政府建设正向运动的产生原因是什么呢?由于包括技术和效率等国家能力的欠缺,以及基于经济便利和政治因素的考量,政府在很多情况下会考虑通过企业力量和市场机制来实现人工智能行业的发展以及对其风险的防范。但“未来社会的生产部门主要由少数的从业者、机器人以及人工智能共同完成,而愤怒的失业者则构成了社会中的不安定因素”。在政府放任的“野蛮生长”阶段,“非法兴起”使得市场和平台公司等商业力量迅速成为人工智能发展的主要推动机制。以此为契机,我国在自动驾驶、语音及人脸识别、智能投顾、机器人等人工智能领域都取得了长足进步;以深度学习为代表的机器技术开始进入政府的智慧城市建设;206工程强势进入上海法院,人工智能开始成为司法机关重要的辅助决策系统,甚至被认为是法院的未来图景。以“政府数据开放”为例,政府与企业力量、市场机制实现深度融合的方式如下:第一,政府和企业的全方位战略合作。如上海市政府与腾讯公司签订了战略合作框架协议,共建智慧城市。双方通过云计算和大数据能力,推动信息化服务产业链条的完形,以及在社会信用管理等领域进行大数据技术的探索。(二)人工智能时代的隐私保护作为人工智能风险治理维度之一的政府和市场关系,往往会经历双向运动。“现代社会的原动力是由一双重倾向支配着:一方面是市场不断的扩张,另一方面是这个倾向遭到一个相反的倾向———把市场之扩张局限在一个特定的方向———的对抗。这一对抗自律性市场危害性的社会保护倾向非常重要。”那么,这种反向运动的产生原因是什么呢?自生自发的市场秩序从来都是乌托邦,人工智能带来的巨大风险自然也不能由市场机制本身所能化解,而市场机制自身所带来的外部性却日益显现,具体表现在:第一,隐私权。身处后隐私时代的我们,人人都变成了“透明人”,并深陷于一个巨大的“黑箱社会”之中。“社会个体不知道自己有多少信息被记录了,这些信息会传播到什么地方,也不知道哪些人会使用它,使用这些信息的目的何在,更无从知道这些信息的泄露会产生怎样的后果,依据这些信息所作的判断是否准确,是否存在偏见或破坏性?”就人类而言,时间是最好的疗伤剂,遗忘是常态,记忆才是例外。但随着人工智能时代的到来,这种平衡被打破了。往事像炫目的刺青一样永远刻在我们的数字皮肤上,洗也洗不掉!随着海量数据存在越来越廉价的云存储器上,平台企业对数据的获取成本远远比选择性删除某些需要被遗忘数据的时间成本要低得多。于是,“在信息权力与时间的交会处,永远的记忆创造了空间和实践圆形监狱的幽灵。完整的数字化记忆摧毁了历史,损害了我们的判断和我们及时行动的能力”。隐私的传统保护模式主要是一种私法机制,采取的是目前仍旧在世界广泛流行的严格的“告知-许可-例外”权利模式。虽然隐私保护的对象大致经历了从住宅到人、到信息再到数据的转变,但不变的是在这个过程中市场始终起到了基础性的配置作用。但在人工智能时代,这种私法保护模式将面临着越来越多的局限性:其一,不管是告知与许可、模糊化还是匿名化,这三大传统的隐私保护策略都将失效。第二,伦理问题。不管我们是否承认,“一切被记录,一切被监管”的人工智能时代已经来临,数据开放带来的伦理问题若隐若现,具体表现在:1.大数据和高级算法可能会使所有人丧失了未来的自由选择权。当医疗数据集比医生更了解病人身体状况、医疗病例和医疗方法时,绝大多数病人的选择很可能是抛弃医生,而选择相信精确算法基础上的人工智能;当基于高级算法的数据集能够准确预测员工未来几年的能力值、忠诚度、经济贡献值以及生育计划的话,公司会选择据此提前解雇某些可能成为负资产的员工;当基于高级算法的健康数据集能够预测某人未来的健康状况时,那么没有保险公司愿意接受他的人寿保险申请;更为恐怖的是,当基于算法的信用数据集可以预测某人未来犯罪的可能性时,公安部门可能会以“预防犯罪”为名提前干预他的自由权利。大数据的高速流动和再利用也许可以“打造一个更安全、更高效的社会,但是却否定了我们之所以为人的重要组成部分———自由选择的能力和行为责任自负。大数据成为了集体选择的工具,但也放弃了我们的自由意志”。2.大数据和高级算法可能会带来数据歧视问题。数据表面上看是中立的,似乎并不涉及价值判断,但在数据商业化过程中,一旦冷冰冰的政府数据加上高深理性的算法,数据歧视的产生可能就不可避免了。当健康大数据可以基本准确预测某位孕妇可能怀的是女孩,该孕妇可能会据此选择堕胎,这是典型的性别歧视;当司法大数据推测黑人的犯罪率较高或阿拉伯人成为恐怖分子的可能性较高,那么监管部门可能会对他们重点监管,甚至提前预防犯罪,而有些公司也可能会据此拒绝雇佣他们,这就是典型的种族歧视和职业歧视;当电商平台根据消费大数据,用高级算法作一个精确的推荐系统,如收入较低的顾客浏览此平台时,非常多的打折信息会不断跳出来骚扰,又如平台给“经常打好评”和“很少退货者”寄送假货,而某旅游网站的“同房不同价”,这是典型的消费歧视。这就是人工智能时代“开放的大数据”加上“复杂却差异化的算法”带来的歧视,这是商业领域隐匿的“穷人与狗不得入内”。以上市场外部性亟待政府的反向运动通过保护性干预来解决。具体包括:1.建议政府通过立法方式重塑“公正”“合法推定原则”及“无罪推定原则”等概念。在充斥着“过去决定未来”及“数据预测未来”的人工智能社会,政府需要重新定义公正的概念,“个人动因的保护”应成为公正的新内容。人们应该只为他们的行为负责,而不能为未来的趋势或倾向负责,应当坚决杜绝政府或企业依据大数据预测的行为而非真实的行为对人们进行评级或奖惩。只有这样,自然人在法律上才是作为真正的“人”来对待,他们有行为选择自由和通过自主行为被评判的人。这是人工智能时代的“合法推定原则”及“无罪推定原则”的新含义。2.建议政府通过立法的方式积极推动企业算法的公开、公平和公正等特别保护措施。对于政府行为的合法性和合理性,法律设置了非常详尽的实体法和程序法的规定。但对于同样涉及我们每个人的权利和自由(甚至我们的未来)等重要利益的企业决策和评价,法律却没有任何限制性规定,这在法理上是说不通的。因为商业算法会直接影响到我们每个人的利益,所以企业不仅要遵循公开原则,向全社会无条件公布算法的具体内容;企业还要遵循正当程序原则,不能既作算法的评分裁判者又作算法的事实参与者;企业还要遵循可辩驳原则,企业在对用户作出不利的评价之前,必须给用户辩驳和说明理由的机会。总之,市场向政府的反向运动在法律上主要体现为公法模式。这种风险治理模式是通过政府有意识的保护性立法和政府干预手段而实现。它强调的是政府的强力介入,通过详尽规则的出台,政府的人为设计甚至是政府的制度性导向来实现人工智能风险的治理。这种模式中起主要作用的公法机制,往往是显性的。以欧盟为例,对于人工智能涉及的个人隐私等权利保护,成员国并非依赖私法权利体系及个人司法救济来实现,而主要通过公法机制来实现。“从《数据保护指令》到《统一数据保护条例》,欧盟一直致力于建立‘行业行为准则+法律强制性规范’的双重规范体系和‘数据控制者自律+政府数据监管机构的监督管理’的双重管理体系,尤其是新的条例要求欧盟各成员国均要建立独立的数据监管机构,建立数据主体向监管机构投诉、受理及处理的一整套完备的行政救济制度框架。”四、国家:培育人工智能风险预防能力人工智能的风险治理应当以公民基本权利的保护为根本出发点,基于人工智能风险预防特征,考察不同国家权力在手段与功能上的配置,实现治理责任的转移和优化。(一)人工智能风险标准制定中行政权的复杂性在人工智能风险治理的职能分工中,行政机关因其权力的独特性承担了越来越多的责任。由此,立法向行政放权的正向运动开始启动,具体有三种方式:通过《立法法》及其他法律的明文授权,授予行政机关广泛的行政立法权;通过法律文本中的不确定概念赋予行政机关更多的自由裁量权;通过设置“风险预防原则”赋予行政机关更多的事实上的风险决策权。而这个正向运动主要是由行政的以下特性决定:第一,主动性及调动资源的能力。“行政的作用在于形成社会生活、实现国家目的,特别是在福利国家或社会国家中,国家的任务更为庞杂而繁重,行政往往必须积极介入社会、经济、文化、教育、交通等各种关系人民生活的领域,成为一只处处看得见的手,如此方能满足人民和社会的需要。”人工智能风险标准的制定、评估及反馈需要查阅和收集大量相关的风险信息。这类相关信息往往涉及人工智能风险的法律性质、影响的范围以及政府治理的法律后果,甚至可能直接关系到人工智能项目的生与死。第二,专业性。在时间和空间分离的巨大跨距之中,脱域机制通过将社会关系从它们所处的特色的地域“情境”中提取出来,使得这种时空延伸成为可能。第三,灵活性。与立法机关、司法机关相比,行政机关在机构组织形式、行政负责人的挑选与任期、行使职权的方式等各方面具有更大的自由裁量空间和更多灵活性。事实上,行政机关依据《立法法》拥有了广泛的立法性权力,依据《行政复议法》拥有了处理法律纠纷的司法性权力,而且还能发挥其实施法律的传统国家作用。这种“三位一体”的行政权所体现的灵活性对人工智能的风险治理意义重大。风险标准制定中的核心问题是风险的可接受性,这不仅需要考虑特定的科学评估及客观事实,而且也要关注不同社会阶层的社会利益和政治关怀。事实上,立法机关虽然是最民主的,但其不具备处置具体风险的专家系统、机构能力和时间;同样法院也不具备专家系统,不具备可用来收集风险信息和商谈的手段,更缺乏主动对特定风险的持续监管与及时反应的能力。(二)人工智能风险治理中行政自由裁量权的法理构造由于行政缺乏民主正当性,“行政立法”“行政司法”及广泛的“行政自由裁量权”存在合宪性上的先天性缺陷,行政这个过度膨胀的当代宪制国家“尴尬传家宝”面临着“鸠占鹊巢”的嫌疑,这样一种强大的利维坦式国家作用令人感到不安且充满了法律争议。于是,一场保护性的反向运动应运而生,核心问题是如何控制人工智能风险治理中的行政自由裁量权,而这正是法律的主要功能。这种法律的作用本质上是一种行政宪制主义的形式,重点是如何把治理人工智能风险的问题融入公共行政的合法性、合理性及有效性的法律争论之中。第一,理性—工具范式。该范式下行政的人工智能风险评估及决策行为,可看作是对立法授权所完成的“传送带”动作,包括确认特定的技术风险,评估可能采取的规制手段的法律后果及用“利益代表制”确认社会的价值偏好。第二,商谈—建构范式。该范式主张授予行政机关行使实质性、强自由的裁量权,立法并非是一套精确的命令,而只是为行政裁量权设定一般性原则和考虑的相关因素。行政不再只是立法的代理人,而是实施其自由意志的机构。事实上,从“行政宪制主义”重新描述人工智能的风险治理,也许并不能直接产生具体的技术解决方案,但却打开了一扇理论建构之窗,这有利于我们重新定位法律和政府在人工智能风险决策中的重要作用,并促使行政法学者开始试图重构人工智能风险的整体法律治理系统。五、三维风险管理体系的第三个维度：中央和地方上文提到了市场与政府、立法与行政之间的双向运动,而纵向的央地关系也是难以回避的维度。(一)重构人工智能风险的治理体系地方政府一方面基于“GDP锦标赛”的需求,积极推动本地经济试验与人工智能产业发展深度融合,人工智能产业的实践推手主要是地方政府而非中央政府;另一方面,对于随之而来的人工智能风险,地方政府也是身先士卒地积极探索法律治理模式,并不断积累经验。我国是一个民主集中制原则下的单一制国家,其特征是中央的领导权和地方的自主权有机结合。而在人工智能的产业发展和风险治理实践中,我国出现了一个明显的中央向地方不断授权以及地方自主权不断扩大的正向运动,这种正向运动的产生原因如下:第一,单一制与有效治理的融合。按照宪法的规定,我国是单一制国家,体现为中央在财政、人事、自然资源等方面对地方的最高领导权,而有效治理能力的增强是以地方自主权的扩大为基础,法律上表现为中央向地方的自上而下的放权和授权。周雪光把这种中国国家治理逻辑归纳为“一统体制和有效治理的关系”。第二,新时代的特色法治经验。重构人工智能风险的治理体系大致需要以下几步:第一步,由地方政府就风险治理先行先试,积累有效治理的初步经验;第二步,由地方人大基于已有的“地方性经验”制定“地方性立法”,然后进一步试错并积累经验;第三步,由国务院在充分总结地方经验教训的基础上制定行政法规;第四步,如有必要,再考虑上升为法律,适用于全国。这种新时代的特色法治经验的形成主要有两个依据:其一,我国经济文化情境差异巨大。我国疆域广阔,人口众多,多民族多文化,经济发展极度不平衡,东部、西部以及南方、北方的地理气候资源变化多端,这决定了我国需要“差异化”的地方性立法及行政;其二,“民主集中制”原则由此看来,对于人工智能的风险治理,地方行使自主权是法律的常态,而中央行使领导权则是法律的例外。只有当地方的行为可能改变中央和地方的政治平衡时,中央领导权的介入才有必要。第一,出台人工智能的地方规划及行动方案。据不完全统计,截至2018年3月,全国31省、自治区、直辖市中,包括北京、第二,制定实验性政策及地方立法。地方政府应当加强人工智能相关法规、伦理和社会问题研究,推动建立保障人工智能发展的法规和伦理道德框架。根据新时代的特色法治经验,在人工智能产业发达的城市,如深圳或杭州就风险治理进行试点,积累有效治理的初步经验;由地方人大基于已有“地方性经验”制定“地方性立法”,然后进一步试错,为国务院制定行政法规和未来的全国人大立法提供实践基础和理论支撑。第三,试验性设立独立的人工智能风险及安全监管机构。地方立法既要保证该监管机构组成机构及成员的独立性,也要确保监管机构行使职权时程序上的透明度。安全监管委员会的主要成员可以从所在地公安局及市场监管局选任,该机构应当具有如下主要职责:人工智能风险的评估及风险标准的制定、风险决策过程正式和非正式的公众参与制度的出台、对人工智能平台企业行使行政调查权及限期整改等矫正性权力、向上级机关或立法机关提出建议的权力以及定期发布人工智能风险预警和治理的年度报告等。由此,地方政府主导的人工智能风险治理试验从宣示开明的政治姿态演变为动态的经济实践,其内在的政治与法律意涵开始不断丰富。(二)完善人工智能数据标准化的事先行政许可制度人工智能的风险治理应当是一种制度化体系,这种顶层制度设计只能由中央政府来构建和提供,其目的在于保护自然人的数据权益,维护国家安全、公共安全和社会稳定,但却不能因噎废食,阻碍数据合法的自由流通并完全禁止人工智能的研发。我们建议,全国人大在充分吸收地方的经验和教训的基础上制定《人工智能发展法》,具体制度如下:第一,设立人工智能系统的登记认证审查制度。立法的重点是围绕如何在不阻碍创新的前提下最大限度控制和防范人工智能的潜在风险,因此,除了自动驾驶系统这类可能对自然人的人身财产权造成巨大威胁以及智能武器这类可能威胁国家安全、公共安全的人工智能系统之外,立法并不能也没有必要对所有的人工智能系统设立严格的事前行政许可制度。笔者建议,设立适用于所有人工智能系统的登记认证审查制度,即所有的人工智能系统都应当按照法律的要求去监管部门登记备案,但绝大多数并不需要事先取得监管机构的批准性许可文书。同时,实现认证程序与侵权责任体系深度结合。企业可以自愿申请监管部门或授权的专业机构的认证程序,经过权威认证的人工智能系统的设计者、生产者或销售者仅需承担有限侵权责任,而没有经过认证的人工智能系统将会承担严格的连带责任。笔者还建议,设立抽查式事后的安全审查制度,监管机构审查的关键词是“安全”,即查看人工智能系统“是否落实网络安全等级保护制度,按照国家标准规范要求,采取管理和技术措施,保护网络、信息系统、数据资源安全”,立法应当授予监管部门“安全一票否决”的权力,即涉及“安全”问题,监管部门有权强制启动严格的事先行政许可制度,即人工智能系统获得行政许可需要经过多重多阶段的严格安全测试,在没有获得许可前不能上市销售。第二,设立人工智能专员制度。当实施政府数据开放和利用的机构是政府部门时,或者当其核心业务是用算法处理大量数据且需要进行定期的、系统化的大规模监控时,或者当其核心业务是用算法去处理就业、社会保险与社会保障法等领域以及与犯罪和违法行为有关的大规模特殊数据时,立法应当明确要求数据控制者和处理者指定一名人工智能专员。第三,建设国家统一的大数据平台。国家统一大数据平台需要有足够的立法支撑和可操作的实施方案,同时应当通过立法设立首席信息官、首席技术官及首席数据官等专业机构。这样的国家大数据平台只能由中央政府来建构,并且需要一个较长时间的经验积累和试错。从地方分散实践到中央统一立法的反向运动是可取的,我国地方数据平台从数据量、时效性、数据集可视化、互动分享等方面与美国存在巨大的差距,其中一个重要原因是各自为政下形成的“低法治”数据割据。由此,一个旨在全面提升数据的有用性和易用性以及公众数据利用效果的全国性数据开放平台的建设必须提上全国人大的议事日程,应当将中国最为重要的政府数据统一集中到一个网站,为全国所有公众无差别地提供一站式的、内容丰富的、便于再利用的数据群,而这个工作只能由《人工智能发展法》来完成。六、科技风险的威胁对于人工智能风险的破坏力和临界点,人们也许还有不同的见解,但这种科技风险的威胁毫无疑问是巨大的和不确定的。而国家和社会的双向运动是我们重构风险治理体系必须要考虑的一个维度。(一)国家从国家权力之间关系向国家与民众关系的转型当前中国正处于一个寻求新的合法性基础的过程中,逐步走向建立法治国家,而国家治理的主线也正从国家权力之间关系向国家与民众之间关系进行转型。在这种背景下,人工智能的风险治理也正在经历着国家向社会放权和扩权的正向运动,具体表现为行政机关与平台企业的合作治理。根据弗里曼的研究,人工智能风险合作治理的规范模型应当具有如下特征:(二)对社会的反思由于人工智能平台企业的自我治理领域往往没有清晰的法律边界,而基于大数据的算法产品却容易波及社会中的每一个人,这种巨大影响力必将最终损害到国家能力;受到人工智能平台企业自我治理影响的利害关系人范围之广、数量之大,是传统社会所难以见到的,因而很难设计一种让所有利害关系人参与到人工智能风险评估和风险决策中来的法律机制。在“大众创业、万众创新”时代,政府机关有意无意地疏忽于“野蛮生长”阶段的监管职责,使得人工智能平台在短时间实现“非法兴起”,其后果是威胁公共安全和社会稳定的法律风险短时间内集中爆发。在此背景下,国家必须改变“强社会、弱国家”状况,启动一场从社会向国家集权的“反向运动