人工智能治理专题

清华大学产业发展与环境治理研究中心编 2024年06月【专题研究】 3《人工智能算法影响评价体系构建与应用实践》 3【相关研究】 6GIHI2023系列解读6|人工智能专利爆炸式增长！北京、粤港澳大湾区等中国城市成为全球人工智能技术发展主要力量 【专家观点】 9薛澜：人工智能发展的治理挑战 9季卫东：人工智能治理国际合作的重要性 12贾开：ChatGPT是更接近人脑的智能技术吗？ 13薛澜教授对话AshleyLlorens：推动人工智能正向发展，跨领域与国际合作至关重要 14【学术活动】 19CIDEG产业经济系列研讨：算法影响评价体系构建与生成式人工智能安全治理 19【出版发表】 20ChatGPT作为“浅层革命”的进步与局限——兼论通用智能与“人-机关系”20《中国行政管理》薛澜、贾开、赵静：人工智能敏捷治理实践——分类监管思路与政策工具箱构建 21《国际论坛》贾开、俞晗之、薛澜：人工智能全球治理新阶段的特征、赤字与改革方向 22《数字法治》季卫东、赵泽睿：人工智能伦理的程序保障 25【学者动态】 28薛澜教授出席2024中国发展高层论坛：人工智能面临治理挑战 28薛澜出席2024中关村论坛：人工智能安全上路，首先装好刹车” 29【编者按】AI技术的迅猛发展，我们也面临着诸响等。AI发展的治理问题，已成为当前科技与社会进步的核心议题，创新算法治理理念和机制成为当前亟待解决的重要课题。为此，清华大学产业发展与环境治理研究中心（CIDEG）针对算法治理问题，于2022CIDEG兼职研究人员贾开主持。该研究旨在构建为算法治理实践改革提供坚实的理论基础和实践指导。（NatureResearch）中心指数》（GIHI）2023报告中，也对人工智能领域的相关研究进行了专项评估。特智能技术发展中的重要地位等分析，为我们提供了丰富的数据和深入的见解。近期，CIDEG的多位学者在人工智能领域发表了相关研究成果，在《信息技术与2024中国发展高层论坛与中关村论坛上，深入阐述了人工智能治理的重要性及挑战。在学术活动方面，CIDEG产业经济系列研讨会围绕算法影响评价体系的构建与生享了各自的观点和研究成果，为推动算法治理理论和实践的发展贡献了智慧和力量。CIDEG研究通讯特别聚焦人工智能（AI）发展的治理挑战及其在中国和全球的成果，以期为读者提供深入的了解和参考。【专题研究】（algorithmimpactassessment,AIA）作为一种治理机制已经（即人工智能算法影响评价的必要性问题（即人工智能算法影响评价的特殊性问题（局限性问题）？对于这些问题的探索性回答，构成了本报告的主要内容。整提供参考。具体而言，这又可以总结为三点。第一第二，算法技术方案难以被解释、难以被穷尽的基本逻辑使得算法治理将始终处于第三治理不得不陷入集体效用改善与个体权益侵害同时发生的公平性“悖论”“漏洞”“悖论”成为隐藏在算法治理不同案例下的共性要求。对算法治理的过程进行记录以累积治理经验（由此回应实验性的治理要求（由此回应动态性的治理要求接下来本报告的第二“算法影响评价是什么”2023815日，《生成式人工智能服务管理暂行办法》正式施行，提2（影响评价制度的完善进程。......【相关研究】GIHI20236|为进一步比较国际科技创新中心城市在人工智能技术领域的技术创新能力，GIHI2023依托人工智能专利公开数据，从技术创新的数量、质量、技术优势三个维IPC（InternationalPatentClassification）分布三个指标进行测度。2020年后人工智能专利呈现爆炸式增长，北京、粤港澳大湾区专利数量上超越东京，成为全球人工智能技术发展的主要力量。一、北京、上海、粤港澳大湾区表现概述北京北京在人工智能技术有效发明专利存量上排名第1名，拥有26638件，人工智能专利年均增长率达到77%。在高质量专利总量上，北京排名第5名，其中PCT专利量上排名第3名，拥有1608件，在人工智能技术领域三方专利量排名中位居第3名。近五年，北京在高质量专利上保持高速增长态势。北京的高质量专利主体较为分散，主要基于其企业和高校的双重聚集优势助力其人工智能产业发展，如百度（380件）、京东方（228件）、小米（157件）、京东（136件）等高技术企业，华为（121件）、西门子（71件）等跨地区跨国企业合作，以及清华大学（168件）、北京大学（61件）等国际知名高校合力成为其发展的助推剂。相对而言，北京的高质量专利主体则比较分散，表明其处于市场早期阶段。粤港澳大湾区粤港澳大湾区在人工智能技术有效发明专利存量上排名第2名，拥有20207件，人工智能专利年均增长率达到92.4%。在高质量专利总量上，粤港澳大湾区排名第2名，拥有2769件，在人工智能技术领域三方专利量排名中位居第5名。（2267件件、腾讯（985件）、中兴（369件）、OPPO（368件）智能产业位居世界前列。上海上海在人工智能技术有效发明专利存量上排名第9名，拥有6506件。在高质量专15PCT9475二、其他中国城市表现概述中国城市人工智能专利总量领先全球，人工智能技术有效发明专利存量前20城市（都市圈）14三、专利热点领域本报告选取PCT专利和三方专利均进入前20的城市（都市圈），分析这些城市的人工智能技术的热点领域分布。在人工智能算法算力方面，粤港澳大湾区和北京则高度重视神经网络与遗传算算机系统（4名、数据安全装置（2名、其他计算机系统（5名、自然语言处理（1名、基于知识模式的计算机系统（4名、机器学习（4名、（3名（2名等方面排名前五。北京则在数据运算装置（4名、自然语言处理（2名、基于知识模式的（5名（5名（第4名）等方面排名前五。其中在程序控制机械手（3名）程序控制系统（4名）、数据交换网络（1名、数字信息传输电路或系统（2名、程序控制单元（2名、数据传输装置（第3名）等方面排名前五，优势领域明显。北京则仅在程序控制单元（第5名）领域排名前五，仍需在智能控制技术上持续发力。在计算机视觉技术方面，粤港澳大湾区和北京等亚洲城市（都市圈）是计算机视觉技术的主要研发地区。其中，粤港澳大湾区在电视系统的零部件（第2名）、视频识别（1名、语音识别（3名、信息检索（1名、图像理解（2名、图形识别（第1名）等方面排名前五。北京在视频识别（第3名）、语音识别（第5名）、信息检索（第2名）、图像理解（第4名）、图形识别（第3名）等方面排名前五。（4名、商业应用系统（4名、人体测量诊断（5名、特定行业应用系统（5名行政应用系统（3名等方面排名前五。北京在商业应用系统（5名、特定行业应用系统（第4名）、行政应用系统（第5名）等方面排名前五。整体而言，国际科技创新中心城市在人工智能技术领域的优势技术具有显著差异。中国城市（都市圈）将在新一轮的人工智能技术浪潮中发挥重作用，是当前阶段热点技术如神经网络与遗传算法、图形识别、机器学习、图像理解等领域的重要推动力量。......【专家观点】薛澜：人工智能发展的治理挑战薛澜："中国的人工智能有雄厚积累与先发优势，形成了推动人工智能发展的总能技术也有非常广阔的应用场景。同时，中国人工智能发展未来也面临着一些挑战。"202211ChatGPTOpenAI为代表的美国技术前沿公司更是形成了你追我赶的局面。几个星期前OpenAI推出了非常独特的，跨模态的视频生成工具Sora60秒，惊艳全球，将对短视频等很多媒体娱乐行业产生巨大冲击。同时，自动驾驶、广告、教育、医疗、安防等不同领域也受到很大影响并有可能成为Sora潜在的应用市场。除此之外，在AI算力的核心硬件方面也有很多新突破，如GroqLPU这一新的大模型推理芯片，其制程虽然还是14纳米，但由于有TSA架构，使得其特定的处理能力非常快，推理速度比GPU快10倍，但能耗只是它的1/10。我国的芯片、GPU等硬件本来就受到制约，现在美国在这方面的新突破把差距进一步拉大。这对中国的创新体系是一个很大的冲击。中国现在的创新模式还是遵循比较传统的线性模式，即从学术研究开始，到工程技术，最后再到产品。这个模式无法形成研究、工程和市场间密不可分的生态，这是现在中国创新体系亟待解决的问题。中国人工智能的最新发展态势基本平稳，中国在人工智能领域发表论文全世界最多，美国是第二，中美合作的论文也很多。在AI大模型方面，去年5月我们已经发布了79个超过10亿的大模型，现在已经超过130个。如果单从量上讲进步很大，但是实际上我们的大模型还存在不少问题，因为有不少是用套壳和拼装的方式构建的。具体而言，目前很多国外的模型是开源的，那么在开源的基础上进行套壳就可以形成一个套壳的大模型，接着再将一些这样的大模型拼装在一起就变成更大的大模型，这种方式做出来的大模型背后的原创性是有限的。另外，我们的算力也被“卡脖子”，比如英伟达的GPUA100和H100被美国禁售，很多公司受到影响。同时，中国数据质量比较低也是一个问题。中国的数据量很大，但没有真正产业化，相对标准化的数据思考和解决的问题。2018年习近平总书记在中央政治局第九次集体学习中特别强调要加强人工智能发展潜在风险的研判和防范，确保人工智能安全可靠可控。2019年和2023年又特别强调重视通用人工智能的发展，营造创新型生态，重视风险防范，综合考虑人工智能发展的社会收益和潜在风险两个方面。总书记的指示给我们推动人工智能创新发展和防控风险指明了方向。从综合社会收益讲，生成式人工智能的渗透性非常强，对社会影响是全面的。对制造业来说，AI有利于推动产业的数智化转型升级，在推进新质生产力和高质量发展方面潜力巨大。中国在这方面已经做了很多探索，例如，三一重工制造工厂应用人工智能技术之后提高185%，生产周期30天缩短到7天。同时，AI在推动智力密集型的服务产业规模化方面也发挥了巨大作用。人工智能的潜在风险体现在多个层面。在个体层面，AI可能引发算法歧视、知面还有一些更长远的大问题，如劳动力结构调整、产业结构调整等影响。同时，由于这些都是需要慎重考虑的。另外大模型训练的能源消耗非常厉害，现在看来可能所增加的温室气体排放也是不能忽视的。有人估算ChatGPT在整个训练周期的碳排放量相当于开车到月亮再返回地球的总量。在国家安全层面的问题同样让人担心，包括对7月基辛格到访中国，他非常关心的一个问题就是人工智能对国际安全的潜在影响，他提到二战以后全世界之所以能保持总体基本保障了核武器没有大规模扩散。他认为未来人类社会如果还想继续保持安全，人工智能治理就应成为核心，而中美两国是全球人工智能治理最关键的国家。他非常积极地推动中美两国在这方面开展对话，后来我们也看到中美两国元首在旧金山的峰会上一致同意开展中美两国在人工智能领域的对话。人控制？会不会影响整个人类社会的生存？也就是硅基文明和碳基文明今后会有什么冲突？这个层面的风险是人类社会生存的风险。在这类问题上，Chat-GPT的出现影响了整个社会，尤其在技术领域，很多专家也开始高度关注这个问题。清华大学2020年成立了一个人工智能国际治理研究院，当时一些技术领域的专家对提出人工智能治理还有不同看法，认为人工智能技术刚刚发展起来，谈治理太早了。国际上同样也有这样的声音。这里有两方面原因，首先，是对“治理”这个概念有一定误解，大家只看到了治理概念中的规制一面。但治理包括两个方面，一方面是怎么更好地构建来的风险及其损害。因此，治理对所有新技术的发展都是必要的。除此之外，当时我们对所谓通用人工智能的潜在风险还没有那么担心，但Chat-GPT出来后变化就很大交给《科学》（Science）的论文。这篇论文就指出，我们已经到了刻不容缓需要推Chat-GPT的出现让他们认为通用人工智能可能出现的时间要大大提前。除了刚刚谈到的几类综合性风险，我们更多要考虑具体应用场景。AI在电商、我们需要探讨怎么有效规避。技术本身产生的风险是典型案例。这里有个例子，当我ChatGPT北京清华大学校歌歌词是什么时，它会编造一个错误的答案，把北京大学和清华大学的一些信息混用。除此之外，还有数据滥用、隐私泄露、深度伪造等明新形态的作用等。......总体来说，中国的人工智能有雄厚积累与先发优势，形成了推动人工智能发展的总体规划，在过去发展过程中也形成了自上而下和自下而上相结合的治理框架，人工首先是怎么样形成不同企业公平竞争的市场环境，包括民营企业、国有企业和外资企够有效流通协调一致的产业生态。第三是治理问题，怎么形成可预期、包容审慎、敏捷有效的治理框架，为形成鼓励人工智能发展的市场环境和产业生态奠定制度基础。最后，就是怎么聚集全球顶尖人工智能人才，Open-AI是全世界各国不同优秀人才聚方面的共同努力下，中国人工智能领域能够抓住发展机遇，克服重重困难，迎接多方平发展服务。季卫东：人工智能治理国际合作的重要性2024年4月23日至25日，上海交通大学文科资深教授、CIDEG学术委员季卫东在澳门参加了为今年9月联合国未来峰会而召开的预备性对话和2024年联合国大学澳门人工智能国际研讨会，作为创始成员出席了UNUAINetwork启动仪式，并策划和主持了关于亚太地区生成式人工智能治理和法律的分论坛。季卫东教授指出：怎样面对发展与安全之间的巨大张力，这是人工智能立法的核心问题；根据对这个问题的不同理解和解答，迄今为止各主要国家的制度设计可以大致分为四种模式，即欧盟的“硬法模式”、美国和日本的“软法模式”、中国的“软硬兼施法模式”以及新加坡的“技术程序法模式”。他认为，如果大模型的技术研发不仅是AI治理的对象，也可以反过来为AI治理赋能，那么科技企业就不会对人工智能立法感到忧心忡忡。实际上，如果大模型的安全研究通过技术-程序的进路能够形成测试、AIAIGCAI伦理管理指标体系和认证平台、编制AI安全保障网，那么监管与发展就不再是一种零和游戏，AI研发开拓出新的投资机遇或者市场型的性能提升与安全度提升形成某种正比关系之际，只有在监管转变为程序本位和技术本位之际，各国以及全球才有可能真正进入所谓“人工智能治理的立法时刻”。季卫东教授会议期间还就中美两国关于人工智能的政府间对话问题接受了《潮新闻》记者的采访，进一步阐述了自己对人工智能治理国际合作的主张。......贾开：ChatGPT是更接近人脑的智能技术吗？ChatGPT的迅速崛起在当前掀起一股舆论热潮。与技术进步的传统争论多数处于技术乐观主义与技术悲观主义之争的范畴不同，围绕ChatGPT的争议似乎更加分化：富有科幻想象色彩的自媒体在渲染这项新技术可能产生的影响，而来自技术社区的声音则质疑这项技术的创新性和颠覆性。然而，无论如何，ChatGPT已经推动全社会正2016AlphaGo之后的又一次人工智能“洗礼技术取代人从事某些属ChatGPT争论背后的技术理念和科技哲学。电子科技大学公共管理学院副教授，清华大学产业发展与环境治理研究中心研究员贾开发表了题为《ChatGPT是更接近人脑的智能技术吗？》的文章，在本文看来，体现“浅层解释”ChatGPT只应被视为智能技术探索路径上的一种选择，其不应作为不能被改变的技术前提。以“多重技术路线探索”的眼光来认识ChatGPT并确立对其恰当的定位，可能是更值得追求的分析态度。......AshleyLlorens：推动人工智能正向发展，跨领域与国际合作至关重要近日，清华大学文科资深教授、苏世民书院院长、CIDEG学术委员会联席主席薛澜受邀出席由微软亚洲研究院与清华大学苏世民书院联合举办的“促进人工智能的合作与学术交流”的座谈会。会上，薛澜教授和微软研究院副总裁、微软杰出首席科学家、微软研究院全球研究合作负责人AshleyLlorens博士就人工智能未来发展所需的合作展开了深入讨论，并分享了他们各自对跨领域与国际合作、人才培养等问题的见解。谢幸：人工智能技术和相关工具的日益普及，引发了人们对其可能带来的机遇和潜在风险的关注。两位对人工智能发展的治理有什么看法？薛澜多，但我一直在密切关注新技术可能给社会带来的影响。我曾参与中国在2017年发任，并一直从事人工智能治理相关的工作。许多人都担忧人工智能可能带来的潜在风险，但也有大量技术专家担心，政府的过度监管可能抑制技术的发展。如何在两者之间取得平衡，是我们当前面临的一大挑战。对此，我们一直倡导将敏捷治理作为人工智能的治理方法。由于人工智能的发展给人类社会带来了诸多益处，所以推动其创新发展是毋庸置治理如何适应并跟上这一新技术的发展脚步。因此，我们需要审慎地观察人工智能的发展，在必要时采取措施引导规制，同时避免过度干预阻碍其发展。AshleyLlorens：我在人工智能领域有20年的工作经验，亲眼见证了机器学习技术和机器人应用将我们带入了一个激动人心的时代。我们正在经历技术史上的一个历史性时刻，一个关键的转折点。回顾几十年来计算技术的发展，人们开发了各种应用程序来完成特定任务，现在我们已经创造了非常复杂的方式来显式地编程，让机器执行任务，例如使用Windows系统与各种应用程序和软件进行交互，这些程序将点击的动作映射为用户的实际意图，比如打开Word文档等。随着机器学习技术的崛起，系统可以通过数据和经验实现自我编程、自动创建映射、自主完成任务。实际上，经过学习训练的程序就是一个高度参数化的数学函数，但在大语言模型和多模态模型出现之前，一个训练过的程序只能完成一项任务，比如的程序，而且还可以使用自然语言对它进行再编程。ChatGPT带来的改变是革命性用开发者未曾想到的方式进行创新。回到人工智能的机遇和风险这一问题上。用户可以更具创新性地来使用这些技术能力的片面理解导致模型产生了意外的结果，尤其是在医疗等关键领域，有些意外结果将是危及生命的。工智能原则来进行创新。微软推出的大语言模型产品都经过了严格的测试，就是这种共同进化的例证。谢幸：我想大多数人都会认同这是一个技术变革的时代，也意识到了机遇与挑战的并存。人工智能的快速发展，特别是大语言模型的兴起，既彰显了技术的进步，也引发了很多担忧。两位对人工智能的未来有什么看法？是乐观更多一些，还是会有些悲观？薛澜正因为现在有很多人关注这个问题，才让我对人工智能的未来感到乐观。以核技术为例，在其发展初期，科学家们也为核弹的发展展开过争论，当人们看到核弹的破坏力之后，便开始倡导停止这项技术，并形成了一整套控制核武器扩散的机制。由此可见，人类社会是有能力控制技术的应用，限制技术向负面方向发展的。护栏。因此，我对人工智能的未来还是持乐观态度的。AshleyLlorens：我同意薛教授的观点。我从事人工智能和机器学习相关工作已经有很长时间了，如果10年前我说自己是做机器学习的，很多人会感到困惑。但现这项技术解决实际问题。我们也看到在学术界，很多人在推动人工智能技术的发展。人类的一个优势是擅长使用工具，从某种角度来说，人工智能作为一种工具，是我们与物理世界交互的延伸，也是我们认知能力的放大器。同时，我们也需要保持警惕。乐观、怀疑、悲观，这些不同的态度都是正常的。当我们从整个社会的角度来考虑资源投入时，要把这些态度都纳入考量，关键在于投入的分配比例。尽管一颗小行星撞击地球的可能性非常小，但美国国家航空航天局（NASA）还是投入了一些资金，通过小行星重定向项目来降低相关的风险。我想说保我们的决策不会阻碍技术的正向发展。清华大学和微软研究院都是高度国际化的组织，并且有丰富的国际合作经更为有效？AshleyLlorens：国际合作在人工智能领域至关重要。我们需要找到最佳的合作方式，以实现更大的成功和积极成果，同时避免负面影响。微软一直致力于推动人工智能技术的正向应用，例如我们发起的“气候研究倡议（MicrosoftClimateResearchInitiative,MCRI）”，就是旨在利用人工智能技术应对气候变化。在内部，我们与可持续发展研究领域的同事合作，确定了人工智能和计算技术可以帮助应对气候变化挑战的三个研究方向：碳核算、碳减排和气候韧性。在外部，我们与高校合作共同探索如何结合新的遥感技术和人工智能进行碳核算，其中就有来自清华大学的研究员。这是我们通过合作推动技术正向应用的一个例子。薛澜：从全球视角看，近年来科学家之间的国际合作日益增加。在研究层面，合作尤为重要，我们的研究发现，在科技文献发表方面美国和中国是合作最多的国家。在机构合作方面，就像Ashley提到的，清华大学的科学家加入到微软资助的研究项目中，还有很多清华大学的毕业生在微软工作，微软也和清华大学在很多项目上开展了合作。在国家层面，我们要避免极端竞争的情况出现，给科技合作提供基本保障。除了国际合作，跨学科合作也是人工智能发展的重要维度。越来越多的研深入地理解和应对人工智能对社会的影响。请两位谈谈你们对跨学科合作在人工智能发展中的作用和意义的看法。薛澜人工智能的发展非常关键。人工智能对公共管理和社会科学研究的影响正受到越来越多的关注。很多人认为，人工智能带来了巨大的范式转变，新技术改变了社会科学研究的格局。因此，我们需要加强不同学科间的合作，清华大学也成立了社会科学和计算机科学的跨学科研究机构。AshleyLlorens：跨学科合作是解决人工智能领域中核心问题的关键。作为人工趣的科学问题是关于人类的问题。还有一些更广泛的社会问题，比如社会是否应该与这些技术共同进化。这些问题非常有意义，也是非常重要的问题。微软研究院很早就意识到了这一点，我们汇集了很多社会科学家，包括计算社会背景知识的人才，来共同构建一个跨学科合作的社区。谢幸：鉴于跨学科合作的重要性，我们需要培养更多的跨学科人才。然而，目前这方面的人才还比较匮乏。我们应该如何为未来的人工智能培养跨学科人才，以应对未来的变化和挑战？AshleyLlorens：我们必须处理好人工智能对教育的影响，并充分利用其为教育带来的机遇。从小培养孩子的算法思维和系统性思维，比以往任何时候都更重要，技术可以帮助我们实现这一目标。现在，机会就在眼前，我们需要加大这方面的投入和支持。AI。我们不应过度依赖工具，而忽视必要技能的培养，当然我们也不能忽视对新兴技术的使用。薛澜实现的。AshleyLlorens：我完全同意。我相信，未来人们可以更容易地享受到技术进步软研究院正朝着这个目标努力，到那时不仅计算机科学家可以用编程语言编写代码，非计算机科学家也能用自然语言为代码库做出贡献。未来510年，我们对技术人员的定义可能就会完全不同。【学术活动】CIDEG产业经济系列研讨：算法影响评价体系构建与生成式人工智能安全治理3月8日下午，清华大学产业发展与环境治理研究中心举办“算法影响评价体系构建与生成式人工智能安全治理”专题研讨会。来自对外经济贸易大学、国家工业信息安全发展研究中心、阿里研究院、腾讯研究院、瑞莱智慧、抖音集团、蚂蚁集团等机构或企业的多位专家学者，以及清华大学公共管理学院教授、CIDEG主任陈玲，清华大学公共管理学院副教授、CIDEG副主任赵静，上海交通大学国际与公共事务学院副教授、CIDEG兼职研究人员贾开等共同出席了会议。工智能安全治理的认识。贾开老师就“人工智能算法影响评价体系构建与应用实践”主题作了引导性发言。与会专家学者围绕中国算法治理的主要工具及其特点、《生成式人工智能服务安全基入的探讨，并就下一步研究空间进行了合作展望。会议由陈玲主任总结。她表示，CIDEG既关注安全治理，也关心产业发展与创单的“从松到紧”，而是有着更加生动丰富的演变。......【出版发表】ChatGPT作为“浅层革命”的进步与局限——“人-机关系”人工智能的快速发展正在引发普遍关注，但相关讨论仍然可能因为欠缺历史的回溯（纵向（横向（人类可以通过自上而下的模型建构来实现通用人工智能？人工智能的技术发展目标是否是（包括机器自己生产的数据何被纳入生产体系并影响价值生产过程？应如何定位大模型在人工智能知识生产过程控制风险，还是明确技术在知识/价值生产体系中的定位以引导其发展方向？上海交通大学国际与公共事务学院长聘副教授、CIDEG兼职研究人员贾开在《信息技术与管理应用》上发表题为《ChatGPT作为“浅层革命”的进步与局限——兼论通用智能与“人-机”关系》的文章，其核心内容是以ChatGPT为背景，进一步以昂格尔的分析框架为基础，讨论“人-机”关系的完整频谱，并以此来定位机器/人工智能的相对价值。......——策工具箱构建摘要：纷繁复杂的人工智能应用风险在带来监管挑战的同时，也让追求敏捷成为当前人工智能治理的共识性理念。但如何在具体路径、机制、工具上实现真正的敏捷监管尚缺乏系统的学理分析与实践指引。遵循科层体系运作逻辑的监管部门在克服制度张力和应对不确定性方面存在天然不足，实践改革因此普遍将“分类”视为一种适应复杂性与提升敏捷性的潜在思路。通过对人工智能多领域业态发展模式与技术创新规律的比较分析，以及综合人工智能各领域现有国际治理经验，本文构建了人工智能治理风险的关键分类维度及与之相适应的全谱系政策工具箱。研究试图为监管实践者提供一个合意的分类思路与政策工具组合指引，使监管实践可从产业特征标定分类治理对象，并在对应的政策工具箱中寻找政策组合。本文基于“问题界定—对象分类—治理工具箱—分类框架”究目的，但政策实践与理论演绎的紧密结合也可在一定程度上支撑本文所提出理论框架的实践有效性。......《国际论坛》贾开、俞晗之、薛澜：人工智能全球治理新阶段的特征、赤字与改革方向摘要：人工智能技术及应用超出预期的快速发展已经引起了国际社会的普遍关然存在三方面治理赤字：由于治理过程开放性和责任性不足而导致的合理性赤字、由于治理成果的结构性失衡而导致的公正性赤字、由于治理效能难执行与错位问题导致的有效性赤字。面对新阶段的机遇与挑战，竞争性合作”理念有助于打开新的改革空间，其要求将“零和博弈”转变为“变和博弈，强调利益与目标不完全一致但又相互依赖的独立决策主体间的关系策略，能够兼具敏捷性与“硬约束”特征，而这三点有助于良性发展。精彩内容节选如下：一、人工智能全球治理进入新阶段的机遇与挑战2022推上新台阶的同时，也推动人工智能全球治理进入了新阶段。“人工智能高级别顾问委员会”趋势，例如美国在该领域仍然强调与“志趣相同”国家的合作，并且要求限制向“志趣不同”国家的技术输出与交流，试图通过“划小圈子”来影响乃至主导人工智能的全球发展已有研究对此却尚未作出充分回应。二、人工智能全球治理进入新阶段的特征：基于主体与机制的双重视角分析三、针对人工智能全球治理进程的反思：合理性、公正性、有效性赤字其要求从程序合理性方面对“谁应该向谁施加治理权力”问题作出回答；“公正性”涉及人工智能全球治理成果的正义性，其要求确保不同主体从人工智能发展中“获得其所应获得的、承担其所应当承担的”；“有效性”涉及人工智能全球治理的效能问题，即在经过四、应对人工智能全球治理赤字：“竞争性合作”理念作为改革方向“竞争性合作”理念可作为未来改革的指导方向。“竞争性合作”概念被延伸至公共管理、全球治理领域，其内涵是“利益与目标不完全一致但又相互依赖的独立决策主体间的关系策略”“竞争”或“合作”竞争性合作”将博弈论引入关系“零和博弈”“变和博弈”五、结语反思，以及在此基础上从“竞争性合作”概念提出的改革方向，便是在此背景下的一次理论探索。“黑箱”......《数字法治》季卫东、赵泽睿：人工智能伦理的程序保障摘要对人工智能在技术研发和社会应用时引发的道德规范不确定性问题。一般而言，人工智能伦理是化解决策风险的意义脉络以及对失范现象进行意义处理的沟通理论，为此需要首先提供促进风险沟通的程序和选择机制。然而，当下的人工智能风险治理在相当程度上混淆了技术研发伦理和社会应用伦理，且仅聚焦实体性伦理原则而忽视程序只有注重程序性伦理规则、法律程序以及技术性正当程序，才能实现人工智能风险治理的多元价值共存与敏捷治理目标。因此，基于正当程序原则的人工智能风险治理机性正当程序、算法论证程序和嵌入式正当程序来对不同阶段的风险决策沟通过程进行保障。随着人工智能的快速发展与普遍应用，人们对人工智能的风险问题日益关全球政府注重人工智能的风险治理。在此背景下，研究机构与科技企业不断通过人工智能的技术研发与社会应用来创造一个更智能、更高效的社会以增强人类福祉，而各国政府与跨国组织也在不断摸索人工智能的治理路径与伦理共识来直面人工智能引发的各类风险。在各国政府与跨国组织发布的大量人工智能治理文件中，“伦理先行与法律保