2023人工智能治理

人工智能治理2023一、背景在过去五年，人工智能治理取得了迅猛发展，构建人工智能监管生态系统的速度大大提高，但如何以负责任的方式推动人工智能的应用和实践依旧是当前面临的迫切挑战。人工智能有独特的风险，简单照抄现有政策工具并不能处理好这些问题，社会必须考虑在应用人工智能时完善相关手段和措施，以此来化解先进决策系统带来的潜在风险。这些手段和措施应当包括国际合作及跨部门合作，现在比过（MultistakeholderApproaches）的方式，同时在人工智能治理设计方面也要采取更灵活的方法。要以负责任的方式对人工智能应用进行治理，确保人工智能技术能保护并惠及每位社会成员。二、人工智能发展历程回顾历次工业革命既创造机遇，也带来挑战，迫使社会重新审视当时的治理结构能否有效维持监管与创新之间的平衡。人工智能是推动第四次工业革命的引擎，围绕人工智能及其安全防护措施将会出现诸多挑战。对其历史发展进程进行总结回顾十分重要，只有通过回顾过去，才能把握未来的发展方向。（一）2010年以前：人工智能的冬天与解冻早在人工智能发展初期，大家都认为人工智能发展到可以承担权责的程度时，就有必要认真考虑治理方面的问题。即使是处（即人工智能及公众兴趣走低的时期，人们对人工智能带来的后果和治理效果也抱有担忧和恐慌。另外，人工智能的潜在应用范围极广、社会影响深远，（二）2010年到2016年：人工智能加速发展带来的挑战2010人工智能的快速发展及应用的确鼓舞人心，但同样也引发了公众对数据使用和侵犯隐私等多方面的担忧。在获取或开发深度学习技术的热潮中，亟需防范的主要是涉及决策类的应用，如执法、人力资源和金融等敏感领域的应用。此外，人工智能系统对特定社会群体的不公正对待现象及宏观层面的关切也时有报道。对那些希望快速从人工智能发展中受益的人来说，重点是如何在安全和创新之间保持平衡。人工智能开始加速发展，治理不（法律法规无法跟上技术进步。（三）2016年到2019年：发布原则与指南到2016年，公众越发意识到如果不对人工智能进行适当的监管和引导，将会干扰公众生活，扩大社会不平等，加剧现有偏见，并破坏隐私，而所有这些都会削弱公众对人工智能的信任，从而使人工智能造福社会的潜力消失殆尽。2017（Asiloar）会上提出了一套原则来帮助公众了解政府和业界一直大力推动201520162017（四）2019年至今：持续加速与治理创新普及人工智能原则与道德指南有助于揭示人工智能跨国治2019倡议进行问责，但在规范的实际制定过程中仍以“柔性”治理机制为主。各主体对这一课题的日益关注，说明公众普遍认为现有制度和规则已无法确保人工智能以负责任的方式向前发展。三、从原则到实践：在不扼杀创新的前提下管控风险，推动人工智能道德实用化。截至2020年，各国政府、倡议机构、国际组织、私营企业100多数受访企业目前正在试图通过内部治理和正规的框架来解决问题，争取在不扼杀创新的前提下管控风险。（一）人工智能治理是实现负责任的人工智能的必经之路虽然面临巨大风险，人工智能带来的机遇仍是许多机构考虑（RespnsibleAI）许多企业都承认在防范措施缺失的情况下，人工智能可能造成伤害，因此都强调在制定人工智能战略时，防护范围不应仅限于法律和风险管理领域，负责任的人工智能治理的目标是要通过行业规范来防止出现危害性的人工智能生态系统。人们的意识虽然越来越强，但要把意图转化成政策和实践对许多企业仍是挑战。对于该做什么、何时做和怎么做等问题，业界还需要通过实践进行探索。（二）采用风险法来识别和消除治理差距私企和公共部门面临的最大问题之一都是缺乏优先级。人工智能会给不同行业带来巨大冲击，但由于其技术仍在持续发展中，且人们对其能力和影响力还处于不断认识中，其影响的程度和时间范围都无法确定。近期至未来很长一段时间，人工智能的直接和间接影响将被大家逐渐认识，这也会进一步增加系统治理的复杂性。通过有效的治理框架找出人工智能的风险并加以管控，有助于各国制定未来的行动计划。最终呈现的治理形式可能是多种多样的，例如，德国数据伦理委员会提出一个五级风险监管系统，这个系统对无害的人工智能应用不设监管，而对最危险的应用则完全禁止。这些框架有助于领导人们更好地了解风险，指引他们迈出关键的第一步。第一步可以是了解人工智能系统的应用领域，也可以是加大对人工智能风控团队的投资。在近期德勤事务所的一份报告中对人工智能风险的分类以及当前和未来的治理差距进行间跨度”两个维度分别评估（见图1。图1:新出现的治理差距的时间跨度和风险级别（三）推动公众了解和信任人工智能在过去十年中，一些潜在的人工智能治理手段逐渐出现，主要是强化消费者对人工智能产品的消费意识，具体包括认证、标签、奖励等手段。通过这些手段，提高产品透明度来影响购买行为，再通过市场、声誉和品牌的力量以及人工智能产品公司之间的竞争，促进消费者有效参与人工智能道德与责任决策。发放标签与认证标签可向消费者传达信息，帮助消费者了解哪些企业处理数据和人工智能的方式是值得信任、符合道德规范且安全可靠的。欧洲委员会在其《人工智能应用白皮书》中建议对高风险之外的（DatathicsSeal，主要发放给那些符合虚拟空间要求且以负责任的方式处理人工智能数据的企业。奖励通过奖励机制可对合乎道德、以负责任方式设计的人工智能进行表彰，鼓励业界朝积极方向进化。具体的例子包括：20214算法审查可通过第三方对算法进行审查的方式来化解风险。对复杂系统进行外部测试可有效保证市场安全，同时也会鼓励算法审查这一新兴行业的发展。对人工智能实施客观的审查可有效约束人工智能，有助于降低错误算法外流的风险。但上述方案面临一个共同挑战，即可信度的确立，缺乏可信度会增强追责的难度和效力。对此，有人呼吁用专业化的方式来解决问题，但这需要有适当的认证、实践标准和纪律处分程序。只有在这些严苛标准的支撑下，审查、认证和标签发放等人工智能原则实用化工具才能充分发挥作用。（四）政府主导的人工智能治理宏观层面上，很多政府部门已经开始围绕人工智能采取有效经合组织的跟踪调查表明：一些政策源于国家级人工智能战略（如立法提案、跨国合伙关系、贸易协定条款等，另一些则是在较为柔性的规范定义法基础上制定的，旨在化解风险，以此推动人工智能解决方案的出台。监管行动美国已开始在多个层面推动立法，要求对高风险自动化决策系统的冲击进行法定评估；与此同时，美国多个城市禁止在执法过程中使用人脸识别技术。欧洲委员会则完全采纳了以风险为依据的方法论，但同时也承认人工智能系统风险具有语境性特征。要求对高风险人工智能应用采取更严厉的措施，对无风险的领域降低监管，以此鼓励创新活动。欧洲委员会的草案把人工智能应用划分为四大风险级别：不可接受的风险：此类人工智能应用被严厉禁止（如社交评分）高风险：需要对其进行特定审查的人工智能应用，包括需要接受品质管理和合规评估（如人工智能招聘工具、人脸识别等）有限风险：要承担最起码的透明性义务的应用（如聊天机器人）最低风险：对该类别的应用无需制定额外的限制性规定（如垃圾邮件过滤应用）国际合作提速与此同时，各国政府意识到如果各国各自为战，全球治理体系将受到影响，进而会削弱人工智能的潜力，因此有必要优先开展国际合作，推动道德准则的跨国统一。区域强国在尝试创建统一战线方面尤其活跃，如七国集团(G720172020（GA1837个成员国的经合组织（OECD）担任秘书处。在全球层面，联合国在平衡技术进步和社会进步方面发挥着领导作用，处于最前沿的当属国际电信联盟（ITU）举办的“为善的人工智能”全球峰会。联合国其它机构也通过推动研发和鼓励对话来推动人工智能治理，如国际劳动组织的工作主要针对人工智能对工作和职业的影响，联合国教科文组织也举办了针对人工智能道德伦理的对话。近几年随着国际合作范围的扩大，公众对人工智能原则的看法也开始逐渐统一。但是，要想从原则转向政策再转向实践，最大的挑战是如何进一步澄清治理方法和操作指引并达成更广泛（GDPR）22全自动化且会对消费者产生法律影响的系统（如批贷、招聘等）与此同时，需要重视如何避免不同管辖区因责任冲突而影响跨境研发和阻碍创新。虽然各国颁布的具体规则有差异，但要尽可能保持各国规则具有交互操作性，大方向上保持一致。新冠危机的爆发迫使企业必须拥抱人工智能，进一步加剧了图框1：新冠肺炎疫情新冠危机的爆发迫使企业必须拥抱人工智能，进一步加剧了人工智能治理的不确定性。人工智能治理的不确定性。一方面，为满足远程和非接触的应用场景需求，人工智能技术可以为大家提供急需的高效解决方案。新冠期间，各国都开始使用人工智能追踪算法向市民发布个性化的文字短信，指导他们在接触病人后自行隔离。另一方面，疫情揭示了人工智能发展的制约因素。尽管危机中公众对新技术的信任感有所提高，但公众对隐私暴露就非常忧虑。基于人工智能的追踪干预也可能面临抵制。可见，数据的匮乏和人们对隐私的担心会限制人工智能的发展，同时也为人工智能治理提供了正当理由。四、多利益攸关方参与的方法论鉴于人工智能系统彼此交融的性质，各方如果单打独斗，注定将失败。反之，多利益攸关方共同参与治理，有助于提升全球范围内开发“负责任的人工智能”的能力。只有多利益攸关方共同参与才能获取公众和社会的认可，最终赢得大众的信任。许多案例都充分证明：只要通过与跨区、跨界、跨业的利益攸关方建立建设性关系，并以此为基础创建和维护负责任的人工智能治理机制，就有可能赢得公众的信任。而要建立这些关系，就必须与人工智能的受众进行开诚布公的对话，无论这些受众是客户还是公民。（一）利益攸关方的参与“多方参与”涉及的一个关键问题是各行为体的贡献内容和贡献方式。每个利益攸关方都有自己独特的视角，每个群体也都会坚持各自的利益。业界分享全球可信人工智能的最佳实践，在此基础上构建和扩大人工智能治理的创新模式是当前业界面临的巨大机遇。根据波士90%的机构目前正在制定或完成了相关战略以促进算法公正、降低决策偏差。其7262%的机构报告运营风险有所下降。企业可采取下列措施来支持多利益攸关方参与的机制：（RegulatoySandbx）随着对治理框架需求日增，对受控环境下的测试和实验也提出了更高要求。通过这类尝试，可将真实世界部分地纳入测试框架，从而为企业提供治理人工智能的未来机会。提供其它相关技术或专业管理知识临时调派技术人员填补技术短板，开展治理框架设计。提供免费的技术工具很多企业可充当人工智能专业技能的载体，为其它机构提供专业工具，并协助评估人工智能模型。政府在政府利用人工智能提供更好的服务之前，必须首先征求全社会的许可。政府可采取下列措施来支持多利益攸关方的行动：发展“监管沙盒”（RegulatorySandbox）政府需要集中在新治理理念部署、测试和迭代加速发展的领域制定政策，发挥关键作用，确保人工智能在对外公布前尽可能地在真实环境中得到测试和验证。提供公共政策或行政管理专业知识调派既能填补公共政策知识短板又懂得政府工作实际难点的人员支援多利益攸关方。设立人工智能卓越中心围绕人工智能治理设立国家级或次国家级的机构，从业界、政界、学界和社会招收人员，采用跨学科协作的方式，利用人工智能和算法针对政府的运行方式提出建议。学术界学术界可利用其处于各行业交叉点的独特地位，借助其中立而客观的视角吸引各方加入对话。采取下列措施来支持多利益攸关方的行动：提供研究的机会在政策制定和测试过程中，通过效果评估来对新方法进行测试。推动人工智能跨学科研究把涉及人工智能的道德影响研究的多个人文学科纳入相关的讨论。协助推广、扩大有前景的人工智能治理机制把多利益攸关方形成的实践和行为纳入全球教学课程。公民社会公民社会作为第三方代表，可为多方对话带来平衡感和新视缩小参与度差距通过把全球的弱势群体纳入到同一个国际讨论框架，有助于缩小参与度的差距，获得更多元、更具代表性的数据集合的支持。召集各类行为体共同组建共同体公民社会和学术界一样，可担任各类行为共同体的召集者与人工智能卓越中心开展合作在设有人工智能专门咨询机构的国家和地区，公民社会可组织和鼓励民众与咨询机构开展更广泛的沟通和交流，以确保政策的多元化和包容性。（二）灵活治理多利益攸关方的思路若与灵活治理的方法相结合，就会容纳更多人参与决策流程，并可通过快速迭代来满足每个人的需求。最终，决策将变得更具包容性，也更加以人为本。灵活治理作为一种有效手段可确保治理与技术进步保持灵活治理作为一种有效手段可确保治理与技术进步保持对灵活治理的方法论进行了完整描述。世界经济论坛与加拿战。下面的例子展示了多利益攸关方群体基于现有通用原则对特定背景和特定用途的框架进行设计和测试的方法。图2：聊天机器人报告卫生医疗行业的聊天机器人：鉴于新冠疫情期间聊天机器人的使用率大增，日本三菱化学和印度信实工业等企业联合印度政府、世界经济论坛和众多聊天机器人开发商、平台、卫生部门、公民社会、学界和卫生监管机构等共同设计了一个医用聊天机器人监管框架，目前已有部分试点项目正在实施。（三）全球人工智能行动联盟20205也于201（GAA。该联盟以世界经济论坛的全球多利益攸关方共同体为基础，成员包括很多活跃在人工智能领域的顶级企业、政府和公民社会组织，这些机构在过去三年针对人工智能技术的开发和应用成功推出了多动（DCPI）密切合作，旨在推进全球各行业实现交互式操作。五、未来之路（一）更多工具与最佳实践鉴于目前人工智能监管的形式多表现为加强干预，因此尝试更多工具和实践是必要的。很多机构意识到人工智能风险的分布是广谱的，但他们仍希望于弄清楚风险的界线和发生领域。即搞明白哪些情况下可自我调节？哪些情况必须参考标准合同条款？哪些情况下非果断干预不可？全球人工智能理事会建议未来应对下列事项予以额外关注：用于评估偏差、公正度和相关技术细节的测量标准针对某些必须通过公共干预和协调才能解决的道德问题（如虚假信息、深层欺诈、大规模人脸识别、人工智能监控等）的相关解决方案人工智能治理领域的行业可操作化案例研究积极借鉴其它高风险技术的治理经验（二）人工智能、就业与不平等人工智能在就业和不平等方面也存在很多问题。其中一项挑战是机器抢占人类工作的问题，据麦肯锡2017203048作和职业，导致很多人下岗，但另一些人却可能因为工作性质不同而免于被淘汰。在这种情况下，如不制定更好的政策来缩小差距并普及技能培训，那失衡势必会加剧。就连最乐观的经济学家也预测：未来世界里越来越少的工作会和现在一样得到别人的赏识，很多人会感到迷茫，从而质疑人生的价