2024人工智能安全治理框架

目TOC\o"1-2"\h\z\u人工智能安全治理原 人工智能安全治理框架构 人工智能安全风险分 人工智能内生安全风 人工智能应用安全风 技术应对措 针对人工智能内生安全风 针对人工智能应用安全风 综合治理措 人工智能安全开发应用指 模型算法研发者安全开发指 人工智能服务提供者安全指 重点领域使用者安全应用指 社会公众安全应用指 --PAGE10秉持共同、综合、合作、可持续的安全观，坚持发展和安全并重，以促进人工智能创新发展为第一要务，以有效防范化解人工智能安全风险为出发点和落脚点，构建各方共同参与、技管结合、分工协作的治理机制，压实相关主体安全责任，打造全过程全要素治理链条，培育安全、可靠、公平、透明的人工智能技术研发和应用生态，推动人工智能健康发展和规范应用，切实维护国家主权、安全和发展利益，保障公民、法人和其他组织的合法权益，确保人工智能技术造福于人类。人工智能系统设计、研发、训练、测试、部署、使用、维护等生命周期各环节都面临安全风险，既面临自身技术缺陷、不足带来的风险，也面临不当使用、滥用甚至恶意利用带来的安全风险。对抗攻击风险。攻击者通过创建精心设计的对抗样本数据，隐蔽地违规收集使用数据风险。人工智能训练数据的获取，以及提供服务混淆事实、误导用户、绕过鉴权的风险。人工智能系统及输出内容难以鉴别生成内容的真实性，影响用户判断，导致误解。同时，人工智能生成图片、音频、视频等高仿真内容，可能绕过现有人脸识别、语音识别等身份认证机制，导致认证鉴权失效。不当使用引发信息泄露风险。政府、企业等机构工作人员在业务工导致工作秘密、商业秘密、敏感业务数据泄露。加剧“信息茧房”效应风险。人工智能将广泛应用于定制化的信息“信效应进一步加剧。针对上述安全风险，模型算法研发者、服务提供者、系统使用者等需从训练数据、算力设施、模型算法、产品服务、应用场景各方面采取技术措施予以防范。构建负责任的人工智能研发应用体系。研究提出“以人为本、智能向善”在人工智能研发应用中的具体操作指南和最佳实践，持续推进人工智能强化人工智能供应链安全保障。推动共享人工智能知识成果，开源人工智能技术，共同研发人工智能芯片、框架、软件，引导产业界建立开放推进人工智能可解释性研究。从机器学习理论、训练方法、人机交互等方面组织研究人工智能决策透明度、可信度、纠错机制等问题，不断提促进人工智能安全治理国际交流合作。积极与各国就人工智能开展合作交流，支持在联合国框架下成立国际人工智能治理机构，协调人工智APC、G20、金砖国家等多边机制下的人工智能安全治理合作，加强与共建“一带一路”国家、“全球南方”国家合作，践，共同制定人工智能安全国际标准。服务提供者应在合同或服务协议中明确，一旦发现不符合使用意图和说明限制的误用、滥用，服务提供者有权采取纠正措施或提前终止服务。服务提供者应评估人工智能产品对使用者的影响，防止对使用者身心健康、生命财产等造成危害。4.1.1推进人工智能可构建以负责任的人工智能研发应4.1.14.1.14.1.14.1.14.1.14.1.2完善人工智能数据安全和个人信4.1.24.1.24.1.3强化人工智能供人工智能安全风险威胁信息共享4.1.34.1.34.2.1实施人工智能应建立人工智能服务可追溯管理制加大人工智能安建立健全人工智行业自律、社会促进人工智能安全治理国际交流4.2.1