信息安全技术 人工智能计算平台安全框架-编制说明

一、工作简况

1、任务来源

《信息安全技术人工智能计算平台安全框架》是全国信息安全技术标准化

委员会（后文简称“信安标委”）2022年11月公布立项的信息安全国家标准制定

项目（国标计划号：20230249-T-469）。该标准是由华为技术有限公司牵头，并

联合中国电子技术标准化研究院、中国电信集团有限公司等几十家单位开展编制

与讨论工作。

2、标准编制的主要成员单位

华为技术有限公司负责起草，中国电子技术标准化研究院、中国电信集团有

限公司、上海商汤智能科技有限公司、北京交通大学、北京快手科技有限公司、

北京神州绿盟科技有限公司从、北京数安行科技有限公司、北京数字认证股份有

限公司、北京信安世纪科技股份有限公司、北京眼神科技有限公司、北京银联金

卡科技有限公司、北京远鉴信息技术有限公司、公安部第三研究所、公安部第一

研究所、国家工业信息安全发展研究中心、国家信息技术安全研究中心、国家信

息中心、国网区块链科技（北京）有限公司、国网新疆电力有限公司电力科学研

究院、国网智能电网研究院有限公司、杭州安恒信息技术股份有限公司、华控清

交信息科技（北京）有限公司、华中科技大学、蚂蚁科技集团股份有限公司、美

的集团（上海）有限公司、南湖实验室、启明星辰信息技术集团股份有限公司、

山石网科通信技术股份有限公司、上海观安信息技术股份有限公司、上海市信息

安全测评认证中心、上海燧原科技有限公司、上海依图网络科技有限公司、深圳

大学、深圳市洞见智慧科技有限公司、四川大学、腾讯云计算（北京）有限责任

公司、武汉东湖大数据交易中心股份有限公司、西安交通大学、云从科技集团股

份有限公司、浙江大华技术股份有限公司、郑州信大捷安信息技术股份有限公司、

中国科学技术大学、中国科学院软件研究所、中国科学院信息工程研究所、中国

移动通信集团有限公司、中电科网络安全科技股份有限公司、中国电力科学研究

院有限公司等单位共同参与了该标准的起草工作。

1

3、主要工作过程

1)2021年4月至11月，开展《AI模型保护参考架构》研究项目，研究人

工智能应用、安全威胁、人工智能计算平台层面能够应对的安全威胁、国内外人

工智能安全标准及政策法规对AI模型保护保护、人工智能计算平台安全相关要

求、国内外关于人工智能计算平台保障AI模型安全相关的前沿技术、产品及解

决方案等，基于研究内容构建“基于AI计算平台的模型保护参考架构”，在安标

委11月的会议周上通过工作组汇报，同意研究项目修改后提交秘书处验收、该

标准研究项目为《信息安全技术人工智能计算平台安全框架》标准编制奠定研

究基础、产业共识基础等。

2)2021年12月至2022年4月，编制组形成《人工智能计算平台安全框架》

标准草案，提交该标准制定需求，信安标委发布《2022年网络安全国家标准需求

清单》，该项目被纳入需求清单，华为技术有限公司协同中国电子技术标准化研

究院、中国电信、中国移动等完成项目申报。

3)2022年4月至5月，编制组密集讨论形成正式草案，于5月20日在大

数据工作组汇报答辩，通过工作组立项评审。

4)2022年6月至11月，编制组进行多轮研讨、刷新草案，并完成相关研

究报告、标准应用实施报告等，通过安标委专家评审、委员投票、主任办公会等，

于11月2日由安标委公布正式立项。

5)2022年11月至12月，编制组进行正式立项后的第一次研讨会，进一步

讨论明确标准对象、范围、安全威胁等重点问题，并分工完善标准草案，通过大

数据工作组汇报评审，同意推进至征求意见稿。

6)2022年12月27日，编制组对会议周期间大数据工作组专家提出的意见

进行逐一讨论，形成一致结论，并结合项目责任专家、责任编辑等的意见，修改

完善形成标准征求意见稿。

7)2022年12月29日，牵头单位组织研讨会，向责任专家、责任编辑介绍

标准内容，以及会议周工作组意见，吸取责任专家及责任编辑的意见；

8)2023年2月26日，秘书处组织专家审查会，本标准通过专家审查，同

意进入征求意见稿。

9)2023年3月22日，编制组对牵头单位按照专家审查会意见修改情况进

2

行一一讨论，形成一致意见。

10)2023年4月28日，牵头单位组织标准试点启动会，邀请工作组秘

书、责任专家及秘书处参会，传递国标试点要求及计划，动员征集试点参与单位。

二、标准编制原则和确定主要内容的论据及解决的主要问题

1、编制原则

本标准的编制原则是：

1）实用性

根据对金融、运营商、电力等诸多行业的主流AI应用场景调研，国内外政策

法规及标准分析，归纳总结AI计算平台安全需求，包括自身安全、AI核心资产保

护等，针对这些安全需求，建立AI计算平台安全框架，包括安全功能、安全机制、

安全模块和服务接口，指导人工智能计算平台的设计与实现，也为平台使用方应

用人工智能计算平台安全功能提供参考。

2）安全性

在本标准中分析了人工智能计算平台不同参与方的业务活动，识别其核心资

产及安全需求，保障AI核心资产传输、存储、训练、推理全流程安全。

3）符合性

符合国家有关法律法规和已有标准规范的相关要求。

2、确定主要内容的依据

标准制定的依据为：

a）标准格式按照GB/T1.1—2020标准要求编写。

b）本标准制定参考以下国家、行业标准：

GB/T25069—2022信息安全技术术语

GB/T41867—2022信息技术人工智能术语

GB/T42018—2022信息技术人工智能平台计算资源规范

3、解决的主要问题

本标准要解决的问题为，人工智能计算任务执行过程中，AI计算平台如何

保障自身安全以及如何基于平台保障AI核心资产安全。

本标准主要框架如下：

前言

3

引言

1范围

本文件规定了人工智能计算平台安全框架的安全功能、安全机制、安全模块以

及服务接口。

本文件适用于指导人工智能计算平台的设计与实现，也为平台使用方应用人工

智能计算平台安全功能提供参考。

2规范性引用文件

GB/T25069—2022信息安全技术术语

GB/T41867—2022信息技术人工智能术语

GB/T42018—2022信息技术人工智能平台计算资源规范

3术语和定义

本标准定义了人工智能加速处理器、人工智能服务器、人工智能计算平台、人

工智能模型、人工智能核心资产、对抗样本等相关术语定义。

4.缩列语

5.概述

本节介绍人工智能计算平台安全框架组成：

a)安全框架结构：介绍本文所述的人工智能计算平台安全框架组成结构；

b)安全功能概述：分别介绍平台自身安全和AI核心资产保护两方面的安全功

能以及各安全功能的作用目的；

c)安全机制概述：介绍各安全机制的作用目的、涉及的安全模块及服务接口。

d)安全模块概述：介绍各安全模块基本功能作用；

e)服务接口概述：介绍本文件所述安全机制涉及的服务接口。

6.安全模块

规范各安全模块具备的基本功能。

7.安全机制

规范各安全机制涉及的安全模块交互关系和交互流程。

8.服务接口

归纳各安全机制涉及的服务接口及服务接口所属安全模块、接口作用。

4

三、主要试验情况分析

基于招商银行异常行为识别场景对本文件定义的“加解密机制”及相关安全模

块功能进行了试验验证，整体效果表明该机制符合实际场景需求，能够有效保障招

行AI模型、数据等核心资产从总行训练环境到分行边缘推理环境传输、存储全流

程加密保护。

四、知识产权情况说明

本标准不涉及专利及知识产权问题。

五、产业化情况、推广应用论证和预期达到的经济效果

本标准所定义的安全框架适用于各类人工智能应用系统的底层软硬件基础设

施。现阶段，在人工智能领域及关乎国计民生的行业领域，均已部署人工智能应用

系统，计划通过采纳人工智能技术促进本行业的数字化、智能化水平，提高相关业

务的性能、效率及准确度。因此，本标准已具备足够的产业化基础。另一方面，在

本标准编制过程中，金融/电信/能源等重点行业中的企业单位及人工智能产业中的

软件开发商、安全服务商等专业公司均积极参与标准试点工作，组成标准推广应用

工作组共同推动本标准在不同领域的应用验证，这也充分证明本标准具备足够的产

业化基础，也是各领域亟需参考的关键标准。

通过本标准的制定，一方面可以帮助人工智能领域及使用人工智能技术的各行

各业构筑安全的人工智能计算平台，夯实基础以提升人工智能应用系统的安全性；

另一方面可以帮助各领域人工智能技术的相关参与方保障其模型、训练数据集等AI

核心资产安全。总而言之，本标准的制定能够为人工智能技术的发展以及各行业领

域加速应用人工智能技术保驾护航，具备显著的经济效益，意义重大。

六、采用国际标准和国外先进标准情况

无

七、与现行相关法律、法规、规章及相关标准的协调性

本标准与现行法律、法规、强制性国家标准及相关标准协调一致。TC260《机

器学习算法安全评估规范》标准侧重模型、数据、算法等自身安全增强，本标准侧

重AI计算平台自身安全以及AI计算平台如何加强AI模型、数据等AI核心资产保

护，二者对象范围等存在差异，但相辅相成共同促进AI整体安全。与SC42《人工

智能术语》、《人工智能平台资源供给》在术语及AI平台组成等存在一致性或映射

5

关系；。

八、重大分歧意见的处理经过和依据

无。

九、标准性质的建议

建议作为国家推荐性标准发布。

十、贯彻标准的要求和措施建议

本标准期望达成以下两方面效果：

1）使得AI计算平台提供方能够参考本标准设计、研发AI计算平台，保障AI

计算平台自身安全，并提供相关安全功能及服务接口辅助AI计算平台使用

方保障AI核心资产传输、存储、训练、推理全流程安全；

2）使得AI计算平台使用方，包括数据提供方、模型提供方、应用开发方等，

能够参考调用本标准定义的安全功能模块，加强对AI核心资产的安全保

护。

十一、替代或废止现行相关标准的建议

无。

十二、其它应予说明的事项

无

《信息安全技术人工智能计算平台安全框架》编制工作组

2022-12-31

6

一、工作简况

1、任务来源

《信息安全技术人工智能计算平台安全框架》是全国信息安全技术标准化

委员会（后文简称“信安标委”）2022年11月公布立项的信息安全国家标准制定

项目（国标计划号：20230249-T-469）。该标准是由华为技术有限公司牵头，并

联合中国电子技术标准化研究院、中国电信集团有限公司等几十家单位开展编制

与讨论工作。

2、标准编制的主要成员单位

华为技术有限公司负责起草，中国电子技术标准化研究院、中国电信集团有

限公司、上海商汤智能科技有限公司、北京交通大学、北京快手科技有限公司、

北京神州绿盟科技有限公司从、北京数安行科技有限公司、北京数字认证股份有

限公司、北京信安世纪科技股份有限公司、北京眼神科技有限公司、北京银联金

卡科技有限公司、北京远鉴信息技术有限公司、公安部第三研究所、公安部第一

研究所、国家工业信息安全发展研究中心、国家信息技术安全研究中心、国家信

息中心、国网区块链科技（北京）有限公司、国网新疆电力有限公司电力科学研

究院、国网智能电网研究院有限公司、杭州安恒信息技术股份有限公司、华控清

交信息科技（北京）有限公司、华中科技大学、蚂蚁科技集团股份有限公司、美

的集团（上海）有限公司、南湖实验室、启明星辰信息技术集团股份有限公司、

山石网科通信技术股份有限公司、上海观安信息技术股份有限公司、上海市信息

安全测评认证中心、上海燧原科技有限公司、上海依图网络科技有限公司、深圳

大学、深圳市洞见智慧科技有限公司、四川大学、腾讯云计算（北京）有限责任

公司、武汉东湖大数据交易中心股份有限公司、西安交通大学、云从科技集团股

份有限公司、浙江大华技术股份有限公司、郑州信大捷安信息技术股份有限公司、

中国科学技术大学、中国科学院软件研究所、中国科学院信息工程研究所、中国

移动通信集团有限公司、中电科网络安全科技股份有限公司、中国电力科学研究

院有限公司等单位共同参与了该标准的起草工作。

1

3、主要工作过程

1)2021年4月至11月，开展《AI模型保护参考架构》研究项目，研究人

工智能应用、安全威胁、人工智能计算平台层面能够应对的安全威胁、国内外人

工智能安全标准及政策法规对AI模型保护保护、人工智能计算平台安全相关要

求、国内外关于人工智能计算平台保障AI模型安全相关的前沿技术、产品及解

决方案等，基于研究内容构建“基于AI计算平台的模型保护参考架构”，在安标

委11月的会议周上通过工作组汇报，同意研究项目修改后提交秘书处验收、该

标准研究项目为《信息安全技术人工智能计算平台安全框架》标准编制奠定研

究基础、产业共识基础等。

2)2021年12月至2022年4月，编制组形成《人工智能计算平台安全框架》

标准草案，提交该标准制定需求，信安标委发布《2022年网络安全国家标准需求

清单》，该项目被纳入需求清单，华为技术有限公司协同中国电子技术标准化研

究院、中国电信、中国移动等完成项目申报。

3)2022年4月至5月，编制组密集讨论形成正式草案，于5月20日在大

数据工作组汇报答辩，通过工作组立项评审。

4)2022年6月至11月，编制组进行多轮研讨、刷新草案，并完成相关研

究报告、标准应用实施报告等，通过安标委专家评审、委员投票、主任办公会等，

于11月2日由安标委公布正式立项。

5)2022年11月至12月，编制组进行正式立项后的第一次研讨会，进一步

讨论明确标准对象、范围、安全威胁等重点问题，并分工完善标准草案，通过大

数据工作组汇报评审，同意推进至征求意见稿。

6)2022年12月27日，编制组对会议周期间大数据工作组专家提出的意见

进行逐一讨论，形成一致结论，并结合项目责任专家、责任编辑等的意见，修改

完善形成标准征求意见稿。

7)2022年12月29日，牵头单位组织研讨会，向责任专家、责任编辑介绍

标准内容，以及会议周工作组意见，吸取责任专家及责任编辑的意见；

8)2023年2月26日，秘书处组织专家审查会，本标准通过专家审查，同

意进入征求意见稿。

9)2023年3月22日，编制组对牵头单位按照专家审查会意见修改情况进

2

行一一讨论，形成一致意见。

10)20