GB/T 42888-2023信息安全技术机器学习算法安全评估规范

ICS35030

CCSL.80

中华人民共和国国家标准

GB/T42888—2023

信息安全技术

机器学习算法安全评估规范

Informationsecuritytechnology—

Assessmentspecificationforsecurityofmachinelearningalgorithms

2023-08-06发布2024-03-01实施

国家市场监督管理总局发布

国家标准化管理委员会

GB/T42888—2023

目次

前言

…………………………Ⅲ

范围

1………………………1

规范性引用文件

2…………………………1

术语和定义

3………………1

概述

4………………………2

安全原则

4.1……………2

安全要求分级

4.2………………………2

机器学习算法技术安全要求和评估方法

5………………2

安全要求

5.1……………2

评估方法

5.2……………5

机器学习算法服务安全要求和评估方法

6………………9

安全要求

6.1……………9

评估方法

6.2……………9

机器学习算法安全评估流程

7……………11

流程要求

7.1……………11

评估准备

7.2……………11

评估方案

7.3……………11

评估执行

7.4……………12

评估结论

7.5……………12

评估报告

7.6……………12

附录规范性算法推荐服务安全要求

A()………………14

附录规范性算法推荐服务评估方法

B()………………21

参考文献

……………………29

Ⅰ

GB/T42888—2023

前言

本文件按照标准化工作导则第部分标准化文件的结构和起草规则的规定

GB/T1.1—2020《1:》

起草

。

请注意本文件的某些内容可能涉及专利本文件的发布机构不承担识别专利的责任

。。

本文件由全国信息安全标准化技术委员会提出并归口

(SAC/TC260)。

本文件起草单位北京赛西科技发展有限责任公司中国科学院计算技术研究所清华大学国家计

:、、、

算机网络应急技术处理协调中心上海商汤智能科技有限公司北京瑞莱智慧科技有限公司阿里巴巴

、、、

中国有限公司中国科学院信息工程研究所中国信息通信研究院中国电子科技集团公司第十五研

()、、、

究所国家信息技术安全研究中心广州大学北京大学华东师范大学北京航空航天大学华为技术有

、、、、、、

限公司北京旷视科技有限公司北京百度网讯科技有限公司深圳市腾讯计算机系统有限公司浙江大

、、、、

学北京奇虎科技有限公司北京小桔科技有限公司安徽工程大学北京智者天下科技有限公司北京

、、、、、

交通大学浙江工业大学上海工业控制安全创新科技有限公司中国人民公安大学深圳市大数据研究

、、、、

院北京计算机技术及应用研究所中国科学院自动化研究所上海燧原科技有限公司烽台科技北京

、、、、()

有限公司中国电子技术标准化研究院

、。

本文件主要起草人上官晓丽郝春亮许晓耕胡影陈钟沈华伟蒋慧梅敬青张宇光彭骏涛

:、、、、、、、、、、

郭岩李鹏霄艾政阳赵芸伟韩晗刘明尹芷仪庞亮王晓诗刘总真周熙孟国柱景慧昀张琳琳

、、、、、、、、、、、、、、

朱纯超霍珊珊刘健刘赫苏航金涛刘吉强任奎张旭东成瑾朱红儒杨韬李钦刘祥龙

、、、、、、、、、、、、、、

王义飞吴庚赫然顾钊铨李实曹晓琦严敏瑞付英波郭颖孙空军唐家渝刘曦泽王哲麟任璐

、、、、、、、、、、、、、、

徐永太张屹秦湛安泽亮徐雨晴李雪李大海徐光侠包沉浮郭建领宣琦张世天赵涌鑫王姣

、、、、、、、、、、、、、、

王秉政芦天亮吴保元韩磊张雨桐彭泉

、、、、、。

Ⅲ

GB/T42888—2023

信息安全技术

机器学习算法安全评估规范

1范围

本文件规定了机器学习算法技术和服务的安全要求和评估方法以及机器学习算法安全评估流程

,。

本文件适用于指导机器学习算法提供者保障机器学习算法生存周期安全以及开展机器学习算法安

全评估也可为监管评估提供参考

,。

2规范性引用文件

本文件没有规范性引用文件

。

3术语和定义

下列术语和定义适用于本文件

。

31

.

机器学习算法machinelearningalgorithm

功能单元通过学习新知识技能或整理已有知识技能以改进其性能的算法

。

32

.

机器学习算法提供者machinelearningalgorithmprovider

利用机器学习算法实现特定功能的组织

。

注本文件中简称算法提供者包括算法技术提供者和算法服务提供者算法技术提供者是指算法技术的开发和

:,。

提供方算法服务提供者是指使用应用算法技术的服务提供方

,。

33

.

算法推荐服务algorithmicrecommendationservice

互联网信息服务算法推荐internetinformationserviceofalgorithmicrecommendation

应用算法推荐技术提供信息的服