ICS 35.030
CCS L 80
中华人民共和国国家标准
GB/T 42888—2023
信息安全技术机器学习算法安全评估规范
Information security technology—Assessment specification for security of machine learning algorithms
2023-08-06发布
2024-03-01实施
国家市场监督管理总局
发布国家标准化管理委员会
GB/T 42888—2023
目次
前言 …………………………………………………………………………………………………………………Ⅲ
1 范围 …………………………………………………………………………………………………………………1
2规范性引用文件 ………………………………………………………………………………………………1
3 术语和定义 …………………………………………………………………………………………………1
4 概述 ……………………………………………………………………………………………………………2
4.1 安全原则 …………………………………………………………………………………………………2
4.2安全要求分级 ……………………………………………………………………………………………2
5机器学习算法技术安全要求和评估方法 …………………………………………………………………2
5.1安全要求 ………………………………………………………………………………………………2
5.2评估方法 …………………………………………………………………………………………………5
6机器学习算法服务安全要求和评估方法 ……………………………………………………………………9
6.1安全要求 …………………………………………………………………………………………………9
6.2 评估方法 ………………………………………………………………………………………………9
7机器学习算法安全评估流程………………………………………………………………………………11
7.1流程要求………………………………………………………………………………………………11
7.2 评估准备……………………………………………………………………………………………11
7.3 评估方案………………………………………………………………………………………………11
7.4评估执行………………………………………………………………………………………………12
7.5评估结论………………………………………………………………………………………………12
7.6 评估报告………………………………………………………………………………………………12
附录 A(规范性) 算法推荐服务安全要求…………………………………………………………………14
附录 B(规范性)算法推荐服务评估方法…………………………………………………………………21
参考文献 ……………………………………………………………………………………………………………29
GB/T 42888—2023
信息安全技术机器学习算法安全评估规范
1 范围
本文件规定了机器学习算法技术和服务的安全要求和评估方法，以及机器学习算法安全评估流程。本文件适用于指导机器学习算法提供者保障机器学习算法生存周期安全以及开展机器学习算法安全评估，也可为监管评估提供参考。
2 规范性引用文件
本文件没有规范性引用文件。
3 术语和定义
下列术语和定义适用于本文件。
3.1
机器学习算法 machine learning algorithm功能单元通过学习新知识技能或整理已有知识技能以改进其性能的算法。
3.2
机器学习算法提供者 machine learning algorithm provider利用机器学习算法实现特定功能的组织。
注：本文件中简称算法提供者，包括算法技术提供者和算法服务提供者。算法技术提供者是指算法技术的开发和提供方，算法服务提供者是指使用应用算法技术的服务提供方。
3.3
算法推荐服务 algorithmic recommendation service
互联网信息服务算法推荐 internet information service of algorithmic recommendation应用算法推荐技术提供信息的服务。
注1:应用算法推荐技术是指利用机器学习算法实现生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术，向用户提供信息的活动。
注2:本文件将生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法统称为五类算法。
3.4
算法生存周期 algorithm lifecycle机器学习算法从设计到退役的演进过程。
注1:算法生存周期包括设计开发、验证确认、部署运行、维护升级、退役下线。
注2:一般算法服务处于部署运行阶段。