ICS35.
030
CCS L80
中 华 人 民 共 和 国 国 家 标 准
GB45438—2025
网络安全技术
人工智能生成合成内容标识方法
Cybersecuritytechnology—
Labelingmethodforcontentgeneratedbyartificialintelligence
2025-02-28发布 2025-09-01实施
国 家 市 场 监 督 管 理 总 局 国 家 标 准 化 管 理 委 员 会 发 布
GB45438—2025
目 次
前言 ………………………………………………………………………………………………………… Ⅲ 引言 ………………………………………………………………………………………………………… Ⅳ 1 范围 ……………………………………………………………………………………………………… 1 2 规范性引用文件 ………………………………………………………………………………………… 1 3 术语和定义 ……………………………………………………………………………………………… 1 4 概述 ……………………………………………………………………………………………………… 2 5 显式标识 ………………………………………………………………………………………………… 2 6 隐式标识 ………………………………………………………………………………………………… 4 附录 A (资料性) 标识方式 ……………………………………………………………………………… 5 附录 B (资料性) 显式标识典型应用场景 ……………………………………………………………… 7 附录 C (资料性) 内容显式标识示例 …………………………………………………………………… 8 附录 D (资料性) 交互场景界面显式标识示例 ………………………………………………………… 11 附录 E (规范性) 文件元数据隐式标识格式 …………………………………………………………… 13 附录 F (资料性) 文件元数据隐式标识示例 …………………………………………………………… 14
Ⅰ
GB45438—2025
前 言
本文件按照 GB/T1. 1—2020《标准化工作导则 第1部分:标准化文件的结构和起草规则》的规定 起草。 请注意本文件的某些内容可能涉及专利。本文件的发布机构不承担识别专利的责任。 本文件由中央网络安全和信息化委员会办公室提出并归口。
Ⅲ
GB45438—2025
引 言
为规范生成合成服务提供者和内容传播服务提供者对人工智能生成合成内容开展标识活动,根据
《人工智能生成合成内容标识办法》等有关法律法规,制定人工智能生成合成内容的显式标识和隐式标
识方法标准,以支撑有关法律法规的有效实施。
Ⅳ
GB45438—2025
网络安全技术
人工智能生成合成内容标识方法
1 范围
本文件规定了人工智能生成合成内容标识方法。
本文件适用于生成合成服务提供者和内容传播服务提供者开展人工智能生成合成内容标识活动。
2 规范性引用文件
下列文件中的内容通过文中的规范性引用而构成本文件必不可少的条款。其中,注日期的引用文
件,仅该日期对应的版本适用于本文件;不注日期的引用文件,其最新版本(包括所有的修改单)适用于
本文件。
GB18030—2022 信息技术 中文编码字符集
3 术语和定义
下列术语和定义适用于本文件。 3. 1 人工智能生成合成内容 contentgeneratedbyartificialintelligence 利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等信息。 3. 2 人工智能生成合成内容标识 labelofcontentgeneratedbyartificialintelligence 标识 表明某个内容是人工智能生成合成内容(3. 1)的信息。 注:标识可包含生成合成服务提供者和内容传播服务提供者等信息。 3. 3 显式标识 explicitlabel 在人工智能生成合成内容或交互场景界面中添加的,以文字、声音、图形等方式呈现并可被用户明 显感知到的标识。 3. 4 隐式标识 implicitlabel 采取技术措施在人工智能生成合成内容文件数据中添加的,不易被用户明显感知到的标识。 3. 5 文件元数据 filemetadata 按照特定编码格式嵌入到文件中的描述性数据,用于记录文件来源、属性、用途、版权等信息。 3. 6 文件元数据隐式标识 filemetadataimplicitlabel 在人工智能生成合成内容文件元数据中添加的隐式标识。
1
GB45438—2025
3. 7 人工智能生成合成内容服务提供者 artificialintelligencecontentgenerationserviceprovider 生成合成服务提供者 利用人工智能技术(包括通过提供可编程接口等方式)向公众提供生成合成文本、图片、音频、视频、 虚拟场景等服务的组织或个人。 3. 8 网络信息内容传播服务提供者 internetinformationcontentpropagationserviceprovider 内容传播服务提供者
4 概述
人工智能生成合成内容标识包含显式标识和隐式标识二种方式。显式标识指在人工智能生成合成
内容或交互场景界面中添加的,以文字、声音、图形等方式呈现并可被用户明显感知到的标识,主要用途
是向公众提示内容由人工智能生成合成;隐式标识指采取技术措施在人工智能生成合成内容文件数据
中添加的,不易 被 用 户 明 显 感 知 到 的 标 识,主 要 用 途 是 记 录 生 成 合 成 内 容 相 关 信 息。标 识 方 式 见
附录 A。
显式标识按照标识对象可分为内容显式标识、交互场景界面显式标识。内容显式标识可进一步分
为文本、图片、音频、视频、虚拟场景等显式标识,交互场景界面显式标识可进一步分为在内容附近的显
式标识和交互场景界面适当位置的显式标识。显式标识的典型应用场景示例见附录 B。
隐式标识按照标识位置可分为文件元数据隐式标识、内容隐式标识(例如在生成合成内容中添加的
数字水印)等。
5 显式标识
5. 1 文本内容显式标识 文本内容显式标识方法如下。 a) 文本内容显式标识应采用文字或角标形式。 b) 文字形式的文本内容显式标识应同时包含以下要素: 1) 人工智能要素:包含“人工智能”或“AI”,表明使用人工智能技术; 注:“AI”是人工智能(ArtificialIntelligence)的缩写。 2) 生成合成要素:包含“生成”和/或“合成”,表明内容制作方式为生成和/或合成。 c) 角标形式的文本内容显式标识应包含“AI”。 d) 文本内容显式标识应位于以下一个或多个位置: 1) 文本的起始位置; 2) 文本的末尾位置; 3) 文本的中间适当位置。 e) 文本内容显式标识使用的字型和颜色应清晰可辨。 文本内容显式标识示例见附录 C的 C. 1。 5. 2 图片内容显式标识
图片内容显式标识方法如下。
a) 图片内容显式标识应采用文字提示。
2
GB45438—2025
b) 图片内容显式标识应同时包含以下要素: 1) 人工智能要素:包含“人工智能”或“AI”,表明使用人工智能技术; 2) 生成合成要素:包含“生成”和/或“合成”,表明内容制作方式为生成和/或合成。 c) 图片内容显式标识应位于图片的边或角。 d) 图片内容显式标识使用的字型应清晰可辨。 e) 图片内容显式标识的文字高度不应低于画面最短边长度的5%。 注:非矩形图片的最短边指可完全将该图片包含在内部的矩形的最短边。 图片内容显式标识示例见 C. 2。 5. 3 音频内容显式标识 音频内容显式标识方法如下。 a) 音频内容显式标识应采用语音标识或音频节奏标识。 b) 语音标识应包含以下要素: 1) 人工智能要素:包含“人工智能”或“AI”,表明使用人工智能技术; 2) 生成合成要素:包含“生成”和/或“合成”,表明内容制作方式为生成和/或合成。 c) 音频节奏标识应为“短长 短短”的节奏。 注1:“短长 短短”节奏为“AI”的摩斯码表示。 d) 音频内容显式标识应位于以下一个或多个位置: 1) 音频的起始位置; 2) 音频的末尾位置; 3) 音频的中间适当位置。 注2:音频的起始位置位于生成合成的音频内容开始之前。音频的末尾位置位于生成合成的音频内容结束之后。 注3:在智能语音助手、智能客服、智能导航等音频的高频交互场景中,音频的起始位置、末尾位置是指一轮交互的 起始位置和末尾位置。 e) 语音标识应使用正常语速。 注4:汉语正常语速约在120字/min~160字/min。 f) 节奏标识应清晰可辨。 音频内容显式标识示例见 C. 3。 5. 4 视频内容显式标识
视频内容显式标识方法如下。
a) 视频内容显式标识应采用文字提示。
b) 视频内容显式标识应同时包含以下要素:
1) 人工智能要素:包含“人工智能”或“AI”,表明使用人工智能技术;
2) 生成合成要素:包含“生成”和/或“合成”,表明内容制作方式为生成和/或合成。
c) 视频内容显式标识应位于视频起始画面,可位于视频末尾和中间适当位置。
d) 视频内容显式标识应位于视频画面的边或角。
e) 视频内容显式标识使用的字型应清晰可辨。
f) 视频内容显式标识的文字高度不应低于画面最短边长度的5%。
g) 在视频正常播放速度下,视频内容显式标识持续时间不应少于2s。
视频内容显式标识示例见 C.
4。
5.
5 虚拟场景显式标识
虚拟场景显式标识方法如下。
3
GB45438—2025
a) 虚拟场景显式标识应采用文字提示。
b) 虚拟场景显式标识应同时包含以下要素:
1) 人工智能要素:包含“人工智能”或“AI”,表明使用人工智能技术;
2) 生成合成要素:包含“生成”和/或“合成”,表明内容制作方式为生成和/或合成。
c) 虚拟场景显式标识应位于虚拟场景起始画面,可位于虚拟场景持续服务过程中的适当位置。
d) 位于虚拟场景起始画面的虚拟场景显式标识应位于画面的边或角。
e) 虚拟场景显式标识使用的字型应清晰可辨。
f) 虚拟场景显式标识的文字高度不应低于画面最短边长度的5%。
5.
6 交互场景界面显式标识
交互场景界面显式标识方法如下。
a) 交互场景界面显式标识应采用文字提示。
b) 交互场景界面显式标识应同时包含以下要素:
1) 人工智能要素:包含“人工智能”或“AI”,表明使用人工智能技术;
2) 生成合成要素:包含“生成”和/或“合成”,表明内容制作方式为生成和/或合成。
c) 交互场景界面显式标识应采取以下一种或多种方式:
1) 在内容附近持续显示提示文字;
2) 在交互场景界面顶部、底部、背景等适当位置持续显示提示文字。
d) 交互场景界面显式标识使用的字型和颜色应清晰可辨。
交互场景界面显式标识示例见附录 D。
6 隐式标识
6.
1 文件元数据隐式标识
文件元数据隐式标识方法如下。
a) 隐式标识应包括以下要素:
1) 生成合成标签要素:内容的人工智能生成合成属性信息;
2) 生成合成服务提供者要素:生成合成服务提供者的名称或编码;
3) 内容制作编号要素:生成合成服务提供者对该内容的唯一编号;
4) 内容传播服务提供者要素:内容传播服务提供者的名称或编码;
5) 内容传播编号要素:内容传播服务提供者对该内容的唯一编号。
b) 文件元数据隐式标识格式应符合附录 E。
c) 人工智能生成合成的内容文件中,应仅保留一份文件元数据隐式标识。
文件元数据隐式标识示例见附录 F。
6.
2 内容隐式标识
内容隐式标识准许采用数字水印等形式。
4
GB45438—2025
附 录 A
(资料性)
标识方式
A.
1 显式标识
显式标识包括内容显式标识、交互场景界面显式标识等,如图 A.
1所示。
图 A.
1 显式标识
A. 2 隐式标识 隐式标识包括文件元数据隐式标识、内容隐式标识等,如图 A. 2所示。 内容隐式标识是在人工智能生成合成内容数据中添加的数字水印等形式的隐式标识,在图 A. 2中 用虚线框表示,在本文件中不做要求。
5
GB45438—2025
图 A.
2 隐式标识
6
GB45438—2025
附 录 B
(资料性)
显式标识典型应用场景
显式标识典型应用场景包括在以下服务中,可能导致公众混淆或者误认的:
a) 智能对话、智能写作等模拟自然人进行文本的生成或者编辑服务;
b) 合成人声、仿声等语音生成或者显著改变个人身份特征的编辑服务;
c) 人脸生成、人脸替换等人物图像、视频生成或者显著改变个人身份特征的编辑服务;
d) 人脸操控、姿态操控等人物图像、视频生成或者显著改变个人身份特征的编辑服务;
e) 沉浸式拟真场景等生成或者编辑服务;
f) 文生图片等图片内容生成服务;
g) 音乐创作等音频内容生成服务;
h) 文生视频、图生视频等视频内容生成服务;
i) 其他具有生成或者显著改变信息内容功能的服务。
7
GB45438—2025
附 录 C
(资料性)
内容显式标识示例
C.
1 文本内容显式标识
C.
1 文字形式
使用“AI生成”提示文字,位于文本起始位置的内容显式标识示例见图 C.
1。
图 C.
1 位于文本起始位置的文字形式内容显式标识示例
使用“AI生成”提示文字,位于文本末尾位置的内容显式标识示例见图 C.
2。
图 C.
2 位于文本末尾位置的文字形式内容显式标识示例
C.
2 角标形式
使用“AI”提示角标,位于文本起始位置的内容显式标识示例见图 C.
3。
8
GB45438—2025
图 C.
3 位于文本起始位置的角标形式内容显式标识示例
使用“AI”提示角标,位于文本末尾位置的内容显式标识示例见图 C.
4。
图 C.
4 位于文本末尾位置的角标形式内容显式标识示例
C.
2 图片内容显式标识
使用“人工智能生成合成”提示文字,位于图片右下角的内容显式标识示例见图 C.
5。
9
GB45438—2025
图 C.
5 位于图片右下角的内容显式标识示例
C. 3 音频内容显式标识 在音频起始位置添加语音或音频节奏标识示例见图 C. 6。 图 C. 6 位于音频起始位置的语音或音频节奏标识示例
C.
4 视频内容显式标识
使用“人工智能生成合成”提示文字,位于视频起始画面右下角的内容显式标识示例见图 C.
7。
图 C.
7 位于视频起始画面右下角的内容显式标识示例
1
0
GB45438—2025
附 录 D
(资料性)
交互场景界面显式标识示例
D.
1 在内容附近持续显式
D.
1 内容显示区域附近
使用包含“AI生 成”提 示 文 字,位 于 文 本 内 容 显 示 区 域 附 近 的 交 互 场 景 界 面 显 式 标 识 示 例 见
图 D.
1。
图 D.
1 位于文本内容显示区域附近的交互场景界面显式标识示例
D.
2 音频播放区域附近
使用包含“AI生成”提示文字,位于音频播放区域附近的交互场景界面显式标识示例见图 D.
2。
图 D.
2 位于音频播放区域附近的交互场景界面显式标识示例
D.
2 在交互场景界面适当位置持续显示
D.
1 交互场景界面底部
使用包含“人工智能生成合成”提示文字,位于交互场景界面底部的交互场景界面显式标识示例见
图 D.
3。
1
1
GB45438—2025
图 D.
3 位于交互场景界面底部的交互场景界面显式标识示例
D.
2 交互场景界面背景
使用包含“人工智能生成合成”提示文字,位于交互场景界面背景的交互场景界面显式标识示例见
图 D.
4。
图 D.
4 位于交互场景界面背景的交互场景界面显式标识示例
1
2
GB45438—2025
附 录 E
(规范性)
文件元数据隐式标识格式
文件元数据隐式标识格式要求如下。 a) 在文件元数据中添加隐式标识扩展字段,字段名称或关键词中应包含“AIGC”。 b) 隐式标识扩展字段的值,应为符合以下格式的字符串。 {"AIGC": {"Label":"value1","ContentProducer":"value2","ProduceID":" value3","ReservedCode1":"value4","ContentPropagator":"value5","PropagateID": "value6","ReservedCode2":"value7"}} 注1:生成合成服务提供者对人工智能生成合成内容首次写入文件元数据隐式标识时,内容传播服务提供者要素与 生成合成服务提供者要素一致,内容传播编号要素与内容制作编号要素一致。 c) 生成合成标签要素由 Label表示,取值为value1,应符合以下要求。 1) 存储内容属于、可能、疑似为人工智能生成合成的属性信息:属于人工智能生成合成内容 的,value1 的值取1;可能为人工智能生成合成内容的,value1 的值取2;疑似为人工智 能生成合成内容的,value1 的值取3。 2) 类型为字符串。 d) 生成合成服务提供者要素由 ContentProducer表示,取值为value2,应符合以下要求: 1) 存储生成合成服务提供者的名称或编码; 2) 类型为字符串。 e) 内容制作编号要素由 ProduceID 表示,取值为value3,应符合以下要求: 1) 存储生成合成服务提供者对该内容的唯一编号; 2) 类型为字符串。 f) 预留字段1由 ReservedCode1表示,取值为value4,要求如下: 1) 可存储用于生成合成服务提供者自主开展安全防护,保护内容、标识完整性的信息; 2) 类型应为字符串。 注2:生成合成服务提供者使用预留字段1进行文件元数据隐式标识安全防护的示例见附录 F的 F. 4。 g) 内容传播服务提供者要素由 ContentPropagator表示,取值为value5,应符合以下要求: 1) 存储内容传播服务提供者的名称或编码; 2) 类型为字符串。 h) 内容传播编号要素由 PropagateID 表示,取值为value6,应符合以下要求: 1) 存储内容传播服务提供者对该内容的唯一编号; 2) 类型为字符串。 i) 预留字段2由 ReservedCode2表示,取值为value7,要求如下: 1) 可存储用于内容传播服务提供者自主开展安全防护,保护内容、标识完整性的信息; 2) 类型应为字符串。 j) c)~i)中各要素的值应主要由 GB18030—2022中码位为0x21、0x23~0x5B、0x5D~0x7E 的 字符以及"构成。 注3:码位0x21、0x23~0x5B、0x5D~0x7E包括除"和外的所有单字节编码字符,"为转义字符,用于表示"。
1
3
GB45438—2025
附 录 F
(资料性)
文件元数据隐式标识示例
F.
1 图片文件元数据隐式标识示例
属于人工智能生成合成的图片文件元数据隐式标识示例见图 F.
1的“AIGC”部分。
图 F.
1 图片文件元数据隐式标识示例
F.
2 音频文件元数据隐式标识示例
可能为人工智能生成合成的音频文件元数据隐式标识示例见图 F.
2中的“AIGC”部分。
图 F.
2 音频文件元数据隐式标识示例
1
4
GB45438—2025
F.
3 视频文件元数据隐式标识示例
疑似为人工智能生成合成的视频文件元数据隐式标识示例见图 F.
3中的“AIGC”部分。
图 F.
3 视频文件元数据隐式标识示例
F.
4 使用数字签名的安全防护示例
生成合成服务提供者使用杂凑算法对文件元数据信息进行数字签名,并将结果存储在预留字段1
中的示例如下所示。
"ReservedCode1":"e862483430d978cbf828b8b24296ef9328d843a0"
1
5