生成式人工智能已成为继移动互联网技术之后最大的一波技术浪潮，同时也带来了新的安全风险和挑战。随着人工智能技术的发展，人工智能生成合成内容日益逼真，网络传播内容是否由人工智能生成合成难以分辨，社会上已出现多起利用生成合成内容传播虚假新闻、引发社会舆情，或是利用生成合成内容进行诈骗的案件。人工智能生成合成内容存在被误用、滥用、恶意使用的安全风险，严重影响国家安全，危害广大人民群众在网络空间的合法权益。
根据国家标准化管理委员会标准制修订计划，强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》由中央网络安全和信息化委员会办公室提出，委托全国网络安全标准化技术委员会执行。
那么什么是人工智能生成合成内容标识呢?
人工智能生成合成内容是利用深度学习、虚拟现实等生成合成类算法制作的文本、图像、音频、视频等内容；标识包含显式标识和隐式标识二种方式。
一、显示标识
显式标识指能被用户直接感知的标识，主要用途是提示用户当前内容由人工智能生成合成，实现方式包括内容显式标识、交互场景界面显式标识等，如下图：
人工智能生成合成内容显式标识的典型应用场景如下：
- 智能对话、智能写作等模拟自然人进行文本的生成或者编辑服务；
- 合成人声、仿声等语音生成或者显著改变个人身份特征的编辑服务；
- 人脸生成、人脸替换等人物图像、视频生成或者显著改变个人身份特征的编辑服务；
- 人脸操控、姿态操控等人物图像、视频生成或者显著改变个人身份特征的编辑服务；
- 沉浸式拟真场景等生成或者编辑服务；
- 文生图片等图片内容生成服务；
- 音乐等音频内容生成服务；
- 文生视频、图生视频等视频内容生成服务；
- 其他具有生成或者显著改变信息内容功能的服务。
1 、文本内容显式标识方法：
1.1文本内容显式标识应采用文字或角标形式。
1.2文字形式的文本内容显式标识应同时包含以下要素：
1) 人工智能要素：包含“人工智能”或“AI”，表明使用人工智能技术；
2) 生成合成要素：包含“生成”和/或“合成”，表明内容制作方式为生成和/或合成。
1.3角标形式的文本内容显式标识应包含“AI”。
1.4文本内容显式标识应位于以下一个或多个位置：
1) 文本的起始位置；
2) 文本的末尾位置；
3) 文本的中间适当位置。
1.5文本内容显式标识使用的字型和颜色应清晰可辨。
2、图片内容显式标识方法：
2.1图片内容显式标识应采用文字提示。
2.2图片内容显式标识应同时包含以下要素：
1) 人工智能要素：包含“人工智能”或“AI”，表明使用人工智能技术；
2) 生成合成要素：包含“生成”和/或“合成”，表明内容制作方式为生成和/或合成。
2.3图片内容显式标识应位于图片的边或角。
2.4图片内容显式标识使用的字型应清晰可辨。
2.5图片内容显式标识的文字高度应不低于画面最短边长度的5%。
3、音频内容显式标识方法：
3.1音频内容显式标识应采用语音标识或音频节奏标识。
3.2语音标识应同时包含以下要素：
1) 人工智能要素：包含“人工智能”或“AI”，表明使用人工智能技术；
2) 生成合成要素：包含“生成”和/或“合成”，表明内容制作方式为生成和/或合成。
3.3音频节奏标识应为“短长 短短”的节奏。
注1：“短长 短短”节奏为“AI”的摩斯码表示。
3.4音频内容显式标识应位于以下一个或多个位置：
1) 音频的起始位置；
2) 音频的末尾位置；
3) 音频的中间适当位置。
注2：在智能语音助手、智能客服、智能导航等音频的高频交互场景中，音频的起始位置、末尾位置是指一轮交互的起始位置和末尾位置。
3.5语音标识应使用正常语速。
注3：汉语正常语速约在120~160字/分钟。
4、视频内容显式标识方法：
4.1 视频内容显式标识应采用文字提示。
4.2视频内容显式标识应同时包含以下要素：
1) 人工智能要素：包含“人工智能”或“AI”，表明使用人工智能技术；
2) 生成合成要素：包含“生成”和/或“合成”，表明内容制作方式为生成和/或合成。
4.3视频内容显式标识应位于视频起始画面，可位于视频末尾和中间适当位置。
4.4视频内容显式标识应位于视频画面的边或角。
4.5视频内容显式标识使用的字型应清晰可辨。
4.6视频内容显式标识的文字高度应不低于画面最短边长度的5%。
5、交互场景界面显式标识方法：
5.1交互场景界面显式标识应采用文字提示。
5.2交互场景界面显式标识使用的字型和颜色应清晰可辨。
5.3交互场景界面显式标识应同时包含以下要素：
1) 人工智能要素：包含“人工智能”或“AI”，表明使用人工智能技术；
2) 生成合成要素：包含“生成”和/或“合成”，表明内容制作方式为生成和/或合成。
5.4 内容周边显式标识应采取以下一种或多种方式：
1) 在内容展示区域附近持续显示提示文字；
2) 在内容展示区域的背景均匀添加包含提示文字的显式水印标识。
5.5 非内容周边显式标识应采取以下一种或多种方式：
1) 音频、视频交互区域附近持续显示提示文字；
2) 交互场景界面顶部、底部等适当位置持续显示提示文字。
6、大模型备案、算法备案、app小程序等备案：
二、隐式标识
隐式标识指用户不能直接感知、不影响用户正常使用，但通过技术手段能从内容中提取的标识，主要用途是记录生成合成内容信息，实现方式包括元数据隐式标识、内容隐式标识等，内容隐式标识是指在人工智能生成合成内容数据中添加的数字水印等标识，如下图：
1、元数据隐式标识方法：
1.1 隐式标识应包括以下要素：
1) 生成合成标签要素：内容的人工智能生成合成属性信息，包括确定、可能、疑似；
2) 生成合成服务提供者要素：生成合成服务提供者的名称或编码；
3) 内容制作编号要素：生成合成服务提供者对该内容的唯一编号；
4) 内容传播服务提供者要素：内容传播服务提供者的名称或编码；
5) 内容传播编号要素：内容传播服务提供者对该内容的唯一编号。
1.2元数据隐式标识格式：
a) 在文件元数据中添加隐式标识扩展字段，字段名称或关键词中应包含“AIGC”。
b) 隐式标识扩展字段的值，应为符合以下格式的字符串：
{"AIGC": {"Label": value1, "ContentProducer": value2, "ProduceID": value3, "ReservedCode1":
value4, "ContentPropagator": value5, "PropagateID": value6,，"ReservedCode2": value7, "}}
注 1：生成合成服务提供者对人工智能生成合成内容首次写入元数据隐式标识时，内容传播服务提供者要素为生成
合成服务提供者要素，内容传播编号为内容制作编号。
c) 生成合成标签要素由Label表示，取值为value1，应符合以下要求：
1) 应存储内容确定、可能、疑似为人工智能生成合成属性的信息：确定为人工智能生成合成
内容的，标记为“1”；可能为人工智能生成合成内容的，标记为“2”；疑似为人工智能
生成合成内容的，标记为“3”。
2) 类型应为字符串，长度应为1个字符。
d) 生成合成服务提供者要素由ContentProducer表示，取值为value2，应符合以下要求：
1) 应存储生成合成服务提供者要素信息；
2) 类型应为字符串，长度不应超过32个字符。
e) 内容制作编号要素由ProduceID表示，取值为value3，应符合以下要求：
1) 应存储内容制作编号要素信息；
2) 类型应为字符串，长度不应超过32个字符。
f) 预留字段1（ReservedCode1）的值（value4）应符合以下要求：
1) 可存储用于生成合成服务提供者自主开展安全防护，保护内容、标识完整性的信息；
2) 类型应为字符串。
注2：生成合成服务提供者使用预留字段1进行元数据隐式标识安全防护的示例见附录F的F.4。
g) 内容传播服务提供者要素由ContentPropagator表示，取值为value5，应符合以下要求：
1) 应存储内容传播服务提供者要素信息；
2) 类型应为字符串，长度不应超过32个字符。
h) 内容传播编号要素由PropagateID表示，取值为value6，应符合以下要求：
1) 应存储内容传播编号要素信息；
2) 类型应为字符串，长度不应超过32个字符。
i) 预留字段2（ReservedCode2）的值（value7）应符合以下要求：
1) 可存储用于内容传播服务提供者自主开展安全防护，保护内容、标识完整性的信息；
2) 类型应为字符串
1.3确定、可能、疑似为人工智能生成合成的内容文件中，应仅保留一份元数据隐式标识。元数据隐式标识示例：
1) 图片内容文件元数据隐式标识：
2) 音频内容文件元数据隐式标识：
3) 视频内容文件元数据隐式标识：
4) 使用数字签名的安全防护示例：
