网信办等4部门制定的AI生成内容新规：《人工智能生成合成内容标识办法》——AI生成合成内容需显著标识

发布时间：2025-03-23 16:00:35

根据国家互联网信息办公室等四部门联合发布的《人工智能生成合成内容标识办法》（以下简称《标识办法》），自2025年9月1日起，所有利用人工智能技术生成或合成的文本、图片、音频、视频、虚拟场景等内容，必须通过显式标识和隐式标识明确标注其人工智能生成属性。

以下是该办法的核心内容及要点解读：

技术滥用问题
近年来，人工智能生成合成技术（如深度学习、生成对抗网络等）快速发展，但同时也引发虚假信息泛滥、身份冒充、恶意内容传播等问题。例如，AI生成的虚假新闻、深度伪造视频（如“换脸”“拟声”诈骗）等严重扰乱社会秩序，削弱公众对网络内容的信任。
治理目标
- 保障公众知情权：通过标识帮助用户识别AI生成内容，减少误导风险。
- 压实主体责任：明确生成服务提供者、传播平台、用户三方责任，形成全链条监管。
- 推动技术合规发展：在确保安全的前提下，促进AI技术健康发展。

1. 标识类型与具体要求

显式标识（用户可直接感知）：
- 文本：在起始、末尾或适当位置添加文字提示（如“AI生成”）或通用符号（如符号图标），或在交互界面添加显著标识。
- 音频：在起始、末尾或中间添加语音提示或音频节奏变化，或在界面添加标识。
- 图片：在显著位置添加文字、图形等标识（如右下角标注）。
- 视频：在起始画面、播放周边或中间位置添加文字、图形标识。
- 虚拟场景：在起始画面或持续服务过程中添加标识。
- 其他场景：根据应用特点设计标识（如虚拟直播、游戏等）。
隐式标识（技术嵌入）：
在文件元数据中添加不可见标识，包含生成内容的属性信息、服务提供者名称/编码、内容编号等，确保内容可追溯。
特殊情形：
用户若要求生成不含显式标识的内容，服务提供者需通过用户协议明确标识义务和使用责任，并留存日志至少6个月。

2. 主体责任划分

生成服务提供者：
- 必须对生成内容添加显式和隐式标识。
- 提供下载、复制功能时，确保文件保留标识。
传播平台（如社交媒体、视频平台）：
- 核验文件元数据中的隐式标识。
- 若检测到生成痕迹（如无显式标识），需在内容周边添加提示标识（如“疑似AI生成”）。
应用程序分发平台（如应用商店）：
- 上架含AI生成服务的应用时，需核验其标识合规性材料。
用户：
上传生成内容时需主动声明并使用平台标识功能，不得恶意删除或伪造标识。

3. 禁止行为

法律依据：
- 《网络安全法》《互联网信息服务算法推荐管理规定》《生成式人工智能服务管理暂行办法》等。
- 配套强制性国家标准《网络安全技术人工智能生成合成内容标识方法》同步实施，明确技术标准。
违规后果：
- 监管部门（网信、工信、公安、广电等）可依据相关法规责令整改、警告、罚款，或暂停服务。

实施时间：2025年9月1日起正式施行。
意义：
- 技术向善：通过标识管理，减少虚假信息传播，维护网络生态安全。
- 全链条治理：覆盖生成、传播、分发各环节，形成“技术+制度+监管”的治理闭环。
- 国际示范：为全球AI治理提供中国方案，平衡技术创新与风险防控。

该办法的出台，标志着我国在AI治理领域迈出关键一步，既为技术创新提供空间，也为防范滥用风险构建了制度屏障。后续需关注配套标准的细化执行及企业合规实践。