一段地方官员"说"着从未学过的方言的短视频,如今角落里多了一行小小的"AI生成"标签;一张拟真产品图,文件深处藏着记录制作者与时间的隐形元数据。两者背后是同一条刚性规则:自2025年9月1日起,在中国境内提供AI生成文本、音频、图片、视频或虚拟场景的服务,都必须为产出内容打上标识。
这部规则的正式名称是《人工智能生成合成内容标识办法》,由四部门联合发布:网信办、工信部、公安部、国家广播电视总局。它并非单独落地——与之配套的强制性国家标准GB 45438-2025《网络安全技术 人工智能生成合成内容标识方法》于同日同步生效。
关键要点
- 标识办法与强制性国家标准均已于2025年9月1日生效,自发布(2025年3月14日)到施行留有约六个月过渡期。
- 要求两类标识并行:用户可见的"显式标识",以及埋入文件元数据、用于溯源的"隐式标识"。
- 义务主体覆盖生成式人工智能与深度合成服务提供者、应用分发平台,以及二次传播合成内容的用户。
- 恶意删除、篡改、伪造或隐匿标识被明确禁止。
规则到底要求什么
办法建立在三部既有规范之上:《算法推荐管理规定》《深度合成管理规定》《生成式人工智能服务管理暂行办法》。此前这些文件只是泛泛要求合成内容可识别,新规则把它变成可操作的步骤。
对服务提供者,底线义务有两项。其一,当产出落入深度合成情形,必须添加显式标识——文本需在开头、结尾或关键位置标注"人工智能生成"或"AI生成",字号清晰可读,不得缩小模糊以规避提示;其二,文件元数据须携带隐式标识,记录内容合成属性、提供者名称或编码、内容编号,以及用于校验的数字签名或哈希值。
关键在于,义务随文件一同流转。当提供者提供下载、复制或导出功能时,必须确保导出文件仍含合规的显式标识。仅做内容传输的平台同样不能免责:传播网络信息的服务须采取技术措施,在内容流动中保持标识完整。
显式与隐式之分
这种划分是制度设计的核心思路。显式标识是可见的"数字警示灯"——视频角落的标签、图片上的水印、音频里的口头声明,保护的是受众当下的知情权。
隐式标识则是"数字DNA",活在文件内部而非表面,普通用户看不见,但监管、平台与司法机关可读取它来回答起草者反复强调的三个问题:哪条内容是被生成的、由谁生成、从何而来。标准统一了元数据字段,让不同工具与平台讲同一种溯源语言。
谁在责任链上
办法把责任沿链条分配,而非压在单一主体身上。
- 生成或合成内容的服务提供者,须添加两类标识并在导出时保持。
- 应用分发平台在上线审核阶段,须询问开发者是否提供AI生成或合成功能,并核验相关标识材料。
- 通过传播服务发布合成内容的用户,被要求主动声明并使用提供者内置的标识功能,而非剥离标记。
- 任何人都不得恶意删除、篡改、伪造、隐匿标识,不得提供相关工具,也不得借不当标识侵害他人权益。
正是这种"办法+强制标准"的搭配发挥效力。管理办法可以规定义务,技术标准则告诉工程师具体该写入哪些字节。据脑机网首席科学家李安观察,办法与强制标准成对出现,正是让要求在上千款应用间可互操作、而非各自发明不兼容方案的关键。
过渡期为何重要
约六个月的发布到施行间隔并非表面文章。提供者须改造流水线以插入元数据,应用商店须重建审核清单,小型工具也需要低成本的标识路径。官方反复释放信号,鼓励基于标准的低成本标识,使合规不至于把独立开发者排除在外。
坦诚的局限
几点须直说。办法并未给所有内容设定单一可见徽标;何为合规显式标识取决于媒介,直播、交互式智能体、人机混合编辑等边界情形仍待实践检验。执法依托既有框架——违规行为按深度合成与生成式AI相关规定处理——而非另立罚则,因此实际力度取决于这些规定的执行强度。这些都不使规则沦为象征,但也意味着头一年的重心既在文本本身,也在落地执行。
普通人现在能做什么
1. 如果你运营一款输出AI文本、音频、图片、视频或虚拟场景的工具,在期限前排查导出流水线,确保同时具备可见标识与元数据标识。
2. 如果你发布合成内容,保留提供者原有标识并自行追加声明,而非剥离它——删除或伪造标记如今属被禁止行为。
3. 如果你消费媒体,开始把"可疑完美内容却无标识"视为需要核实的理由,而非真实性的证明。