从2025年9月1日起,国家网信办等部门发布的《人工智能生成合成内容标识办法》正式施行,配套的强制性国家标准同步落地。规则的核心只有一句话:人工智能生成或合成的内容,需要以看得见、也查得到的方式“亮明身份”。几个月过去,主流内容平台陆续上线了标识与声明入口,创作者发布时多了一个勾选项,但围绕“标得住、验得准”的讨论才刚刚开始。

显式与隐式,两道标识各管一段

按办法的设计,标识分为显式和隐式两类,前者面向人,后者面向机器。显式标识要求普通用户一眼能看出内容由人工智能生成,常见做法包括文字提示、语音提示、画面角标和特定图形标识;隐式标识则写入文件元数据,记录生成合成属性、服务提供者名称或编码、内容编号等信息,供平台在传播环节自动核验。由此形成一条分工链条:

打标不难,难的是标了以后还能验

真正的挑战出现在传播环节。元数据极其脆弱:截图、转码、二次上传、格式转换,任何一步都可能让嵌入的信息消失。显式标识同样可以被裁剪、遮挡或涂抹。这意味着一条在A平台打标、经聊天软件转发、又在B平台重新上传的内容,很可能在链条中途就“洗掉”了身份。

依靠算法检测也不轻松。当前主流思路包括数字水印、模型指纹和统计特征判别,但面对压缩、缩放、加噪等常规处理后,水印能否稳定提取,仍是衡量技术可用性的硬指标。检测工具还面临两难:阈值调高则漏判,调低则误伤,把真实拍摄的照片判为生成内容,同样会损害信任。

产业链上的连锁反应

标识规则落地后,受影响的不只是内容平台。生成模型厂商需要把标识能力做进推理链路;企业采购侧开始关注素材溯源,合同里出现“提供元数据”的条款;C2PA等内容凭证标准被更多厂商纳入讨论,试图用签名机制证明内容的来源与编辑历史。与此同时,“标识疲劳”与误标风险也被提及——当用户对提示语习以为常,标识的警示作用会被稀释。

接下来该看什么

要判断规则能否真正落地,几个指标值得追踪:一是水印与元数据的鲁棒性,能否经得起社交平台常见的压缩与转码;二是跨平台互认,不同厂商采用不同嵌入方式,核验接口是否统一;三是责任划分,用户未声明、平台未核验,各自承担什么后果,还需要更清晰的案例来界定。标识是内容治理的起点而非终点,它解决的是“知情”,并不直接解决“真假”。

对普通用户来说,更现实的习惯或许是:看到角标不轻信,看不到角标也别全信。在生成能力持续走强的背景下,交叉核实来源,依然是最有效的一道防线。