4月28日消息,国家网信办今日通报,"剪映""猫箱"App及"即梦AI"网站存在未有效落实人工智能生成合成内容标识规定要求等问题,违反《网络安全法》《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》等法律规定。
国家互联网信息办公室指导属地互联网信息办公室,依法对上述网站平台采取约谈、责令改正、警告、从严处理责任人等处置处罚措施。三款被点名产品均隶属字节跳动旗下,这是《人工智能生成合成内容标识办法》2025年9月1日施行7个月以来,监管部门首次以官方公告形式具体点名平台。
三平台同时"中招" 处罚措施层层加码
此次被点名的三款产品覆盖视频剪辑、AI拟人化对话、AI图像视频生成三大核心赛道。剪映是国内月活超亿的视频剪辑App,集成AI图生图、文生视频等功能;猫箱是字节旗下AI拟人化对话产品,对标Character.AI;即梦是图片和视频生成产品,隶属于张楠负责的剪映团队,App端日活已突破百万。 处置措施按递进强度排列依次为约谈、责令改正、警告、从严处理责任人。其中"从严处理责任人"为本轮通报力度最大的措辞,意味着追责将延伸到具体个人,而非仅限平台层面的整改。国家互联网信息办公室相关负责人表示,网站平台要严守法律底线红线,严格落实人工智能生成合成内容标识相关规定要求。
字节系集中受罚 可灵、豆包暂未波及
值得关注的是,三款被点名产品均来自字节跳动一家。市面上同期运营的可灵AI(快手)、豆包(字节)、元宝(腾讯)、通义万相(阿里)、海螺AI(MiniMax)等同类AI生成产品,本轮均未进入通报名单。 字节系集中受罚的背后,与其AI产品矩阵覆盖面更广直接相关——字节是国内少数同时布局视频剪辑(剪映)、对话(猫箱、豆包)、图像视频生成(即梦)三大方向的厂商,触及标识合规的环节也最多。相比之下,可灵AI从产品上线初期即在生成视频中嵌入"AI生成"水印并提供元数据隐式标识,豆包Seedance系列模型生成视频也均带有显式标识。值得注意的是,同属字节的豆包此次未被点名,而即梦AI被点名,反映出字节内部不同产品线在标识合规执行力度上存在差异。
但此次未被点名不等于"合规通行证"。通报措辞明确为"近期集中查处",意味着后续可能还有更多平台被纳入执法范围。
《标识办法》施行7个月 监管路径升级
国家网信办、工信部、公安部、广电总局2025年3月7日公布的《人工智能生成合成内容标识办法》已于2025年9月1日起正式施行。国家市监总局、国家标准委于2025年2月28日发布的强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》(GB 45438—2025)也于9月1日同步实施,规定AI生成合成内容须同时添加显式标识(用户可感知的水印、提示文字)和隐式标识(嵌入文件元数据的服务提供者编码、内容编号等)。
办法施行以来,执法节奏呈三级递进。2025年11月25日,网信部门发布通报"集中查处一批违法违规移动互联网应用程序,依法依规予以约谈、责令限期改正、下架下线等处置处罚",但未具体点名平台;2026年2月12日,网信部门督促网站平台依法依约处置账号13421个,清理违法违规信息54.3万余条。本次4月28日通报,是《标识办法》施行7个月以来首次以官方公告形式具体点名违规平台,监管路径从"账号端整治"和"匿名平台通报"进入"具名平台执法"阶段。
显式+隐式双标识门槛高 中小厂商合规压力陡增
按《标识办法》要求,合规标识不仅要求生成内容本身有可见水印,还要求文件元数据包含服务提供者编码、内容编号等隐式信息,下载、复制、导出环节也需保留标识完整性。这对中小AI厂商构成实际门槛——需要在前端UI改造、模型输出层、文件元数据嵌入、传播环节核验四个层面同步落地。
字节作为头部厂商尚被点名,意味着合规细节差错具有普遍性。三款产品中具体哪些环节未达标,通报未披露细节,对外部观察者判断各平台合规状态构成局限。但从办法第四条至第六条的具体要求看,问题大概率集中在导出文件未含显式标识、元数据隐式标识缺失或编码不规范、传播环节未核验隐式标识等环节。
后续整改期内,剪映、猫箱、即梦AI预计将在产品端补足标识链路,相关动作可能波及用户导出体验、API输出格式以及第三方接入规范。本轮被点名是否会扩展到其他大厂同类产品,仍有待观察。