8月15日消息,Anthropic 发布技术文章宣布,未来 Claude 模型生成的文本将包含水印,用于判断文本由 Claude 参与生成的可能性。Anthropic 表示,这是为了遵守欧盟《人工智能法案》(EU AI Act),其他几家主要 AI 提供商也在实施同样的变更。水印对读者不可见,官方称其不影响输出质量、不增加成本、也不含任何身份信息。 水印怎么工作:改变随机词选择的来源
水印的机制建立在语言模型逐词生成的方式上。模型在生成下一个词时,会从一组候选词中随机选择——例如"今天的天气很冷而且……"之后,接"多云"或"灰蒙蒙"在语义上都成立,这时选择由随机数决定。水印利用这类低风险选择,在 Claude 的回答中留下一种模式:模式对读者不可见,但持有密钥的人可以检测到。
具体方法上,Claude 的文本水印是 Google DeepMind 在 2024 年发表于《自然》的 SynthID-Text 方法的一个版本,其设计原理可追溯到 Scott Aaronson 在 2022 年的提议。官方强调,水印不会让 Claude 选择它原本不会考虑的词汇,也不会添加隐藏字符或额外 token。Anthropic 用大富翁游戏的类比解释:用圆周率数字代替骰子产生随机移动,玩家体验完全一样,但事后可以判断这场游戏是否用了圆周率。
三重承诺:质量、成本、隐私
Anthropic 对水印的影响作出了明确承诺。质量层面,官方称水印不影响输出的内容、创造力和可读性;SynthID-Text 论文中,Google DeepMind 将带水印模型服务给部分 Gemini 流量并比较点赞率,未发现统计显著差异。成本层面,水印不产生额外 token,模型的服务与使用价格不变,对速度的影响可忽略。隐私层面,水印不含任何身份信息,无法追溯到具体个人、组织或对话。 需要注意的是,"无质量影响"属于 Anthropic 的官方表述,其依据来自内部测试与 SynthID-Text 论文的公开数据。
合规背景:EU AI Act 与透明度守则
水印的推出直接对应欧盟监管。EU AI Act 自 8月2日起要求面向欧盟市场提供服务的 AI 提供商标记 AI 生成内容。Anthropic 于 7月 与多家主要 AI 提供商及约 190 家机构共同签署了欧盟《AI 生成内容透明度行为守则》。由于目前没有按区域限定水印的持久方法,Anthropic 在全球范围内应用水印,并表示会继续评估不同方案。
检测工具与文件凭据
配合文本水印,Anthropic 表示即将推出水印检测 API,用于判断一段文本由 Claude 生成的可能性,具体实现细节仍在确定中。对于 Claude 生成的支持类型文件(如 png、jpg、svg),Anthropic 会在文件元数据中附加 C2PA 内容凭据——一个加密签名的说明,标注文件由 Claude 制作或处理过。C2PA 是相机厂商与图像编辑软件使用的开放行业标准,任何支持 C2PA 的工具都可以读取。
水印的局限:能证明什么、不能证明什么
Anthropic 同时披露了水印的局限。水印只能回答"这段文本有多大可能由 Claude 参与生成",不能确认文本是否为人类所写,也无法判断是否由其他 AI 生成(不同 AI 使用不同密钥与方法)。在短文本上,由于词选择较少,检测可靠性下降;在事实性文本上,由于必须选择唯一正确的词(如"牛顿最著名的著作是《原理》"之后的"Mathematica"),水印几乎没有作用空间。代码大多要求精确,因此水印通常比散文稀疏,主要落在代码注释等有选择空间的区域。
改写可以绕过水印:轻度编辑可能无法完全去除水印,但逐词重写可以。此外,水印无法区分"Claude 撰写"与"Claude 重度编辑",当 Claude 只校对少量人类文本时,水印可能不足以检测其参与。翻译由 Claude 生成时含水印,因为每个词都由 Claude 选择。8月2日前发布的老模型处于过渡期,Anthropic 将在未来数月内为这些模型补充水印。
AI 内容透明从自愿走向强制
把水印机制与合规背景放在一起,Anthropic 这次动作的定位是清晰的:它不是给 Claude 加一个"可见标签",而是在不改变用户体验的前提下,为 AI 内容提供机器可验证的出处标记。SynthID-Text 方法的选择,说明行业在文本水印上正在走向共识——同样的技术也服务过 Gemini。
对用户与开发者而言,实际影响有限:输出不变、价格不变、隐私不变,多出来的是一项检测能力。对行业而言,这是 EU AI Act 落地后主要厂商的首次具体执行,约 190 个签署方中的其他厂商预计也会陆续推出各自方案。需要看到的边界是:水印不是万能的,改写、短文本、事实性内容都会削弱其效力;检测 API 尚未上线;"无质量影响"仍需长期验证。AI 内容透明迈出了实质性一步,但它解决的是"可检测性",不是"绝对归属"。