评测与安全01
facebookresearch/textseal · Codebase for generation-time and post-hoc text watermarking, as well as watermark radioactivity detection.
Text Seal 是 Meta 开源的文本水印工具包，覆盖三条技术路线：TextSeal 双密钥生成阶段水印（支持投机解码与局部检测）、通过 LLM 改写实现的后处理水印（Green-list/Red-list、Gumbel-max、DipMark、SynthID、MorphMark、WaterMax 等方案），以及基于「水印放射性」的基准数据污染检测。仓库同时提供分布式预训练与 SFT 训练基础设施，并支持污染注入以开展研究实验，可用于内容溯源验证、数据集污染检测与水印算法研究。
行业动态02
OpenAI 推出了一套叫 textGrain 的文本水印技术，用来给 AI 生成的文字打上不易察觉的标记。原理是让模型在几个同样合适的词里偏向选某一个，长时间积累后形成一种可被检测器识别的模式。以前给文本加水印比较难，改几个词就可能让标记失效，OpenAI 说在新方法下，200 个 token 的段落能检测出约 80%，400 个 token 能到 95%。API 客户从今天起可以自己选择是否开启，默认是关的；未来几周 OpenAI 会在欧盟自动给 ChatGPT 和 Codex 的部分输出加水印，以配合欧盟 AI 法案的透明度要求。
文中可用工具
- textGrainOpenAI 开发的文本水印技术，通过在近义词间做细微偏好选择来嵌入统计信号
- SynthIDGoogle 开发的水印技术，OpenAI 已用于图片和音频，并与 textGrain 做过检测性能对比
- Content Credentials基于 C2PA 开放标准的内容来源记录技术，OpenAI 从 2024 年起用于生成图片
- Content Provenance APIOpenAI 提供的接口，用于检查受支持的图片和音频中的来源信号
- TextSealMeta 开发的文本水印方法，原文仅提及名称，未说明具体用途
行业动态03
OpenAI 在欧盟规则下推进文本水印：AI 生成的文本里会嵌入一种隐蔽标记，用来帮助判断一段文字是不是由 AI 写的。检测能力不会马上向所有人开放，而是先提供给研究人员使用。材料没有说明具体在哪些产品、哪些地区生效，也没有说明水印的技术细节和正式上线时间。