OpenAI 将文本水印引入 API——与 Anthropic 不同,它默认关闭
OpenAI 推出了一套叫 textGrain 的文本水印技术,用来给 AI 生成的文字打上不易察觉的标记。原理是让模型在几个同样合适的词里偏向选某一个,长时间积累后形成一种可被检测器识别的模式。以前给文本加水印比较难,改几个词就可能让标记失效,OpenAI 说在新方法下,200 个 token 的段落能检测出约 80%,400 个 token 能到 95%。API 客户从今天起可以自己选择是否开启,默认是关的;未来几周 OpenAI 会在欧盟自动给 ChatGPT 和 Codex 的部分输出加水印,以配合欧盟 AI 法案的透明度要求。
文中可用工具
- textGrainOpenAI 开发的文本水印技术,通过在近义词间做细微偏好选择来嵌入统计信号
- SynthIDGoogle 开发的水印技术,OpenAI 已用于图片和音频,并与 textGrain 做过检测性能对比
- Content Credentials基于 C2PA 开放标准的内容来源记录技术,OpenAI 从 2024 年起用于生成图片
- Content Provenance APIOpenAI 提供的接口,用于检查受支持的图片和音频中的来源信号
- TextSealMeta 开发的文本水印方法,原文仅提及名称,未说明具体用途
评论 · 分享第一个看法